LLM
从语音模型与任务模型的分工出发,解释 GPT-Live 的实时交互,以及流式音频、接话判断、打断处理和上下文同步的工程原理。
·4 分钟阅读
LLM
基于 OpenAI 当前官方文档,解释原生语音对话、轮次检测、打断与工具调用,梳理 GPT-Realtime-2.1 的限制和计费,并提供可下载的 WebRTC 接入示例。
·16 分钟阅读
认知科学
介绍 SWOT、OODA Loop、艾森豪威尔矩阵、零基思考、波特五力和 Jobs-to-be-Done 六种常见的认知决策模型。
·10 分钟阅读
推荐系统
原文: Wukong: Towards a Scaling Law for Large-Scale Recommendation 网络结构 参考 LLM 领域 Transformer 的结构设计, 对推荐场景进行了适配。 网络结构…
·1 分钟阅读
Cerebras
一、公司图谱:硅谷硬核派的“晶圆狂想” Cerebras Systems成立于2015年,由硅谷半导体行业资深团队创立,致力于突破传统芯片设计的物理极限。其核心理念是“以整片晶圆为画布”,将传统切割成数百个小芯片的12英寸晶圆直接…
·3 分钟阅读
LLM
大模型推理过程 大模型的推理可以分为两个阶段: Prefill: 基于全部Prompt进行前向推理, 得到第一个token。计算密集。 Decoding: 通过自回归方式, 递归输出新的token。内存密集。 由于 Prefill…
·3 分钟阅读
DPO
大语言模型原理之 DPO 算法
·1 分钟阅读