声湃
声湃59:29从蒸馏到合成数据到 RSI:对谈 Evolvent AI 联创孟繁青
42章经对话 Evolvent AI 联创孟繁青(曾在 Kimi 做 Agent/RL Infra)。他把 RSI 说成「更聪明的 DFS」,并断言不存在 RSI 基模——能力在预训练就被内化。节目还拆开合成数据行情、蒸馏是否真是国模追赶的决定性因素,以及国内反而可能在预训练架构创新上更有特色的非共识判断。
42章经·发布于 2个月前
共 2 条
声湃59:2942章经对话 Evolvent AI 联创孟繁青(曾在 Kimi 做 Agent/RL Infra)。他把 RSI 说成「更聪明的 DFS」,并断言不存在 RSI 基模——能力在预训练就被内化。节目还拆开合成数据行情、蒸馏是否真是国模追赶的决定性因素,以及国内反而可能在预训练架构创新上更有特色的非共识判断。
42章经·发布于 2个月前
晚点聊1:55:18晚点聊邀请 SGLang 核心开发者赵晨阳与华盛顿大学博士生曾致远,从推理与算法两条线拆解 Kimi K3:混合注意力 KDA+MLA、近千专家的 Quantile Balancing、MOPD 多教师蒸馏,以及「开源了权重、没开源产生权重的流水线」意味着什么。既有使用体感与估值辩论,也有 serving 为何暂时变慢、6.3 倍解码加速从哪来的工程细节。想理解开源前沿模型真正开放了什么,这期密度很高。
晚点聊 LateTalk·发布于 3个月前