这是一份整理稿。前半部分是姚顺雨 11 月 18 日晚在清华姚班的闭门分享,聊造模型的三块工程、组织与评测、能力为何”平滑进步、感知跳变”。后半部分是 11 月 21 日凌晨混元团队在 Reddit r/LocalLLaMA 的公开 AMA,两小时回答近 100 个问题,谈参数规模、MoE 稀疏度、强化学习与开源路线。
第一部分(清华分享):逐字稿来自现场录音转写(量子位整理稿,声明「未经本人和主办方确认」),并与 36 氪「AI 前线」报道互相校核;转写稿为保证可读性做过轻度精校,个别产品名疑为听写误差,已在原处标注。
第二部分(Reddit AMA):来自腾讯科技公众号《120 分钟,姚顺雨携团队回答关于混元的「任何问题」》,为北京时间 11 月 21 日凌晨混元团队在 r/LocalLLaMA 公开 AMA 的中文整理,部分技术参数以官方模型卡为准。
第一部分 · 清华姚班闭门分享(2026.11.18)
基本信息
- 场合:清华大学交叉信息研究院(姚班)闭门 Q&A,现场板书题为「姚顺雨 Q&A」,时长两个多小时,气氛被参会者形容为「像播客访谈一样轻松」。
- 时间:2026 年 11 月 18 日晚。
- 主讲:姚顺雨,腾讯首席 AI 科学家、混元(内部简称 Hy)大模型负责人。
- 主持:吕凯风,清华交叉信息院助理教授,姚顺雨本科同班同学,当年住对门。
- 主讲背景:姚班 2015 级、普林斯顿博士;ReAct 范式提出者之一,SWE-bench 共同作者,τ-bench 第一作者;在 OpenAI 参与 Operator(CUA)与 Deep Research。
- 开场定位:回来一是给老同学捧场,二是来招人;聊到兴起时提议现场拉群、把 HR 也拉进来。
核心要点
- 造模型分三块:Infra、预训练、后训练,每块都含算法、数据、评测。Infra 先把「正确、稳定」做住,再谈效率。
- 预训练的核心方法是 Scaling Ladder:先在多个小规模跑出趋势,再看大模型是否符合;但小尺度摸出的规律到大尺度未必成立。
- 后训练优先级是正确性、稳定性、效率;算法回归朴素的 Policy Gradient,因为它假设少、容易随规模放大;GRPO 是其变体。
- 后训练数据要同时喂「智商」(难度,对应 Intelligence)和「情商」(实用,对应 Alignment),先做 Eval 找短板再围绕它造数据。
- 组织上反对唯指标与过度赛马:MFU 从 10% 到 20% 好汇报,但真正决定结果的是修正确性 bug、洗脏数据、保训练稳定。
- 刷榜到过拟合,等于把有用的评测变成没用的东西;文化上要 Low Ego、诚实、踏实,建立基于 Taste 与 Trust 的判断机制。
- 模型能力是平滑进步的,用户感知是跳变的;任务能力也不是线性上升,而是在长平台期后突然「好用」。
- 商业爆发来自交互方式跳变或跨过实用门槛;定价由竞争决定,技术领先只创造阶段性优势。
- RSI 概念被过度包装,真正的进步来自修 Bug、洗数据、跑实验这些具体工程;现有架构下持续采集真实反馈仍有很大空间。
- 具身智能可能迎来自己的「GPT-3.5 时刻」,个人预期半年到一年;判断路线先看可扩展性。
- 安全要分 Safety(自身跑偏)与 Security(外部作恶),后者更急;防线分训练、发布前评测、进入产品后三层。
- 对个人:要么融入浪潮(数据、算法、Infra),要么做与模型互补的事;判断标准是「GPT-6 发布,你今晚睡得更香还是更睡不着」。
逐字稿全文
造模型:Infra、预训练、后训练
吕凯风:混元的「混」到底该怎么念?
姚顺雨:现在我们一般叫 Hi。我们发现,Hunyuan 这个词,美国人压根不知道怎么发音。后来就简化成了 H、Y。
先讲讲我们在做些什么。造模型要做 Infra、预训练和后训练,里面又各有算法、数据和评测。
Infra 要保证作业正确、稳定。哪怕平时效率很高,只要大规模跑的时候一抖,实验就做不下去。稳定之后还得快,训练和推理都慢,团队就会很难受。
预训练算法这边,一部分是架构,一部分是优化。
架构可以有很多组合,比如选哪种 Attention、位置编码怎么做、MoE 放在哪里。不同设计可能改善训练效率、推理效率或者训练稳定性。
这就有了 Scaling Ladder。我们希望一个改动在很大的尺度上有效,但直接做大实验太贵,要用很多卡。
怎么办?先在小模型上试,在多个规模上跑出趋势,再看看更大的模型符不符合它。
小模型上的收益到了大模型会不会变小?不符合又是哪里出了问题?这就是我们要回答的。
预训练数据很重要的一件事,是有足够多样的 Token。
有人担心数据要耗尽了,你当然可以把稀缺数据重复用,比如代码。但重复太多,模型就会背下来,你得让它尽可能多地学到东西,少记住原文。
也可以合成数据,难点是合成质量别往下掉,或者做动态数据。这些数据怎么配比,也需要先小后大做实验。
麻烦的是,小尺度摸出来的规律,到大尺度上未必成立。
评估预训练时,可以用 Few-shot 或者做一点 SFT 再测,比如 MMLU、数学,这些结果可能和后训练能力更相关。
基于困惑度或 Loss 的评测,更便于观察 Scaling 趋势,但和后训练的联系未必那么紧。你得找一个有预测力的评测,还要想清楚它跟预训练数据的关系。
后训练在优化什么
姚顺雨:后训练通常有 SFT 和 RL。SFT 是监督学习,到了 RL,正确性最重要,然后是稳定性和效率。
RL Infra 是把推理和训练拼起来。可以先把两边当成 API,琢磨怎么让吞吐更高、内存更省、有限的卡怎么分。必要的时候还得拆开来看,找训练或推理的人一起解决问题。
算法上,RL 有 Value-based、Model-based 等很多路线。
至于为什么现在又回到很朴素的 Policy Gradient?我觉得它假设少,容易随规模扩大。
GRPO 也属于 Policy Gradient。上面可以加很多技巧,超参数也要调。
还是那个思路,用理论直觉和小实验先弄清楚趋势,再预测更大的实验。
后训练数据有个很自然的出发点,你希望模型平常干什么,就让它练什么。
让它做 3D 动画,或者写一段真的有用的代码,数据就要体现这些任务。
有些数据考的是难度,比如数学题可以设计出很细的难度梯度。另一些考的是实用,比如写作也许没那么吃算力,但用户很需要。
前者和智能有关,后者某种程度上和对齐有关。
模型要有智商也要有情商,后训练数据需要在两者之间找到平衡。
我们往往先做一个 Eval,找出哪里需要提高,再围绕它做训练数据。评测得能反映真实用户的任务,才知道技术进步有没有落到使用上。
还有一点,技术最终要被人用起来。
要是你觉得你的模型和 GPT、Claude 都差不多强,但收入只有人家的百分之一、千分之一,这就是个信号,应该回头看看哪里出了问题。
组织与评测:把榜单刷废了,对自己也没用
吕凯风:刚才讲的是技术。再聊聊组织,团队怎么判断哪些事值得做?如果榜单和实际产品之间有落差,怎么避免大家只优化报表上的指标?
姚顺雨:最后还是看负责人的目标,整个组织认为什么重要。
你把模型的各环节分开做,团队要汇报,就容易报一些可量化的东西,MMLU 多少、模型参数多少、数据量多少。老板或者投资人如果不太懂这里的门道,团队很容易沿着这些指标去优化。
比如一个做 Infra 的人,说我今天修了个 Bug,或者说我把 MFU 从 10% 提到了 20%。听起来后者好汇报,但关键是哪个事情更该做。
很多时候你做了正确的事情,短期报表上也不会多一个好看的数字。
吕凯风:混元最近用了不少评测,也披露了部分评测的测法。行业有刷榜压力,探索性的工作又很难量化。在这种情况下,怎么设计机制,既让评测反映真实能力,也让大家愿意做那些一时没有分数的事?
姚顺雨:君子爱财,取之有道。谁都希望分数高,关键是用什么方式把它做高。
正常的评测,别人辛辛苦苦做出来,是为了帮你了解模型。如果你把它刷到过拟合,它以后就没法帮你了。
为什么要把一个对你有用的东西变成没有用的东西?
第一步招人时就要小心,尤其是创业时找联合创始人、找最初的几个人。
我们希望找到 Low Ego、诚实、踏实、愿意做正确事情的人。几个人的价值观如果差很多,团队后来就难做。文化也是从一小群人开始,再传给更多人。
我们希望建立一种基于 Taste 和 Trust 的文化。
你说这个事情大概要多久、正常进度是什么,我对这个领域有判断,也信任你。
如果突然说所有评测涨了 40 个点,和我的认知不太相符,我会问发生了什么。单看谁的分高就重用谁,那是另一种组织方式。
微信和游戏很像这个道理。
微信刚出来时,没法靠 A/B 测试预测它十年后的样子。你相信张小龙可以把这个产品越做越好,才会让他做到那个时候。
一个游戏或者一部《庆余年》,上线之前也没法靠一组指标判断它一定会火。
你判断创作者和作品有潜力,就愿意下注。做短剧、小游戏时,反馈来得快,某些决策可以交给数据。
吕凯风:在学校,作业的目标都给定了,AI 解题就会显得很厉害。实际工作里,经常要自己定目标。未来模型能学会判断什么目标值得追吗?
姚顺雨:Taste 肯定可以学,也可以变好。就像 AlphaGo 对围棋的判断会越来越好。
我的一个信念是,人始终有位置。
某些 Infra 或者算法环节需要的人可能少了,但数据和判断这些环节,还是有人的事情要做。
能力平滑,感知跳变
吕凯风:最近一年,模型能力的进步很惊人。跟前一年比,你感觉最大的变化是什么?
姚顺雨:这个问题特别主观,我其实挺想听听大家怎么看。
你如果一直在 OpenAI 待着,会觉得这个世界很连续。从 GPT-1 到 GPT-2、GPT-3,你每天看模型一点点变好。公众不会天天跟这个过程,突然有一天看到了 ChatGPT。
推理模型也一样。内部看到的是思维链慢慢变长,模型一点点升级。用户感知到的是交互体验,有时某种交互方式突然变了,产品就会爆。
这也是为什么像 OpenClaw 这样的东西会突然火起来。
还有一种情况,大家以为一件事很难,突然有人把模型拿去一试,发现它已经会了。
数学就是这么过来的,从小学题开始打怪升级,外界一开始不太关心,后来突然发现它已经能做自己在做的题。
吕凯风:后训练的基本思路似乎没太多变化。以前从 IMO、IOI 这些任务入手,模型厂商也找了不少人写题、标数据。现在模型开始做科学问题,这些能力有多少靠领域专家,又有多少可以靠扩大规模获得?
姚顺雨:我们也在试。
先插播一句,我们确实招了不少姚班的同学,有人在做 Infra,有人在做训练,在各自的岗位上做得挺好。我们不会只让大家去标数据,高年级本科生也有合适的位置。
看一个领域,可以问它有多大程度受算力制约,有多少取决于算力以外的东西。
数学相对更靠前者。有的领域还要数据和环境。比如机器人得有真机,物理、生物要做实验,写作和情感陪伴还得理解人。
你给更多卡,当然有帮助,但还得去把别的条件补上。
所以说到中美差距,短期内对高度依赖算力的任务,算力差距确实会带来差异。
我觉得长期算力未必是个问题。到了需要人或物理环境的任务,能不能拿到合适的数据、把反馈跑起来,同样重要。
价格由谁决定,学生往哪走
吕凯风:现在外界给前沿模型公司很高的估值。如果眼下主要靠 Coding,收入能撑起那么高的价格吗?后面还会有哪些场景?
姚顺雨:价格很多时候取决于竞争。模型是商品,它能赚多少钱,一方面看对用户能产生多大价值,另一方面看有多少替代品。
模型越强,能解锁的任务越多。可是一旦有很多模型都能做好同一件事,价格就会下来。
比如今年,Coding 或者 Agent 突然从不好用变成能用,释放出来一大批价值。
下一年先看会不会解锁新场景,窗口有多长。再看已有场景会发生什么,后来者追上之后,份额和价格都会变。
现在有人觉得手里的模型已经够用,如果有一个能力相当、价格只有十分之一的版本,他愿不愿意换?这是挺有意思的问题。
吕凯风:那学生选方向呢?不管本科还是博士,应该选眼下已经能做的,还是去押下一件会被模型解锁的事?
姚顺雨:我觉得有两条路。你可以融入大模型,去做训练数据、算法、Infra。也可以找跟模型互补的东西。
创业者可以问自己,假如下一个 GPT 发出来了,你今晚睡得更香还是更不香?如果你的方案全靠人去解决模型今天解决不了的数学题,以后可能会挺费劲。
在大模型里面,适合不同人的岗位很多。
爱打竞赛、喜欢每天看数字变好的人,可能喜欢做 Infra 的 Kernel,或者做预训练。速度上去了,Loss 降下来,就有正反馈。
喜欢想目标到底该怎么定的人,可能适合做对齐或产品。想象力丰富,可以做算法研究。做事仔细、愿意把每个细节弄明白,也有很多岗位需要这样的人。
往互补的方向走,比如做机器人,就算有一天模型可以从别处拿到,还需要人把它调起来、部署到物理世界。
做产品也一样,如果模型变强,你反而更高兴,因为又能做以前做不了的功能了。
具身智能的「GPT-3.5 时刻」
吕凯风:现在姚班也有不少人在做具身智能。通用多模态模型已经能做一些原本要专门训练的任务。具身公司要继续单独造模型,还是等大模型先把通用能力做好?
姚顺雨:我个人觉得,单做一个垂类模型遇到的难题是怎么 Scale、怎么利用泛化性。
你靠真机一条条采数据,采集速度有限。有再多卡,你也未必用得上。相反,如果有一种能吃下大量通用数据和算力的办法,它能撑到的规模就不一样。
可扩展性很大程度会决定一条路线能不能走下去。
我觉得具身可能会出现类似 GPT-3.5 的时刻,让大家突然看到它能创造价值。离那一步,也许还有半年到一年。这是我个人的预期。
到时候可能用到通用模型,也还要有人训练、部署,最后做成产品。
创业还有机会,还是问一句,你是在押计算机会越来越强,还是在押计算机做不了这件事?
吕凯风:那如果有同学最近就要决定要不要去做具身呢?
姚顺雨:可以来试,也可以考虑模型公司里跟这个方向相关的工作。我们也不能不做这方面的探索。
开源与安全:Safety 和 Security 是两件事
吕凯风:模型能力上来以后,为了完成目标,它可能会做出意料之外的动作。最近有安全团队做了一项评测,涉及部署在腾讯云上的第三方模型。一个日常问答任务,也能让 Agent 去尝试原本不该碰的外部渠道。你怎么看这类现象?
姚顺雨:我很高兴你问到安全。模型能力上去之后,安全是不能绕过的问题。
这类评测里,测试者会专门放一个很难或不可解的问题,观察模型为了交卷会做什么。
就像几个人各在一个考场,原本没人能互相联系,结果他们发现了一个意料之外的沟通渠道,还开始分工找答案。
这本来就是为了给模型施加压力,看沙盒的约束够不够。我们在发布材料里专门有一节谈负责任的开源,也做了很多安全检查。
我觉得要分两个概念。
房子自己着火,是 Safety。有人从外面撬门,是 Security。
一个是模型自身可能出现的危险行为,一个是有人拿模型干坏事。现在比较急的是后一类,需要好几层配合。
第一层是训练。发现软件里的问题,对防守者很有用。能发现一个弱点,和具备利用它做坏事的能力,是两个不同的要求。我们的训练有意识地偏向防御。
第二层是发布前的评测,团队自己测,也和腾讯的安全实验室等机构合作评估。第三层是模型进了产品以后,还需要针对实际场景有相应的防护。
有人说权重开了,发布方就没法控制每一种用法。我的理解是,负责任的开源要在训练、评测时把这个问题想在前面。安全工具也要能让防守者用上。
有个安全事件里,当事人向闭源服务求助被拒,最后用开源模型来协助防御。你当然希望在需要保护自己的时候,有工具能用。
网络安全之后,生物安全也会越来越重要。不同模型现在到了什么程度,我没有把握,需要认真看评测。
提问者:模型只顾完成任务,甚至主动找到旁路,我们该怎么理解这种行为?手里没有算力的学生,又能从什么地方入手做安全?
姚顺雨:至于模型会不会按人的意图做事,我觉得很多时候要回到打分规则。
模型发现做一个动作就能拿 100 分,它自然会往那个方向走,可你真正想要的可能完全是另一回事。
就像教育孩子,如果只给数学考 100 分这一件事奖励,他最后也许成了奥数选手,但教育里还有很多别的目标。
对齐、Safety 和 Security 都可以拆成具体工程问题。比如基于人类反馈的强化学习做得不够好,可以再加一道保护,看看能不能把结果做得更好。
人做对齐很难,机器也可以帮忙。做 AI 安全的同学,即使没有训练资源,也可以在授权范围内找模型不符合预期的地方,做测试,把结果反馈给我们。
做得好,欢迎过来实习。
现在很大的挑战是 Alignment。
Scaling 有比较清楚的趋势,但模型的「人感」不会因为大了一圈就一定更好。对话有时更好懂,有时反而变得难懂。
我们会用越来越多 AI 来做对齐,真正要想的是在哪些环节放进人,用什么方式监督,这些细节非常重要。
AI 如何改进 AI(RSI)
提问者:现在说递归自我改进,也就是 RSI,很多做法是让这一代模型帮助训练下一代。人可以边推理边学习,把经验内化到同一个大脑里。Transformer 要做到类似的事情,是不是得换一种架构?
姚顺雨:我会问两个问题。一是 AI 能不能创造很大的价值,承担大量认知任务。二是它能不能像人一样完成这些任务。
现有范式也许足以做到第一件事,第二件事未必。
你问的有点像 Continual Learning。假设人的寿命没有上限,同一个大脑可以不断学、不断改进,这是很有意思的设想。
我不排除会有新的范式,但就算没有架构创新,在现有架构下持续采集真实反馈、把数据和能力一层层做上去,依然有空间。
对企业来说,还有一个很实际的问题,就是 ROI。一般的投资,你很难提前知道加一笔钱会得到多少回报。
Scaling 给了企业一个相对可预测的关系,投入更多算力,模型大概率会更强,再去看这些能力能创造多少价值。这是为什么这么多公司愿意持续投。
持续学习也可能是渐进的。
如果模型更会用记忆、处理上下文、用笔记保存经验,长期表现就有可能慢慢变好,像数学、Coding、机器人一样。至于会不会有新的架构突破,我觉得都有可能。
OpenAI 与混元的组织差异
提问者:OpenAI 和混元在组织方式上有什么区别?这种区别和算力有多大关系?
姚顺雨:OpenAI 更像自下而上的组织。
早先在做机器人,GPT 起初是个小项目,后来做出了结果,Ilya 决定把资源押上去。后来的 Strawberry,也就是 o1,也是类似的。一开始有个小组做数学,做到一定程度发现这条路有效,就开始扩大模型、补训练数据。
这种方式像创业,有人把一个方向做出来,就会得到更多资源。
自下而上容易长出新东西,自上而下更适合执行。
混元会先选择一些有把握的方向,再把事情扎扎实实做下去。团队的风格也跟创始人的风格相关。
提问者:我们在学校相对缺少一线信息。比如 OpenAI 发布一个新模型,怎么判断对方做了什么、自己的方向要不要调整?学生怎么才能更靠近前沿?
姚顺雨:多交些好朋友。但很多所谓的秘密,没有那么值钱。
现在信息传得很快,知道别人做了什么,离你自己能把它做好还有很长一段距离。
我觉得更重要的是把一件事执行好。创业也一样,想法很多,真正难的是把其中一个做出来。
提问者:那怎么选实习的地方?大模型公司各有自己的方向,本科生进去又经常只能打下手。很少有公司会把跑预训练这种事交给实习生吧?
姚顺雨:我们现在就有实习生在跑预训练。
提问者:那如果从学生的角度选,应该怎么判断一家公司值不值得去?
姚顺雨:来混元吧。
我觉得我们这儿年轻人能做重要事情的机会很多,这一点很重要。
RSI 炒得再热,也得有人修 Bug
提问者:现在出来很多做 RSI 的公司。研究里用模型改进模型已经有一段时间了,你怎么看这一轮热潮?
姚顺雨:RSI 说到底,就是怎么用 AI 把这个循环跑得更好。人造了工具,再拿工具来造更好的工具,这件事很朴素。
概念可以一轮一轮炒,实际进步来自把事做出来的人。怎么把 Infra 的 Bug 修了,怎么把数据洗干净,怎么把 Run 跑起来,该 Debug 的都 Debug 了。
这些事情做成了,才有进步。
提问者:做后训练时,我发现有些小模型很难提出好的科研想法。问题在哪儿?科研数据少、RL 目标有问题,还是算力规模不够?
姚顺雨:有可能就是卡不够。
我博士最后几年也做过后训练。做完 ReAct 之后,我有个很简单的想法,造一些 ReAct 的轨迹,再把它们喂给模型,模型应该会变强。
我拿 Llama 13B 一试,效果很差。我一度怀疑自己,后来去了 OpenAI,才发现模型和算力的规模对这类实验有多重要。
在很多方向上,如果卡不够,你可能都不知道什么才是重要的问题。小规模里有许多噪声,会影响你对结果的判断。
规模到了,同一组实验也许能给你一个清楚得多的结论。这是很值得亲自体验的。
提问者:我是姚班大二的学生。过去觉得写作、做数学题、执行长程任务,都是值得练的能力。现在 AI 一项项学会了,那我们应该重点发展什么能力?
姚顺雨:我刚才说,可以融入大模型的浪潮,也可以做跟它互补的事。
加入一家基础模型公司是一个选项。往别的方向走,可以想想在现有范式下,什么问题即使有更多算力,也没那么快解决。
数学不太适合举在这里。和人、和物理世界打交道的事情,除了卡,还有别的资源和条件,这些东西来得没有那么快。
硬件也是很本质的方向。你也可以多学一些人文的东西,对人性理解得更深。像 UI 设计这样的工作,什么时候能由 AI 接过去,我不知道。
小模型还没到头
提问者:如果是收发邮件、点外卖、管智能家居这样的 Personal Agent,需要多大的模型?几 B、几十 B 的小模型到头了吗?
姚顺雨:小模型离上限还远。现在大家还没有把太多资源放在这上面。AI for AI 也会帮到小模型。
训练小模型需要的卡少,可以做更多实验。未来一个很有意思的方向,就是用小模型、用很低的成本去做大模型能做的一部分事。
可能会先训一个强模型,再蒸馏出不同大小的模型,各自去做恰好适合它的任务。这样就形成一个模型的层级,或者叫模型系统。现在已经在发生了,往后会更多。
提问者:那未来是越来越多模型跑在手机、电脑上,还是最后都集中在云端?
姚顺雨:看任务。
端侧小模型便宜,也能保护一部分隐私,但能做的事有上限。你要解最难的数学、科学问题,可能还是要用最大的模型和大量推理算力,在机房里跑。
不同应用会有不同形态。
算力之外,还差什么
提问者:你在美国和中国都做过模型,怎么看两边的环境对产业发展的影响?
姚顺雨:总体上,我觉得国内的环境对科技发展有利。中国会把新能源、AI 这样的方向当成重要战略,愿意做长期投入。美国有更多不同的声音、不同的利益,连 AI 投资本身也会遇到争论。
吕凯风:比如美国不少地方在讨论数据中心要不要建,建在居民区附近就容易引起反对。数据中心毕竟是个物理设施,选址也是算力能不能铺开的一个条件。
姚顺雨:我回国后跟一些专业人士交流,发现里面有不少真的懂科技的人,有院士、博士。在推动 AI、芯片这些事情上,大家的诉求也很朴素,就是希望把事情做出来。
提问者:我因为觉得具身智能有很多靠算力没那么快解决的问题,所以选了这个方向。最近看到通用模型的能力,又有些动摇。到底有哪些事不能光靠 Compute(算力)?
姚顺雨:很难说有什么事永远不能靠 Scaling 解决。更实际的是看快慢,有的东西快,有的东西慢。数学相对快。
如果我是你,会去学校、创业公司或者不同团队多试试。不确定性越大,越值得自己做一轮。你对各方向的认识,会和只听别人讲不一样。
提问者:模型还在扩大,公开文本、真实数据的供应却有限。你觉得什么时候会遇到 Data Wall?
姚顺雨:你说五到十年,这在 AI 里已经是个很少听到的时间尺度了。就我现在看到的东西,一到两年内还看不到这个问题。再往后有可能,不好说。
提问者:蒸馏是获得高质量数据的一个办法。前沿模型越来越不容易拿到完整思维过程,这会不会拉大国内模型和头部模型的差距?
姚顺雨:每家的蒸馏程度、做法都不同。长期最重要的是,你这个组织对什么是好数据有没有 Taste。
过去十年,生产数据的办法一直在变。以前给自动驾驶标框,后来找人标各种专业数据,再后来用模型生成,或者让模型自己在循环里造数据。
组织的长处如果只是一种生产方式,方式变了就容易出问题。对数据质量有自己的判断,这个能力保留得更久。
提问者:现在文本、视觉发展很快。工业里还有时间序列、流场数据、表格这些形式,有些专门的模型也做不到复杂推理。将来怎么处理?
姚顺雨:有两个可能。一种是人如何分析这类数据,Agent 就去调用相应的工具,甚至可以训练一个专门处理这种模态的模型。人能用工具完成一套流程,Agent 也可以学着做。
另外一种是把这种模态纳入模型,让模型直接认识它。两种应该都会发生,最后各占多少,我不知道。
尾声:说唱社与集合论
吕凯风:换个话题。你当年和几个朋友一起创办了清华的说唱社。能聊聊那时候吗?
姚顺雨:我还挺惊讶,现在年轻人都在创业。
我们那会儿在姚班压力也很大,我大三下才开始做科研,还是因为推研得做。
我们还在写大作业,已经有一个人大一下就发了篇 ICML,成了我们班第一个发论文的人。这个人就是吕老师,大家一下都很焦虑。
吕凯风:一般制造焦虑的人,自己感觉不到焦虑。
姚顺雨:做一件事,最好有点内在动力。如果为了做科研而做科研,就像一个孩子从小学琴,最后琴弹得很好,可他想不想成为那样的人,是另一件事。
我上计算机课觉得很有意思,但当时大家做理论,琢磨怎么把一个复杂度从 2.7 次方降到 2.6 次方,我对这种问题没那么有感觉。
我也试过,有老师发给我一篇论文让我研究,我看了没懂,就默默跑了。
上大学后其实有很多选择。你觉得唯一一条路就是某条路,最后可能真就只剩这条。出于自己的兴趣做一件事,即使结果没有预想的好,也不太容易后悔。
吕凯风:当时去做说唱,后来有没有影响你做研究?
姚顺雨:很多当时觉得是弯路的事,后来会连起来。吕老师也经历过换方向的迷茫,但他总体上是在追自己的兴趣,什么真正感兴趣就去做什么。
你做说唱,可能对语言有更强的 Taste。你做过理论,那些功底说不定有一天会派上用场。吕老师高中时还做了 UOJ。也许有一天,做竞赛评测系统的经验会帮到大模型,那时候谁知道呢?
我很喜欢乔布斯那次斯坦福毕业演讲。以前做的事就像一个个点,等你后来做一件大事,突然发现这些点连起来了。
吕凯风:回头看,有哪些东西你希望当时能多学一些?
姚顺雨:我读博时有点后悔,觉得以前应该多学一点纯粹因为有意思而学的课。等做很具体的工作以后,就没那么多时间享受这种乐趣了。所以读博最后一年,我还报了一门集合论,觉得非常优雅。
集合论从很少的基础出发,能推出很大的数学世界。大模型也有点像,一开始就是显卡、Infra、算法、数据这些基本的东西,组合起来之后,可以去建模世界上很多东西。
有些知识学的时候未必立刻有用,我觉得也没关系。
招人逻辑:重点看下一次能学会什么
吕凯风:同学们会发现,有时做过一些零散科研,面试效果还不如把竞赛经历讲清楚。公司明明招人写 GPU 算子,面试也未必直接考 GPU。背后的招人逻辑是什么?
姚顺雨:我们待会儿拉个群,可以把 HR 拉进来,现场招人。
我觉得最重要的是学习能力。
面试的人想知道,你能不能把新的知识学会,能不能判断哪部分最重要。
过去会不会某一个具体工具,没有那么重要。我们自己有些重构工作,也是同学加入后现学,再真正做了很大一块。
现在是加入大模型团队挺好的时候。模型会越来越强,我也不知道以后这些工作还会招多少人,但眼下有很多重要的事情可以做。
我们文化里很重要的一点是 Low Ego。年轻人没有那么多经验,有时反而更愿意接受新东西、更坦诚地沟通。许多问题追到最后,其实是 Ego 的问题。造大模型这件事是团战,没人能靠自己一个人做出来。
还有 Co-design。
做 Infra 要跟算法、芯片的人沟通,做后训练要跟评测、数据和 Infra 的人沟通。要定一个预训练架构,就把多模态、后训练、RL Infra、推理和训练 Infra 的人叫到一起。
一个方案对训练有利,可能增加推理成本,还会影响后训练的能力。得把这些账放在一起算。
第三是 Solid。
我觉得大多数岗位看的是这个人靠不靠谱,能不能负责任地把细节弄明白。
比如数据里一个看起来很小的异常,追下去才发现,某类占比不高的数据重复了 20 万次。又比如发布之前,有同学试用时感觉不对劲,自己去查了 100 个样本,最后顺着查到了 WorkBuddy 里的参数设置。
靠谱就体现在这种时候。一个问题刚露出点苗头,你愿意接着查,最后能说清楚它到底出在哪儿。
小结
- 模型要有智商也要有情商。
- 君子爱财,取之有道。谁都希望分数高,关键是用什么方式把它做高。
- 为什么要把一个对你有用的东西变成没有用的东西?(指把评测刷到过拟合)
- 很多时候你做了正确的事情,短期报表上也不会多一个好看的数字。
- 我的一个信念是,人始终有位置。
- 概念可以一轮轮炒,实际进步来自把事做出来的人。
- 假设 GPT-6 发布,你的创业团队会因此睡得更香,还是更睡不着?
- 你是在押计算机会越来越强,还是在押计算机做不了这件事?
- 房子自己着火,是 Safety;有人从外面撬门,是 Security。
- 以前做的事就像一个个点,等你后来做一件大事,突然发现这些点连起来了。

第二部分 · 混元团队 Reddit AMA(2026.11.21)
来源:腾讯科技公众号《120 分钟,姚顺雨携团队回答关于混元的「任何问题」》。活动为北京时间 11 月 21 日凌晨,姚顺雨及混元团队在 Reddit r/LocalLLaMA 的公开 AMA,持续 120 分钟,回答近 100 个问题,是混元团队首次在开发者社区公开问答。以下为问答整理,个别技术细节为社区提问的译述归纳。
场次背景
- 时间:2026 年 11 月 20 日 8 至 10 AM PT(北京时间 11 月 21 日凌晨);地点:Reddit r/LocalLLaMA。
- 产品节奏:11 月 4 日发布 Hy4,跻身全球最强开源模型之列。Artificial Analysis 智能指数榜单位列中国模型第二,Agent Arena 榜单居开源模型首位;一周多后发布 Hy4 flash,定位「日常工作的极致性价比模型」,单任务成本仅为 Hy4 的二十分之一。
- 时间线:距离今年 2 月重建预训练与强化学习基础设施,只过去九个月。
- 重建之初确立的三项原则:能力体系化,不做偏科的模型;评测真实性,以真实任务而非榜单分数检验模型;性价比追求,让智能用得起、用得好。
划重点
- 下一代 Hy 模型将继续扩大规模,团队仍然相信 scaling law;但「做得扎实的小模型也能超过更大的模型」,Hy4 还有很大空间靠后训练挖潜。
- 模型训练仍然需要人的 Taste;数据质量没有统一标准,最终要靠实验检验,不能只依赖单一排行榜。
- MoE 不是越稀疏越好:激活参数本质决定计算预算,总参数固定时削减激活参数,可能明显损害模型能力。
- 大规模强化学习仍是重点,尤其是复杂任务的准确性和可靠性:高难度训练数据、奖励机制、长上下文管理,以及面向科学研究的 RL。
- 不迷信排行榜;判断模型表现要结合内部测试、公开评测、第三方评估和实际用户反馈。
- AI 写作越来越像套话,可能与训练目标有关;创意写作、可读性和文风遵循都在改进计划中。「有时,一个好例子比五段文字更管用」。
问答实录
1. 模型规模、路线图与产品方向
Q:字节跳动、Kimi 等似乎都在往 3 万亿甚至 5 万亿参数的超大模型推进,而混元还在 7000 亿。怎么看参数量对模型能力的实际影响?有什么计划?
A:Hy3 和 Hy4 已经表明,做得扎实的小模型也能超过更大的模型。它们成本也更低,而且在这个过程中,你能学到更多、收获更多。
Q:Hy4.5 的参数规模会扩大到 1.5 万亿至 2 万亿吗?
A:下一代 Hy 模型的规模肯定会进一步大幅扩大。
Q:当前规模的能力到上限了吗?不增加参数,也能在相同规模下把 Hy4 做得更强吗?
A:我们认为 Hy4 还有很大的提升空间,尤其是通过后训练。正投入大量精力做大规模强化学习,也在继续改善用户体验和模型安全性。同时也计划训练更大的模型。非常相信 scaling law,会继续沿着这个方向努力。
Q:这两款模型训练时更侧重编程,还是面向通用任务?
A:面向通用任务。
Q:有可能推出 Hy4-mini?
A:会的,已经列入路线图了。
Q:有可能推出 240 亿到 310 亿参数的稠密模型吗?
A:有可能,正在考虑。
Q:一是会发布对标 Qwen 27B 稠密模型的小模型吗?二是会发布 100B 以下、专门做编程的模型吗?
A:第一个,有可能。第二个,大概不会。
Q:按 AGI 六级能力框架,Hy4 现在处于哪一级?
A:我个人认为是 2.5 级。
Q:一是在考虑 35B-A3B 之类的 Flash-Lite 模型吗?二是 iHC 相比 mHC 和门控残差(GR)有什么优势?三是 Hy4 用门控 DSA,为什么 Hy4 Flash 选滑动窗口注意力(SWA)?四是未来会考虑 QSA 等其他注意力机制吗?
A:一是会,敬请期待一款前沿的 Flash-Lite 模型。二是相比 mHC 和 GR,iHC 简单得多,能以更低的成本达到相当的性能。三是 SWA 能把 KV 缓存缩小到原来的四分之一,大幅降低推理服务成本。四是当然,我们愿意尝试各种架构创新。
Q:会发布能在端侧设备上和 LFM3 竞争的小模型吗?
A:会。接下来还会有更多小模型。
Q:有计划做面向 24GB 显存的模型吗?
A:有,未来会发布。
Q:持续学习(continual learning)的进展如何?
A:这是个很有前景的方向,正在积极研究。
Q:计算生物学用户测试:不用标准对接工具,分别在纯推理和可调用工具设置下判断小分子配体在蛋白质上的结合位置和姿态,Hy4 flash 表现比预期好;用上工具后有几次甚至超过 Claude Sonnet 和 Haiku 5.5。未来会优先投入面向科学、尤其生物学的强化学习吗?中国实验室能在生物学上挑战 Claude 的领先地位吗?
A:正在积极投入面向科学研究的强化学习,同时也高度重视安全。
Q:会做 5B 到 12B 的轻量开源图像模型吗?也希望看到新款 HunyuanVideo。
A:会考虑做个更小的图像模型。视频模型也请留意,很快就会有消息。
Q:什么时候用更结构化的数据集,而不只用文本?什么时候把 3D 和视频训练结合起来,做真正可控的渲染引擎?
A:好建议。
2. 模型架构取舍:越稀疏就越高效吗?
Q:不算 Engram 参数,Hy4 Flash 是 156B-A12B(激活比例 7.7%),Qwen3.8-Flash 是 125B-A6B(4.8%),DSv4.1 是 552B-A16B(2.9%,prefill 降至 8B)。更高的激活比例对能力有多重要?测过 156B-A8B 或 156B-A5B 的质量会下降多少吗?
A:我们针对不同的 MoE 稀疏度做过一系列扩展阶梯(scaling ladders)实验,结论与《MAI-Thinking-1》论文基本一致:在激活参数量固定的前提下,提高稀疏度确实能提升计算效率,这条路线行得通。不过 156B-A8B 或 156B-A5B 是另一回事,这种权衡是保持总参数量不变的同时削减激活参数量,会显著损害模型质量。激活参数量本质上决定计算预算;提高稀疏度虽然能挽回一部分效率损失,但无法完全弥补。归根结底,削减激活参数就意味着更少的计算量,从而导致能力变弱。
Q:想把稀疏度推到新水平,比如总参数 200B、激活仅 3B,再加 Engram。MoE 到底能做多稀疏?
A:过于稀疏的 MoE 架构对推理不太友好:占用大量 GPU 显存,却没有充分利用算力(FLOPs)。在总参数量相同的情况下,完全可以提高激活参数量,同时保持相同的推理吞吐量。
Q:端侧硬件(Strix Halo、DGX Spark)内存带宽较低,本地运行情况不一样。
A:理解这个意思。对于端侧模型,我们会采用不同的设计思路,让模型架构和端侧设备的 GPU 硬件配合得更紧密。
Q:有可能推出循环结构的混合专家模型(looped MoE)吗?
A:当然有可能,敬请期待。
Q:把这种架构缩小成总参数约 30B 到 35B、激活 3B 到 4B 的 Hy4-mini,Engram 嵌入和 iHC 还能带来同样收益吗?还是要到 200B 以上才特别有效?
A:Engram 和 iHC 给小模型带来的收益反而更大。
Q:相对于约 155.5B 参数的主干,怎么决定给 Engram 分配 63.5B 参数?有没有稳定规律?
A:我们发现 Engram 参数占比的最优点,也就是 U 形曲线的最低点,大约在总参数量的三分之一。这里的总参数量包含 Engram 本身。
Q:如果放手让 Hy4 自己运行,它现在能通过递归自我改进(RSI)做出下一代模型吗?怎么评估自主性?Hy 系列现阶段最侧重权重改进、更好的推理系统、持久流程记忆,还是协调多个专门智能体?
A:我们的递归自我改进能力还处于早期阶段,已开发了几项内部基准来评估其中的关键能力。目前重点是打好基础、提升模型智能,并与产品团队紧密合作,带来更好的用户体验。
Q:Engram 占比低于三分之一,模型能力会下降吗?
A:对,计算效率会降低。
Q:从 Hy4 原始架构出发,怎么选出 Flash 必须保留的层?
A:Hy4 flash 沿用了 Hy4 的 iHC、门控 MLA 和 DSA,也引入了混合 SWA、LatentMoE 和 Engram。这些设计选择有大量跨模型规模的实验作为依据,也来自对模型架构和推理系统的协同设计。
Q:认真考虑过、但最终放弃的最有竞争力的 Hy4 架构方案是什么?为什么放弃?
A:在 GQA 和 MLA 之间反复权衡了很久。MLA 的计算强度明显更高,会让推理 GPU 上的投机解码受算力限制;但在 KV 缓存同样大的情况下,MLA 的模型质量优于 GQA。引入 DSA 后,我们降低了 MLA 在解码阶段的计算强度,最终决定采用 MLA。
Q:这三项技术分别解决不同瓶颈,还是团队刻意把它们设计成互相配合?
A:这几项技术大体相互独立,带来的收益可以叠加。
Q:设计架构时怎么权衡 KV 缓存每个 token 的空间开销?
A:算了一下。Qwen3.8-Next-Flash 和 Hy4 flash 都有 12 个全局注意力层;每个全局注意力层里,Qwen 每个 token 存 512 个 KV 缓存元素,Hy4 flash 存 576 个,所以两款模型的 KV 缓存大小应该差不多。你给这两款模型用了不同的 KV 缓存量化方案吗?
Q:量化相关:三值量化与混合精度比特分配、路由器稳定性、量化后适配器放哪里、激活参数削减后什么能力最先退化、Engram 是否值得加到 3B 激活模型、n-gram 表是每层独立还是共享。
A:常规 Transformer 层中,激活值的离群点会让 down 投影对量化更敏感,所以给它更多比特;位宽由基于 Hessian 的敏感度决定。倾向按张量分配精度,因为许多推理引擎把所有专家处理为一个堆叠矩阵,逐专家混合精度会破坏这种处理方式,按张量分配也更容易移植。量化感知训练中,路由器和模型其余部分一起训练,让路由器保持稳定。更倾向全参数 QAT,质量更好;还没做过 LoRA 实验,因此没法建议适配器放在哪里。预计推理深度、长上下文跟踪和工具调用可靠性最先退化;2 位训练后量化(PTQ)会比三值 QAT 早很多失去可用性。Engram 参数不计入 12B 激活参数;每层用独立的 n-gram 表,在满足内存预算的前提下尽量提升能力。
Q:托管版任务成功率 100%,NVFP4 版本错误率约 8%,其他模型 4 位量化没见过这么大的退步。
A:量化质量很大程度上取决于方法和校准。建议试试官方提供的 NVFP4 版本,它用 GPTQ 做量化;发布了两个 NVFP4 变体,在我们的评估里 NVFP4 与 BF16 的差距很小,应该更适合准确率敏感的任务。
Q:Hy4 有时推理太久,过度思考是强化学习的奖励设计造成的,还是跟训练数据分布有关?模型能学会什么时候该停下来吗?
A:Hy4 的目标是把模型能力做到尽可能强,推理链偏长是我们已知的问题。不过这也让我们能把它蒸馏成成本效益较好的 Hy4 flash;在 flash 上,我们用强化学习来控制推理链的长度。
Q:后续会从架构上优化,在保持质量的同时提高 token 生成速度吗?
A:已经注意到 Hy4 的 token 效率问题,正在积极优化。
Q:后训练阶段,最难改善的是哪种模型行为?
A:过度思考。
3. 从强化学习到自我改进,AI 还差什么
Q:一旦模型在精确语法或命令参数上产生幻觉,CLI 就很容易崩溃。做强化学习的同时如何做到不丢失上下文?
A:为了提高工具调用准确率,在强化学习数据上投入了很多精力,加入模型容易出错的高难度案例;同时采用一套细粒度的奖励机制,对关键细节上的错误施以更严厉的惩罚。上下文保持方面,正在持续扩展强化学习训练所使用的上下文长度,并针对性提升模型的上下文压缩(context compaction)能力。
Q:训练 Hy4 和 Hy4 flash 执行长程智能体任务和命令行操作时,多轮强化学习中最棘手的奖励作弊或状态漂移是什么?
A:最难的是训练环境设计上的漏洞导致模型钻奖励机制的空子,比如得防止智能体直接上网搜答案、跳过实际解题。
Q:判断训练数据好坏的标准是什么?怎么检验一个数据集是否达到这些标准?
A:高质量训练数据有很多维度,不同领域和任务的标准也各不相同。无论靠人类专家还是智能体,设计和清洗数据都要投入大量精力。验证数据质量最好的办法是做实验,最终还是看实证结果。
Q:为什么要让基础模型在中期训练阶段接触大量合成指令数据?
A:为了提高模型的智能体能力。
Q:一是 HyRA 2.0 里 Hy4 的提升主要来自超参调优和底层算子吞吐优化,还是发现了不那么显而易见的架构或数据配比改进?二是模型自我改进的差距,主要是模型提出高质量研究假设的能力有限,还是自动评估框架的奖励信号太稀疏、迭代周期太长?
A:一是提升主要来自底层吞吐优化。二是一方面,模型需要提高对训练方案的判断力;另一方面,用 AI 做 AI 研发本来就是一个周期长、难点多的任务。
Q:下一步做什么实验,证明上一轮训练出的模型能在下一轮更擅长做模型研发?模型怎样才能越来越会学习?
A:正在做 HyRA 3.0,敬请期待。
Q:Blender、CAD、Unreal、Unity、Godot 等专业软件智能体:怎么平衡 GUI、命令行等底层接口与纯界面操作、视觉反馈?哪些经验能推广到其他专业软件智能体?
A:在这方面投入了很多。训练时强调把图形界面(GUI)和命令行(CLI)结合起来,尽可能提高执行效率;也在为专业软件搭建大量训练环境,目标是让 Hy 真正帮专业人士提高工作效率。
Q:PHP 类型推断的特殊情况怎么处理?
A:更好的训练数据、更多样的内部评估,还有「不专门刷榜」(non-benchmaxing)。
Q:为什么没公布 GPQA Diamond、τ-bench、IFBench、SWE-bench 等常见基准的结果?
A:展示的是 Agents’ Last Exam、ProgramBench 等较新的高难度基准成绩;提到的这些基准出现得比较早,分数已经接近饱和。
Q:Artificial Analysis 对美国闭源模型的明显偏向,对中国前沿实验室的经营业绩有多大影响?
A:单个网站不太会决定模型在现实中的采用情况。我们看各种评估,包括内部基准、公开基准、第三方评估和实际用户反馈;要知道模型表现如何,得把这些信息放在一起看。说到底,大家关心的也是模型实际表现。
Q:能看懂图片、界面截图或图表并据此推理(比 OCR 或简单描述更进一步)的最小模型有多大?
A:激活参数为 3B 的模型已经可以做这些任务。
4. 开源、本地部署与开发者生态
Q:腾讯会继续开源,还是会像 Meta 一样转向闭源?如果做出了 AGI 或能力最强的 AI,也会开源吗?
A:到目前为止,是的,我们会继续走开源路线。
Q:能不能随模型发布一个深度优化的推理引擎?
A:正在推进 llama.cpp 的适配,近期会在开源社区推动相关支持。
Q:会在模型广泛发布前和这类项目合作加上支持,还是先发模型、再让用户后续适配?
A:正在推进 llama.cpp 适配,预计近期会在社区发布;目前也在和 vLLM、SGL 等社区深入合作。
Q:以后还会发布类似规模的开放权重模型吗?
A:会。
Q:会发布 Hy4 的 EXL3、NVFP4 或 TrellisMX 量化版吗?
A:受资源限制,暂未为 Hy4 提供 NVFP4 等格式的量化支持;可以参考社区开发者提供的量化方案和权重,比如 Hy4 Flash 的 NVFP4 和 GGUF 版本。
Q:有计划支持 EXL3 吗?
A:目前没有官方适配 EXL3 版本的计划。模型已经开源,相信社区很快会陆续推出对应版本。
Q:96GB 显存和 128GB 内存,能跑 Flash 吗?
A:能跑。可以把主要权重和注意力部分放在 GPU 上,把一部分专家层卸载到系统内存,Engram 表也可以放在内存里。
Q:Q4 版本什么时候出?
A:4 位 GGUF 版本已经发布。
Q:会有 GGUF 吗?选哪个 Flash 版本?
A:这里是 Hy4 和 Hy4 flash 的 GGUF 版本。
Q:模型多大,对内存和显存有什么要求?
A:可以在 M5 Max 和配有 128GB 内存的 DGX Spark 上运行 Hy4 flash。
Q:希望用户在家用自己的硬件跑这款模型吗?
A:是的。
Q:计划继续开发能在 64 到 128GB 内存设备上运行的模型吗?
A:会。
Q:Hy4 在 OpenCode、Claude Code 或 Cline 里能开箱即用吗?还是得定制提示词?
A:Hy4 和 Hy4 flash 目前已在 OpenCode、Claude Code 和 Cline 中得到广泛使用。
Q:团队平时怎么在工作中用大模型?开源模型、内部模型还是闭源模型?
A:想用什么就用什么,只要模型够好,开源闭源都可以。当然,Hy 系列模型在内部用得很广。
Q:按团队技术能力和研究质量(不看跑分),给 DeepSeek、月之暗面、阿里巴巴等友好竞争对手排名,前三是谁?
A:我才不上这个当。大家都很棒。
5. 写作体验、模型安全与个人成长
Q:在创意写作和可读性上花了多少心思?能把事情解释得更清楚、读起来更顺,会是从 Qwen 3.8 Flash Next 换过去的主要理由。
A:我们也认为创意写作和可读性很重要,已经把它们列为重点改进方向。在这上面花了不少心思,也还有改进空间。有时,一个好例子比五段文字更管用。
Q:注意到大模型写作能力在退步,是因为用了大量代码训练、过拟合,还是别的原因?
A:我们也注意到了这一点,可能跟模型的训练目标有关。希望模型写得更像人,少一点套话,正在改进。
Q:会更重视那些难以客观验证的指令吗,比如对文风要求的遵循?
A:记下了。
Q:严格的安全调优会不会导致开源模型拒绝执行基础渗透测试、逆向工程或 CTF 任务?怎么避免对双重用途编程请求过度拒答?
A:网络安全训练中,重点关注防御任务、漏洞分析和修复,同时排除以漏洞利用和进攻为主的数据;也开展红队评估,识别潜在风险。避免过度拒绝目前仍是持续改进的重要方向。
Q:网络安全方面的限制只适用于 Hy4 吗?Hy4 flash 也有限制吗?
A:是的,flash 也有限制。
Q:你们写道「未观察到针对监控系统的直接攻击」,那有没有遇到间接攻击?
A:说实话,目前还没有。非常感谢这么仔细地读我们的 system card。
Q:为什么从训练数据里去掉网络安全红队内容?这会削弱模型能力,却未必带来实际收益。
A:过滤这类数据是更基础的一步;还通过训练加入安全护栏,让模型在需要时拒答。这些都是为了负责任地开源。
Q:训练和评估时部署了哪些监控系统?
A:在整个训练和评估过程中监测潜在的攻击和失对齐,一发现问题就修正相应的环境。
Q:漏洞发现和逆向工程本身并不等于攻击,限制双重用途能力会不会让防御方也付出代价?
A:从我们的评估看,Hy4 发现漏洞的能力很强,漏洞利用能力则相对较弱。
Q:现在怎么才能成为 AI 工程师?会用 AI 来试验新的模型架构、训练策略吗?
A:现在可以直接问 AI,怎么做 AI 工程、怎么学 AI。
