我国科学家提出高效推理策略 可避免大模型“过度思考”
我国科学家提出高效推理策略 可避免大模型“过度思考”
我国科学家提出高效推理策略 可避免大模型“过度思考”随着人工智能大模型的不断发展,如何让其在“难”的问题上(shàng)深入思考,而不是对所有问题“想个不停”?记者5月(yuè)29日从中国科学院自动化研究所获悉(huòxī),该所联合鹏城实验室提出了一种高效推理(tuīlǐ)策略AutoThink,可让大模型实现自主切换思考模式,避免“过度(guòdù)思考”。
“当前,越来越多的大模型开始具备‘深度思考能力’。”中国科学院自动化研究所研究员张启超说,模型在回答问题(wèntí)之前要先生(xiānshēng)成一整段(zhěngduàn)包含反复自我反思、自我验证的推理过程,然后再给出答案。
张启超表示,这一思考模式显著提升了大模型(móxíng)解决复杂问题的能力,但同时也带来(dàilái)了“过度思考”的问题,即在(zài)处理简单任务时也会生成冗余的思考过程。
“比如(bǐrú)使用者对大模型提问‘2+3等于几’,大模型可能(kěnéng)会从自然数定义讲起,列出(lièchū)加法交换律,甚至反复确认,最后才输出答案是5。”张启超说,这种不必要的“过度思考”现象在推理模型(tuīlǐmóxíng)中广泛存在。
针对这一(zhèyī)问题,AutoThink可赋予推理模型根据题目难度自主切换思考模式的能力(nénglì),即通过所设计的提示词和多阶段强化学习,引导(yǐndǎo)其自主决定是否进行深度思考。
张启超介绍,AutoThink提供了一种简单而(ér)有效的推理新范式(fànshì)——通过省略号提示配合三阶段强化学习,引导大模型不再“逢题必深思熟虑”,而是根据问题难度自主决定(juédìng)“是否思考”“思考多少”。在多个数学数据集上,AutoThink实现了准确率与效率平衡,既提升性能又(yòu)节省(jiéshěng)算力,展示出较强的适应性和实用性。
据悉,AutoThink已集成于一站式智能科研平台ScienceOne,并将用于(yòngyú)训练ScienceOne的基座大模型S1-Base。研发团队表示,让大模型“更聪明(cōngmíng)地思考(sīkǎo)、更简洁地表达”,是未来科学基础大模型演进的重要(zhòngyào)方向。(记者宋晨)
随着人工智能大模型的不断发展,如何让其在“难”的问题上(shàng)深入思考,而不是对所有问题“想个不停”?记者5月(yuè)29日从中国科学院自动化研究所获悉(huòxī),该所联合鹏城实验室提出了一种高效推理(tuīlǐ)策略AutoThink,可让大模型实现自主切换思考模式,避免“过度(guòdù)思考”。
“当前,越来越多的大模型开始具备‘深度思考能力’。”中国科学院自动化研究所研究员张启超说,模型在回答问题(wèntí)之前要先生(xiānshēng)成一整段(zhěngduàn)包含反复自我反思、自我验证的推理过程,然后再给出答案。
张启超表示,这一思考模式显著提升了大模型(móxíng)解决复杂问题的能力,但同时也带来(dàilái)了“过度思考”的问题,即在(zài)处理简单任务时也会生成冗余的思考过程。
“比如(bǐrú)使用者对大模型提问‘2+3等于几’,大模型可能(kěnéng)会从自然数定义讲起,列出(lièchū)加法交换律,甚至反复确认,最后才输出答案是5。”张启超说,这种不必要的“过度思考”现象在推理模型(tuīlǐmóxíng)中广泛存在。
针对这一(zhèyī)问题,AutoThink可赋予推理模型根据题目难度自主切换思考模式的能力(nénglì),即通过所设计的提示词和多阶段强化学习,引导(yǐndǎo)其自主决定是否进行深度思考。
张启超介绍,AutoThink提供了一种简单而(ér)有效的推理新范式(fànshì)——通过省略号提示配合三阶段强化学习,引导大模型不再“逢题必深思熟虑”,而是根据问题难度自主决定(juédìng)“是否思考”“思考多少”。在多个数学数据集上,AutoThink实现了准确率与效率平衡,既提升性能又(yòu)节省(jiéshěng)算力,展示出较强的适应性和实用性。
据悉,AutoThink已集成于一站式智能科研平台ScienceOne,并将用于(yòngyú)训练ScienceOne的基座大模型S1-Base。研发团队表示,让大模型“更聪明(cōngmíng)地思考(sīkǎo)、更简洁地表达”,是未来科学基础大模型演进的重要(zhòngyào)方向。(记者宋晨)

相关推荐
评论列表
暂无评论,快抢沙发吧~
你 发表评论:
欢迎