韩 KAIST 突破：AI 终于学会说「我不知道」

韩国 Korea Advanced Institute of Science and Technology（KAIST）研究人员开发出一种新方法，能让 AI 模型在面对不熟悉或未见过的知识时识别这种情况——类似人类行为。这一突破有望提升 AI 模型在自动驾驶、医学等领域的可靠性。此前研究已揭示 AI「过度自信」是 AI 决策使用中的重大风险，特别是在医学诊断领域。ChatGPT 等常用 AI 模型被证明会「幻觉」或编造事实，因为它们被激励去做猜测而非承认知识缺乏。KAIST 团队的核心发现：AI 过度自信的根本原因在于初始化阶段的小错误会蔓延并导致后续训练中的重大错误。研究人员发现，将随机数据输入初始化阶段的神经网络时，模型在没有学到任何东西的情况下仍表现出高度自信，这导致了「幻觉」。新方法通过在初始化阶段引入「不确定性识别」机制，让模型保留「不知道」选项的概率分布——首次为大语言模型提供「认知谦逊」的可量化机制。如果该方法被主流 AI 公司采纳，意味着 ChatGPT、Claude、Gemini 等下一代模型将能更准确地说「我不确定」，减少医疗误诊与法律咨询场景下的潜在伤害。