OpenAI 的研究如何揭示現行評測機制獎勵「猜測」而非「誠實」？

Question

OpenAI 研究揭示評測機制獎勵「猜測」而非「誠實」

Accepted Answer

OpenAI 近日發布一篇論文，直指目前 AI 語言模型產生「人工幻覺」（hallucination，即「睜眼說瞎話」）的根本原因，並非技術缺陷或人為疏忽，而是訓練與評測機制本身獎勵模型在不確定時選擇「猜答案」，而非誠實表達「不知道」。此情況類似於考生在面對選擇題時，不確定答案則「合理猜測」是效益最高的方案。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

OpenAI 的研究如何揭示現行評測機制獎勵「猜測」而非「誠實」？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友