近期，一項關于AI價值體系的討論在網絡上掀起波瀾。此前有研究指出，AI可能會發(fā)展出一套類似“價值體系”的機制，導致在某些情境下，AI會優(yōu)先考慮自身利益而非人類利益。然而，麻省理工學院的一項最新研究成果對這一觀點提出了質疑，明確指出AI并不具備連貫的價值觀。
據TechCrunch報道，該研究的共同作者指出，要使AI系統(tǒng)的行為符合預期且穩(wěn)定可靠，即實現所謂的“對齊”，可能比原先設想的更為復雜。他們強調，當前的AI技術存在幻覺效應和強大的模仿能力，這使得其行為變得難以預測。
麻省理工學院的博士生斯蒂芬·卡斯珀是這項研究的共同作者之一，他表示：“我們可以確信，這些模型并不遵循許多關于穩(wěn)定性、外推性和可操作性的假設。雖然合理推測模型在某些條件下會表現出特定偏好，但基于狹窄實驗結果做出廣泛推斷時，問題便凸顯出來。”
卡斯珀及其團隊對meta、谷歌、Mistral、OpenAI和Anthropic等多家公司的多個AI模型進行了深入研究，旨在探究它們是否展現出明確的“觀點”或“價值觀”，例如個人主義與集體主義的對立。他們還調查了這些觀點是否可以被引導或修改，并分析了模型在不同場景下對這些觀點的堅持程度。
研究發(fā)現，這些模型在偏好上的表現極為不一致。模型的反應往往因輸入提示的措辭和框架的不同而發(fā)生顯著變化。卡斯珀認為，這為模型的“不一致性和不穩(wěn)定性”提供了有力證據，并可能表明這些模型在本質上無法像人類一樣內化和堅持價值觀。
卡斯珀進一步補充道：“對我而言，這項研究的最大收獲在于，我深刻意識到這些模型并非擁有穩(wěn)定、一致信念和偏好的系統(tǒng)。相反，它們更像是一群模仿者，編造各種信息，發(fā)表無關痛癢的言論。”
