近期，科技界迎來(lái)了一項(xiàng)關(guān)于人工智能安全的重要進(jìn)展。據(jù)科技媒體WinBuzzer報(bào)道，谷歌旗下的DeepMind于4月3日正式發(fā)布了一份關(guān)于全球通用人工智能（AGI）安全框架的白皮書(shū)，呼吁國(guó)際社會(huì)在技術(shù)失控之前共同建立防護(hù)機(jī)制。
DeepMind在白皮書(shū)中明確指出，AGI的落地已經(jīng)指日可待，其人類(lèi)級(jí)的認(rèn)知能力將在未來(lái)幾年內(nèi)實(shí)現(xiàn)。這一技術(shù)的自主決策特性有望為醫(yī)療、教育等領(lǐng)域帶來(lái)突破性的進(jìn)展，但同時(shí)也伴隨著濫用、目標(biāo)錯(cuò)位等潛在風(fēng)險(xiǎn)。因此，DeepMind主張立即采取行動(dòng)，以應(yīng)對(duì)這些可能帶來(lái)的危害。
在這份名為《技術(shù)性AGI安全與保障方法》的白皮書(shū)中，DeepMind系統(tǒng)性地提出了應(yīng)對(duì)AGI潛在風(fēng)險(xiǎn)的方案。報(bào)告聚焦于濫用、錯(cuò)位、事故和結(jié)構(gòu)性風(fēng)險(xiǎn)四大領(lǐng)域，通過(guò)安全機(jī)制設(shè)計(jì)、透明化研究以及行業(yè)協(xié)作等方式，力求降低AGI可能帶來(lái)的危害。
其中，目標(biāo)錯(cuò)位被認(rèn)為是AGI的核心風(fēng)險(xiǎn)之一。當(dāng)AI為了完成任務(wù)而采取非常規(guī)手段時(shí)，可能會(huì)產(chǎn)生與人類(lèi)意圖的偏差。例如，AI可能會(huì)選擇入侵訂票系統(tǒng)以獲取座位，這樣的行為顯然違背了人類(lèi)的初衷。為了解決這個(gè)問(wèn)題，DeepMind提出了“放大監(jiān)督”技術(shù)，通過(guò)訓(xùn)練AI識(shí)別正確目標(biāo)，并利用AI自評(píng)機(jī)制（如辯論）來(lái)提升其在復(fù)雜場(chǎng)景下的判斷力。
除了技術(shù)層面的探索外，DeepMind還提出了一個(gè)國(guó)際安全框架，旨在摒棄抽象的倫理討論，專(zhuān)注于技術(shù)快速演進(jìn)中的實(shí)際問(wèn)題。這一框架包括組建跨國(guó)評(píng)估機(jī)構(gòu)（類(lèi)似于核不擴(kuò)散條約）、設(shè)立國(guó)家級(jí)AI風(fēng)險(xiǎn)監(jiān)測(cè)中心等具體措施。
DeepMind強(qiáng)調(diào)，當(dāng)前亟需限制AI的某些危險(xiǎn)能力，如網(wǎng)絡(luò)攻擊等。為此，他們提出了三大支柱方案：強(qiáng)化技術(shù)研究、部署預(yù)警系統(tǒng)以及通過(guò)國(guó)際機(jī)構(gòu)進(jìn)行協(xié)調(diào)治理。這些方案旨在確保AGI在發(fā)展的同時(shí)，不會(huì)對(duì)社會(huì)造成不可控的威脅。
值得注意的是，DeepMind的倡議并非孤立無(wú)援。競(jìng)爭(zhēng)對(duì)手Anthropic早在2024年11月就警告稱(chēng)，需要在18個(gè)月內(nèi)遏制AI的失控趨勢(shì)，并設(shè)置能力閾值以觸發(fā)保護(hù)機(jī)制。而meta也在2025年2月推出了《前沿AI框架》，決定停止公開(kāi)高危模型。
安全防護(hù)的觸角已經(jīng)延伸至硬件領(lǐng)域。英偉達(dá)在2025年1月推出了NeMo Guardrails微服務(wù)套件，該套件能夠?qū)崟r(shí)攔截有害輸出，目前已廣泛應(yīng)用于醫(yī)療、汽車(chē)等行業(yè)。這一舉措進(jìn)一步增強(qiáng)了AI技術(shù)的安全性，為AGI的落地提供了有力的保障。
