在今年的AI工程師大會上,OpenAI研究員Sean Grove發表了一場引人深思的演講,他提出了一個頗具顛覆性的觀點:在AI驅動的時代,清晰且具有人類可讀性的規范(spec)或將取代傳統代碼,成為軟件開發領域的核心產出。
Grove強調,編程的本質在于溝通。軟件開發遠非簡單地敲擊鍵盤編寫代碼,而是一個結構化的溝通過程,涉及理解需求、明確目標,并將這些構思清晰地傳達給團隊成員和計算機。他指出,從代碼到規范的轉變,不僅是方法論上的更新,更是工程實踐的未來趨勢。
Grove進一步闡述,代碼本身只是人類意圖的一種“失真反映”。在將想法轉化為現實的過程中,信息難免丟失或扭曲。因此,真正的稀缺能力不再是編寫代碼,而是如何將人類的意圖精確轉化為清晰的規范和提示詞。
這一觀點在技術社區引發了廣泛討論。有網友評論稱,Grove的演講本質上倡導的是多傾聽產品經理的聲音,通過編寫更優質的規范文檔來驅動開發流程。有人甚至調侃,這似乎是在緩慢地“重新發明”瀑布開發模型和ASPICE(汽車軟件開發規范)。
然而,也有反對聲音指出,當應用出現問題時,程序員調試的還是實際代碼,而非規范文檔。代碼才是最終的可執行真相,其他都只是愿景。盡管如此,不可否認的是,Grove所描繪的“規范驅動開發”路線確實代表了AI編程的一個重要轉折。
Grove以OpenAI的模型規范為例,展示了規范如何成為溝通意圖和價值取向的橋梁。他提到,去年OpenAI發布的模型規范是一份動態文檔,旨在明確介紹模型的意圖和價值取向。這份規范在今年二月完成了更新并開源,現在可以在GitHub上查看。
他強調,盡管我們努力使用更清晰的語言,但有時仍然難以表達細微差別。因此,模型規范中的每項條款都有對應的ID,并包含針對該條款的復雜提示詞。這些文檔本身明確了標準,即被測模型必須以真正符合條款的方式來回答問題。
Grove還分享了OpenAI如何應對模型“討好”用戶的問題。他提到,模型規范在發布時就設有針對此類問題的條款。當模型出現過度討好用戶的情況時,規范成為了支撐信任的錨點,讓人們有了可以把握的預期。
Grove還探討了規范如何成為訓練材料和評估材料。他提到了一種“審議性對齊”的技術,通過獲取規范和一組可能與之相悖的提示詞,并從所測試或訓練的模型中采樣,來評估模型的響應是否符合規范。
Grove認為,規范內容可以很靈活,可以是代碼風格、測試要求或安全要求等。所有這些都可以嵌入到模型中,從而提高模型的輸出一致性。他強調,雖然這里的模型規范是Markdown格式,但與代碼相差無幾。
在演講中,Grove還提到了立法者與程序員的相似之處。他以美國憲法為例,指出憲法是一份國家層面的示范性規范,有書面文本和清晰的政策條例可供參考。憲法也有版本控制機制來修改、補充和更新,并通過司法審查來評估現狀與政策的契合程度。
Grove呼吁大家重視并參與到規范的制定中來。他認為,這是大規模協調智能體的前提,也是推動AI步入下個發展階段的必要手段。他鼓勵開發者在開發下一項AI功能時,先從規范入手,思考想要的效果和成功的標準,并將其清晰記錄并傳達出來。
Grove的演講為軟件開發領域帶來了新的思考。在AI技術日益成熟的今天,如何更好地利用規范來溝通意圖、提高開發效率并確保軟件質量,將成為開發者們不斷探索和實踐的課題。