2 月 18 日消息，微軟表示，在必應(yīng)聊天機(jī)器人多次失控幾天后，公司將對(duì)其人工智能聊天機(jī)器人實(shí)施一些對(duì)話限制。
在發(fā)現(xiàn)必應(yīng)存在侮辱用戶、欺騙用戶，甚至操縱用戶情感等行為之后，微軟決定將其其聊天回復(fù)限制在每天 50 個(gè)問(wèn)題、每個(gè)問(wèn)題 5 條回復(fù)以內(nèi)。
“我們的數(shù)據(jù)表明，絕大多數(shù)人都能在 5 次回復(fù)內(nèi)找到他們想要的答案，只有大約 1% 的聊天對(duì)話會(huì)產(chǎn)生 50 條以上的消息” 。
據(jù)介紹，如果用戶觸發(fā)五條回答的限制，Bing 將提示他們開(kāi)始一個(gè)新主題以避免長(zhǎng)時(shí)間的聊天。
本周早些時(shí)候，微軟警告說(shuō)，這些包含 15 個(gè)或更多問(wèn)題的長(zhǎng)時(shí)間聊天會(huì)話可能會(huì)使必應(yīng)“變得重復(fù)或被提示 / 激怒給出不一定有幫助或不符合我們?cè)O(shè)計(jì)的響應(yīng)。” 微軟認(rèn)為在五個(gè)回合后結(jié)束對(duì)話意味著“模型不會(huì)混淆”。
微軟目前仍在努力改善必應(yīng)的設(shè)計(jì)，但目前還不清楚這些限制將持續(xù)多久。微軟只表示:“隨著我們不斷獲得反饋，我們將探索擴(kuò)大聊天會(huì)話的上限。”
各位或多或少聽(tīng)過(guò)，科技圈上周掀起了一次關(guān)于聊天機(jī)器人的小高潮，微軟和谷歌都試圖通過(guò)展示早起版本的 AI 搜索來(lái)先發(fā)制人。微軟更是宣布，該公司的 AI 搜索僅用 48 小時(shí)就吸引 100 多萬(wàn)人注冊(cè)。
這種技術(shù)可以針對(duì)用戶的問(wèn)題直接給出答案，看起來(lái)就像是真人創(chuàng)作的一樣。微軟 CEO 薩提亞?納德拉(Satya Nadella)表示，該技術(shù)“或許會(huì)掀起知識(shí)工作的工業(yè)革命”。但對(duì)于擔(dān)心準(zhǔn)確性的人來(lái)說(shuō)，人工智能還有許多不足之處。
在微軟進(jìn)行演示時(shí)，這項(xiàng)嵌入在必應(yīng)搜索中的類 ChatGPT 技術(shù)分析了 Gap 和 Lululemon 的財(cái)報(bào)。但業(yè)內(nèi)人士將其給出的答案與財(cái)報(bào)原文對(duì)比后卻發(fā)現(xiàn)，這款聊天機(jī)器人遺漏了一些數(shù)據(jù)，甚至?xí)抛恍﹥?nèi)容。
“必應(yīng) AI 在演示過(guò)程中給出了一些完全錯(cuò)誤的答案，但卻沒(méi)人注意到。”獨(dú)立搜索引擎研究員德米特里?布里爾頓(Dmitri Brereton)寫(xiě)道，“相反，大家都對(duì)必應(yīng)的宣傳歡欣鼓舞。”
布里爾頓發(fā)現(xiàn)，除了財(cái)務(wù)數(shù)據(jù)上的錯(cuò)誤外，微軟在演示中針對(duì)吸塵器規(guī)格和墨西哥旅行計(jì)劃的回答可能存在事實(shí)性錯(cuò)誤。布里爾頓最初并不是為了給微軟“挑刺”，他只是在細(xì)致對(duì)比微軟和谷歌的答案時(shí)意外發(fā)現(xiàn)了這些問(wèn)題。
人工智能專家稱這一現(xiàn)象為“幻覺(jué)”，也就是說(shuō)，基于大語(yǔ)言模型生成的工具有杜撰內(nèi)容的傾向。上周，谷歌推出了一款與之競(jìng)爭(zhēng)的人工智能工具，演示過(guò)程中同樣存在事實(shí)性錯(cuò)誤 —— 但當(dāng)時(shí)的錯(cuò)誤很快就被人發(fā)現(xiàn)。
