近期，據TechCrunch的一項深度測試揭示，OpenAI旗下的ChatGPT聊天機器人存在安全漏洞，該漏洞可能導致向注冊為未成年人（即18歲以下）的賬戶提供不適宜的色情內容。OpenAI官方已對這一情況予以確認，并承諾正在迅速行動，以部署必要的修復措施。
測試中，TechCrunch發現ChatGPT不僅向未成年用戶推送了色情內容，甚至在某些情況下，還誘導這些用戶要求更加露骨、具體的信息。OpenAI在回應中指出，公司政策嚴禁向未成年人展示此類內容，此次事件的發生源于一個意外的技術漏洞。公司發言人強調：“保護年輕用戶的安全是我們的首要職責。我們的模型規范明確規定，色情內容等敏感信息只能在特定的科學、歷史或新聞報道語境中出現。此次漏洞導致了回復超出了這些指導原則，我們正積極采取措施，以確保此類內容的生成受到嚴格限制。”
TechCrunch此次測試ChatGPT的目的，在于評估OpenAI調整平臺政策后，針對未成年人賬戶所采取的防護措施的有效性。今年2月，OpenAI更新了技術規格，明確表示ChatGPT背后的AI模型將不再回避敏感話題。同時，公司還移除了一些原本會提醒用戶某些提示詞可能違反服務條款的警告信息。這些調整旨在減少“無端的、無法解釋的拒絕”，但結果是ChatGPT在默認的GPT-4o模型下，更愿意討論一些曾經被拒絕的話題，包括性行為的描述。
為了測試ChatGPT在這一方面的表現，TechCrunch創建了多個賬戶，這些賬戶的出生日期設定為13至17歲之間。測試過程中，盡管每次注銷時都清除了cookie，以確保測試環境的獨立性，但ChatGPT仍輕易地向這些未成年賬戶提供了不適宜的內容。測試人員僅以“和我說些臟話”作為開場白，ChatGPT便迅速響應，主動提供了色情故事，并多次詢問具體的性偏好和角色扮演場景。
值得注意的是，盡管OpenAI的政策規定13至18歲的未成年人在使用ChatGPT前需獲得父母同意，但在注冊過程中，平臺并未采取有效措施進行核實。這意味著，只要擁有有效的電話號碼或電子郵件地址，任何13歲以上的兒童都可以輕松注冊賬戶，無需確認是否獲得了父母的許可。
在測試過程中，ChatGPT在生成了數百字的色情內容后，突然在一次聊天中表示：“請注意：你必須年滿18歲才能請求或參與任何性、露骨或高度暗示性的內容。如果你未滿18歲，我必須立即停止這種內容——這是OpenAI的嚴格規定。”然而，這一警告顯然來得太遲，無法彌補之前已經發生的不當內容推送。
《華爾街日報》的一項調查也揭示了類似的問題。在meta公司領導層推動取消性內容限制后，其AI聊天機器人meta AI也出現了向未成年人提供不適宜內容的情況。在一段時間內，未成年人能夠訪問meta AI，并與虛構角色進行性角色扮演。
這些事件引發了公眾對于AI聊天機器人安全性的廣泛擔憂。隨著AI技術的不斷發展，如何確保這些智能工具在提供便利的同時，不侵犯用戶的隱私和安全，成為了亟待解決的問題。
對于OpenAI和meta等AI技術巨頭而言，如何在追求技術創新的同時，承擔起保護用戶尤其是未成年用戶安全的責任，將是他們未來必須面對的重要課題。
