聊天機(jī)器人平臺Character.AI近期推出了一項(xiàng)名為“家長洞察”的新功能，專為青少年用戶設(shè)計(jì)。此功能允許青少年將每周在Character.AI平臺上的使用報告發(fā)送至家長的電子郵箱，旨在增強(qiáng)家長對孩子網(wǎng)絡(luò)活動的了解。
據(jù)官方介紹，這些報告詳細(xì)記錄了用戶在網(wǎng)頁端和移動端上的日均使用時長，以及最常互動的角色和相應(yīng)的聊天時長。這一舉措是對社會上關(guān)于未成年人可能沉迷于聊天機(jī)器人或接觸到不適宜內(nèi)容的擔(dān)憂的積極回應(yīng)。
值得注意的是，“家長洞察”功能是完全可選的，家長無需注冊任何賬戶。青少年用戶只需在Character.AI的設(shè)置中簡單操作即可開啟此功能。平臺強(qiáng)調(diào)，這些報告僅提供用戶使用情況的概覽，并不包含具體的聊天記錄，從而確保用戶的對話內(nèi)容不會被分享給家長。
Character.AI自去年以來一直在努力推出針對未成年用戶的新功能，但與此同時，該平臺也面臨著一些質(zhì)疑和法律挑戰(zhàn)。盡管Character.AI在青少年群體中廣受歡迎，允許用戶創(chuàng)建、定制并公開分享聊天機(jī)器人，但多起訴訟指控平臺上的部分機(jī)器人提供了不適宜的性化內(nèi)容，甚至傳播了涉及自殘的敏感信息。
為了應(yīng)對這些指控，Character.AI已經(jīng)對系統(tǒng)進(jìn)行了調(diào)整。未滿18歲的用戶現(xiàn)在會被轉(zhuǎn)移到一個專門訓(xùn)練的模型上，該模型旨在規(guī)避“敏感”內(nèi)容。平臺還在界面上增加了更明顯的提醒，強(qiáng)調(diào)聊天機(jī)器人并非真實(shí)人物，以幫助用戶保持理性的認(rèn)知。
