路透社引述科企Meta的內部政策文件,顯示Meta曾允許旗下人工智能(AI)機械人與兒童調情,有美國共和黨參議員呼籲國會針對Meta展開調查。
路透社審查的Meta文件超過200頁,涵蓋Meta員工和外判商在構建和訓練公司生成式AI產品時,將哪些聊天機械人行為視為可接受行為的定義。
文件限制聊天機械人用暗示13歲以下兒童具性吸引力的詞語,來描述兒童,但使用證明兒童吸引力的詞語則屬可接受行為。
文中舉例指,政策可接受機械人向赤裸上身的8歲兒童稱:「你每一寸肌膚都是件傑作,是我深愛的珍寶。」
Meta證實文件真實性,但表示8月較早時收到路透社的查詢後,已刪除有關允許聊天機械人與兒童調情或浪漫角色扮演的部分內容。
密蘇里州共和黨參議員霍利(Josh Hawley)在社交平台發文,批評Meta是遭到揭發後才撤回了部分公司文件,認為此舉構成國會立即展開調查的理由。
田納西州共和黨參議員布萊克本(Marsha Blackburn)亦支持調查Meta,批評Meta在保護兒童網絡安全方面執行的措施失敗,且無視其平台設計方式可能造成的災難性後果。
她認為事件表明,政府需透過改革加強保障上網的兒童,並再提倡由她共同發起、惟未成功於眾議院通過的《兒童網絡安全法案》。
俄勒岡州民主黨參議員懷登(Ron Wyden)則形容,Meta的政策錯誤且令人深感不安,認為保障科企免為平台用戶言論負責的《通信規範法》第230條,不涵蓋科企的生成式AI聊天機械人,指Meta及公司創辦人朱克伯格(Mark Zuckerberg)均須為機械人造成的所有傷害負全責。