電競體育10月4報道 隨著AI工具不僅被企業廣泛采用，更日益深入普通用戶的日常生活乃至情感陪伴領域，監管機構開始重點關注此類技術帶來的潛在風險。
美國聯邦貿易委員會（FTC）近日針對開發AI伴侶聊天機器人的公司啟動大規模調查，要求科技巨頭詳細說明用戶數據處理方式及相關安全措施。
此次調查涉及谷歌、Meta、OpenAI、Snap、xAI和Character.AI等七家企業。FTC特別強調對青少年安全與心理健康的擔憂——盡管AI平臺本意為提升生產力和提供輔助，但伴侶類機器人因模擬人類情感聯結、提供指導甚至演繹浪漫互動而引發爭議。這種模式雖對年輕用戶具有吸引力，但在缺乏必要安全防護時存在顯著風險。
委員會要求這些科技企業詳細披露：聊天機器人的構建與監控機制、信息收集方式、現有安全過濾器設置以及不當交互處理方案。調查還將重點關注未成年人數據使用情況，包括企業如何通過用戶參與實現盈利。
科技界長期警示AI快速發展需配套安全防護措施，以防止錯誤信息傳播和有害行為。FTC此次監管行動表明，隨著技術演進，建立問責機制和保護用戶安全隱私已成為當務之急。
回到頂部