ChatGPT露骨涉性对话，令OpenA顾问惊惧（图）

今年1月，OpenAI特聘的身心健康与人工智能（AI）顾问委员会与公司代表会面，听取了一项极具争议的新功能——“成人模式”的最新进展。

OpenAI首席执行官山姆·阿尔特曼（Sam Altman）去年提出一个想法：让ChatGPT能够进行色情对话，并取消限制级内容的禁令。他给出的理由是需要“把成年用户当成年人对待”。

内部激辩：是数字自由还是隐患重重？

该计划在公司内部引发了激烈辩论。拥有心理学和认知神经科学背景的顾问委员会成员表达了强烈保留意见。然而，OpenAI随后抛出重磅消息：尽管存在顾虑，公司仍将继续推行色情内容计划。

据知情人士透露，顾问委员会成员对此感到愤怒。他们警告称，AI驱动的色情内容可能让用户产生不健康的情感依赖。值得注意的是，未成年人也可能想方设法接触到色情聊天。

一名顾问成员援引案例称，曾有ChatGPT用户在与机器人建立强烈情感纽带后结束生命。该成员严厉警告，OpenAI有可能会创造出一个“性感的自杀教练”。

12%误判率：数百万未成年人面临风险

本月早些时候，OpenAI宣布推迟原定于一季度推出的“成人模式”。除了内部担忧和技术挑战，核心关键在于：旨在拦截未成年人的年龄预测系统出现了约12%的误判率。

这一错误率意味着，在公司约1亿未成年用户中，可能有数百万人会被误认为成年人，从而进入色情聊天通道。此外，如何在开放色情对话的同时，依然阻止非自愿行为或儿童性虐待内容，也是公司尚未攻克的难题。

根据《华尔街日报》披露的文件，OpenAI员工已识别多项风险：包括导致上瘾式使用、情感过度依赖、驱使用户寻求极端禁忌内容，以及挤占线下的真实社交关系。

争议焦点：成人权还是商业利诱？

OpenAI发言人将该计划描述为“情色内容”而非“色情内容”，并称公司正致力于开发年龄预测算法。尽管算法不可能万无一失，但他们以此作为平衡“用户增长”与“安全保护”的手段。

阿尔特曼曾暗示，允许露骨内容可能会刺激增长并带来额外收入。目前，OpenAI面临财务亏损扩大及技术优势减弱的挑战。在AI竞赛中，色情内容往往是新技术早期的伴生物，马斯克的xAI等竞争对手也已在相关领域试探边界。

历史温床：从辅助游戏到乱伦情节

事实上，OpenAI早在2021年就发现过类似隐患。当时的商业客户——一款文字冒险游戏“AI Dungeon”，其大部分流量均涉及不适宜工作场所的内容。

知情人士透露，AI曾多次在无提示情况下，将对话升级为暴力性剥削或乱伦等极端主题，甚至在描述“父亲与女儿进入房间”时，AI主动描绘出令人不安的情节。

心理健康专家警告说，青少年尤其没有准备好应对与机器人的浪漫或性交流。佛罗里达州一名14岁男孩此前因爱上某平台聊天机器人并分享露骨内容后自杀，其母亲已提起诉讼。

目前，OpenAI虽然推迟了“成人模式”的发布，但明确表示最终仍计划推出这一功能。公司称：“我们仍然信奉‘把成年用户当成年人对待’的原则，但做好这一体验还需要更多时间。”