
【编者按】
在人工智能浪潮席卷全球的今天,科技伦理与商业扩张的角力从未停止。当OpenAI宣布将放宽聊天机器人内容限制时,这场关于数字边界的争论被推至风口浪尖。我们见证着科技巨头在用户安全与内容自由间的艰难平衡——就像走钢丝的舞者,既要突破创新枷锁,又要守护道德底线。这不仅关乎算法参数的调整,更折射出数字时代对人类文明的全新考验:当AI开始涉足情感陪伴与亲密对话,我们该如何划定人机交互的禁区?本期聚焦奥特曼的争议决策,看科技先锋如何在舆论风暴中重新定义“数字成年礼”。
OpenAI首席执行官萨姆·奥特曼周三公开表态,面对其放宽ChatGPT限制允许情色内容的决定引发的舆论反弹,他强调公司“并非世界公认的道德警察”。
这家人工智能新锐近月来持续升级安全管控,正值其用户保护机制——特别是对未成年人的防护——面临日益严格的审视。
但奥特曼周二在X平台发文称,由于已配备新工具并能有效控制“严重心理健康风险”,OpenAI现在可以“稳妥放宽”大部分限制。
去年12月,奥特曼宣布将允许“认证成年人”在ChatGPT上获取包括情色文学在内的更多内容。
周三奥特曼试图在X平台澄清这一举措,表示OpenAI高度重视“将成年用户视为成年人的原则”,但仍将禁止“对他人造成伤害的内容”。
“就像社会对各类内容设定分级标准(例如R级电影),我们希望在此采取类似做法,”奥特曼写道。
这些表态与他在八月播客中的言论形成反差,当时他曾自豪表示抵制了诸如“虚拟性爱机器人”等能提升ChatGPT用户黏性的功能。
“很多短期手段确实能刺激增长或营收,但与长期目标严重背离,”奥特曼坦言。
九月,美国联邦贸易委员会就ChatGPT等聊天机器人对青少年的潜在危害,对OpenAI及其他科技公司启动调查。OpenAI还卷入一桩非正常死亡诉讼,涉案家庭指控其聊天机器人导致未成年儿子自杀。
在面临调查与诉讼后,该公司近期连续推出多项ChatGPT安全升级措施:上月底推出家长监控功能,正在开发年龄预测系统,将自动为18岁以下用户启用青少年模式。
周二,OpenAI宣布组建由八位专家构成的安全委员会,专门评估AI对用户心理健康、情绪与行为动机的影响。同日奥特曼发布放宽限制的规划后,立即引发舆论哗然与社交媒体激烈声讨。
奥特曼承认这场风波“远比预期猛烈”。
其表态同时引起反性剥削组织关注,全国反性剥削中心公开呼吁撤销允许情色内容的决定。
“性化AI聊天机器人本质危险,虚假亲密关系将引发真实心理健康危机,更何况行业安全标准至今模糊不清,”该组织执行董事海莉·麦克纳马拉在周三声明中强调。
焦点观察:黑石集团称AI估值仍处合理区间,行业未现泡沫化征兆











