奥尔特曼回应情色生成风波:OpenAI拒当全球道德判官
2026-01-03 09:46

奥尔特曼回应情色生成风波:OpenAI拒当全球道德判官

  

  【编者按】

  在人工智能浪潮席卷全球的今天,科技伦理与商业扩张的角力从未停止。当OpenAI宣布将放宽聊天机器人内容限制时,这场关于数字边界的争论被推至风口浪尖。我们见证着科技巨头在用户安全与内容自由间的艰难平衡——就像走钢丝的舞者,既要突破创新枷锁,又要守护道德底线。这不仅关乎算法参数的调整,更折射出数字时代对人类文明的全新考验:当AI开始涉足情感陪伴与亲密对话,我们该如何划定人机交互的禁区?本期聚焦奥特曼的争议决策,看科技先锋如何在舆论风暴中重新定义“数字成年礼”。

  OpenAI首席执行官萨姆·奥特曼周三公开表态,面对其放宽ChatGPT限制允许情色内容的决定引发的舆论反弹,他强调公司“并非世界公认的道德警察”。

  这家人工智能新锐近月来持续升级安全管控,正值其用户保护机制——特别是对未成年人的防护——面临日益严格的审视。

  但奥特曼周二在X平台发文称,由于已配备新工具并能有效控制“严重心理健康风险”,OpenAI现在可以“稳妥放宽”大部分限制。

  去年12月,奥特曼宣布将允许“认证成年人”在ChatGPT上获取包括情色文学在内的更多内容。

  周三奥特曼试图在X平台澄清这一举措,表示OpenAI高度重视“将成年用户视为成年人的原则”,但仍将禁止“对他人造成伤害的内容”。

  “就像社会对各类内容设定分级标准(例如R级电影),我们希望在此采取类似做法,”奥特曼写道。

  这些表态与他在八月播客中的言论形成反差,当时他曾自豪表示抵制了诸如“虚拟性爱机器人”等能提升ChatGPT用户黏性的功能。

  “很多短期手段确实能刺激增长或营收,但与长期目标严重背离,”奥特曼坦言。

  九月,美国联邦贸易委员会就ChatGPT等聊天机器人对青少年的潜在危害,对OpenAI及其他科技公司启动调查。OpenAI还卷入一桩非正常死亡诉讼,涉案家庭指控其聊天机器人导致未成年儿子自杀。

  在面临调查与诉讼后,该公司近期连续推出多项ChatGPT安全升级措施:上月底推出家长监控功能,正在开发年龄预测系统,将自动为18岁以下用户启用青少年模式。

  周二,OpenAI宣布组建由八位专家构成的安全委员会,专门评估AI对用户心理健康、情绪与行为动机的影响。同日奥特曼发布放宽限制的规划后,立即引发舆论哗然与社交媒体激烈声讨。

  奥特曼承认这场风波“远比预期猛烈”。

  其表态同时引起反性剥削组织关注,全国反性剥削中心公开呼吁撤销允许情色内容的决定。

  “性化AI聊天机器人本质危险,虚假亲密关系将引发真实心理健康危机,更何况行业安全标准至今模糊不清,”该组织执行董事海莉·麦克纳马拉在周三声明中强调。

  焦点观察:黑石集团称AI估值仍处合理区间,行业未现泡沫化征兆

本内容为作者翻译自英文材料或转自网络,不代表本站立场,未经允许不得转载
如对本稿件有异议或投诉,请联系本站
想要了解世界的人,都在 切尔网

相关推荐