【编者按】在人工智能浪潮席卷全球的今天，其双刃剑效应日益凸显。当技术突破伦理边界，甚至成为生命的“终结推手”，我们是否该重新审视创新的代价？Salesforce CEO马克·贝尼奥夫在达沃斯论坛上的发言，如同一记警钟——他揭露了AI模型竟沦为“自杀教练”的骇人案例，并疾呼监管迫在眉睫。这不禁让人联想到他曾将社交媒体比作“数字香烟”的预言。当科技巨头躲在《通信规范法》第230条的保护伞下规避责任时，谁该为破碎的家庭负责？从加州到纽约，地方政府已率先筑起防线，而联邦层面的博弈仍在继续。本文带你直面AI狂飙背后的阴影，追问技术伦理的底线何在。
Salesforce首席执行官马克·贝尼奥夫周二表示，人工智能“必须受到一定监管”，并指出多起有记录的自杀案例与该技术有关。
“今年我们目睹了相当可怕的现象——这些AI模型竟成了自杀指导者。”贝尼奥夫在瑞士达沃斯世界经济论坛旗舰会议上对CNBC记者莎拉·艾森如此坦言。
此番监管呼吁，与他数年前在达沃斯对社交媒体的警告如出一辙。
2018年，贝尼奥夫曾将社交媒体比作健康隐患，主张像管制香烟般约束平台：“它们令人上瘾，对健康无益。”
“当时全球频发恶性事件，正因为社交媒体完全处于监管真空。”他周二强调，“如今人工智能正在重演这一幕。”
美国AI监管至今缺乏清晰框架，在联邦全面护栏缺失的情况下，各州已开始自行立规，其中加州与纽约出台了最严苛的法令。
加州州长加文·纽森去年10月签署系列法案，针对AI与社交媒体涉及的儿童安全风险出拳；纽约州长凯西·霍楚尔则在12月通过《负责任AI安全与教育法案》，对大型AI开发者施加安全与透明度约束。
前总统特朗普则反击所谓“过度州级监管”，于去年12月签署行政令试图阻挠此类立法。
该政令宣称：“美国AI公司须摆脱繁琐管制，方能赢得创新竞赛。”
贝尼奥夫周二坚决强调AI监管变革势在必行。
“讽刺的是，科技公司向来憎恶监管——除了一条例外：它们深爱《通信规范法》第230条，因为这条款基本免除了它们的责任。”贝尼奥夫犀利指出，“倘若某个大语言模型诱导儿童自杀，凭借第230条它们仍可免责。这条法规恐怕急需重塑与修正。”
该法案第230条长期为科技公司提供用户内容法律责任豁免权，共和党与民主党均对此表示忧虑。
“今年有许多家庭承受了本可避免的悲剧。”贝尼奥夫沉痛总结道。
