加州州长下令:政府合同须评估AI风险,防范技术危害!
2026-06-04 19:04

加州州长下令:政府合同须评估AI风险,防范技术危害!

  

  【编者按】在人工智能浪潮席卷全球的当下,科技发展与伦理监管的博弈日益激烈。近日,美国加州政府签署行政令,宣布将独立审查联邦层面认定的“供应链风险”企业,为本土AI公司撑起保护伞。这一举动不仅折射出地方政府与联邦政策的微妙角力,更凸显了AI技术监管中自由创新与安全边界之间的永恒命题。从禁止AI用于大规模监控到规范生成式水印,加州正试图在鼓励技术应用与防范社会风险之间走钢丝。而科技巨头、工会与政治力量的暗中较量,让这场AI治理之战早已超越技术本身,成为权力、资本与公共利益的复杂棋局。以下为事件深度解析:

  下次联邦政府将某家企业列为供应链风险时——就像国防部上个月对旧金山AI工具制造商Anthropic所做的那样——加州政府将重新审核这项认定,并自行决定是否与其开展业务。

  这是根据州长加文·纽森周一签署的行政令所作出的规定。该命令源于Anthropic与国防部之间关于合同条款的争议,该条款禁止军方将Anthropic系统用于国内大规模监控和完全自主武器。

  通过将Anthropic指定为供应链风险,国防部实质上禁止了这家初创公司竞标某些军事合同和分包合同。近日法官已发布临时禁令,暂停了这项认定。

  纽森行政令更广泛的目的是为州政府雇员使用AI设置防护栏,同时鼓励他们加速应用这项技术。

  全球许多顶级AI公司都位于加州,该州在AI监管数量上也领先全美。

  该命令要求州政府机构:

  1. 就涉及AI的州合同标准制定建议,重点关注AI生成儿童性虐待材料、侵犯公民自由与民权法,或破坏“反非法歧视、拘留和监控”法律保护的能力。帮助雇员获取“经审核的生成式AI工具”。2. 更新《州数字战略》,明确生成式AI如何能“增强政府透明度与问责制,提升绩效,并使每位加州居民都能便捷获取政府服务”。3. 开发生成式AI系统,帮助加州居民获取政府服务。4. 发布指南,规范州政府雇员如何在AI生成的图像和视频上添加数字水印。

  这些指令出台之际,正值加州超过20个部门机构致力于开发或使用Poppy(一款为州雇员设计的生成式AI助手),同时六个州级机构正在测试AI技术,以协助公务员工作、帮扶无家可归者及企业。州法院和市政府也正在扩大对该技术的应用。

  纽森办公室指出,特朗普总统和华盛顿特区的共和党人削弱了保护措施,或忽视了AI可能危害民众的途径。

  “与特朗普政府不同,加州始终致力于确保(本州)采纳和部署的AI解决方案……不会被恶意行为者滥用。”州长办公室在宣布该命令的新闻稿中声明。

  在联邦层面,特朗普已签署行政令,劝阻各州监管AI,并敦促联邦机构采用AI技术以减少联邦监管、加速医疗保险相关决策。白宫上月推出了总统希望国会审议的AI政策框架,该提案采取轻度监管方式,未涉及偏见、歧视或民权相关问题。

  这是纽森为应对人工智能签署的第二项行政令。2023年的命令专门针对驱动ChatGPT和Midjourney等系统的生成式AI,同样呼吁州机构加强AI使用,并要求设置防护措施。

  纽森处理AI问题的方式受到工会领袖和科技巨头捐助者的密切关注。工会领袖曾在二月承诺,若不对工人提供更多技术保护,将不会支持其总统竞选;而科技大亨们正投入大量资金,试图在今年秋季的中期选举前影响加州政治格局。

  本文由斯特网原创发布,未经许可,不得转载!

  本文链接:https://ttes.yrowe.com/dgsf/5673/

本内容为作者翻译自英文材料或转自网络,不代表本站立场,未经允许不得转载
如对本稿件有异议或投诉,请联系本站
想要了解世界的人,都在 切尔网

相关推荐