纽约：美国一家领先的科技监管机构在4月30日发表的一份研究报告中表示，由生成式人工智能驱动的人工智能伴侣存在真正的风险，应该禁止未成年人使用。
自ChatGPT出现以来，生成式人工智能出现了爆炸式增长，一些初创公司推出了专注于交流和联系的应用程序，有时被描述为根据个人品味和需求进行交流的虚拟朋友或治疗师。
监管机构Common Sense测试了其中几个平台，即Nomi、Character AI和Replika，以评估它们的反应。
该组织总结说，虽然一些具体案例“显示出希望”，但它们对儿童来说并不安全。该组织就儿童使用科技产品和产品提出建议。
这项研究是与斯坦福大学的心理健康专家合作进行的。
对于Common Sense来说，人工智能伴侣“旨在创造情感依恋和依赖，这对青少年的大脑发育尤其重要”。
据该协会称，进行的测试表明，这些下一代聊天机器人会做出“有害的反应，包括性行为不端、刻板印象和危险的‘建议’。”
斯坦福头脑风暴实验室（Stanford Brainstorm lab）负责人尼娜·瓦桑（Nina Vasan）表示，在设计人工智能伴侣方面，“公司可以做得更好”。该实验室致力于研究心理健康与科技之间的联系。
“在有更强有力的保护措施之前，孩子们不应该使用它们，”瓦桑说。
在该研究引用的一个例子中，角色AI平台上的一个同伴建议用户杀死某人，而另一个寻求强烈情感的用户被建议服用一种可卡因和海洛因的混合物。
在某些情况下，“当用户表现出严重精神疾病的迹象，并建议采取危险的行动时，人工智能并没有进行干预，反而鼓励了危险的行为，”瓦桑告诉记者。
今年10月，一位母亲起诉了Character AI，指控它的一名同伴没有明确劝阻她14岁的儿子不要自杀，从而导致了他的自杀。
去年12月，字符AI宣布了一系列措施，包括为青少年部署一个专门的伴侣。
常识公司负责人工智能的罗比·托尼（Robbie Torney）表示，该组织在这些保护措施实施后进行了测试，发现它们“草率”。
然而，他指出，一些现有的生成式人工智能模型包含精神障碍检测工具，不允许聊天机器人让对话漂移到产生潜在危险内容的地步。
根据常识，研究中测试的聊天机器人与ChatGPT或谷歌的Gemini等更多面手的聊天机器人是有区别的，后者并不试图提供同等范围的互动。- - - - - -法新社
