财联社 12 月 3 日讯 （编辑 牛占林）非营利机构生命未来研究所 (Future of Life Institute) 周三发布的新版 《AI 安全指数》 指出，Anthropic、OpenAI、xAI、Meta 等主要人工智能公司的安全治理水平，远未达到正在形成的全球标准。
该研究所表示，由独立专家小组进行的安全评估发现，尽管这些公司正竞相开发 「超级智能」，但没有一家制定出足够完善的策略和方案来控制如此先进的 AI 系统。
据悉，在本次评估中，Anthropic 的综合得分最高，但在 「存在性安全 (existential safety)」 上仍只获得 D 级，意味着该公司尚未建立足够的策略来防止灾难性滥用或失控。这也是连续第二份报告中，没有公司在该项指标上获得超过 D 的评分。
除 Meta 等少数公司外，所有 AI 公司都对生命未来研究所发出的问题清单进行了回应，从而提供了其安全实践的更多信息。
报告显示，多家公司领导层都曾谈及应对存在性风险，但研究人员指出：「这种言辞尚未转化为量化的安全计划、具体的对齐失败缓解策略，或可信的内部监测与控制措施。」
在具体指标上，Anthropic 和 OpenAI 在信息共享、风险评估以及治理和问责方面获得了 A 和 B 的高分。
而 xAI 和 Meta 虽有风险管理框架，但缺乏安全监测承诺，且尚未提供其在安全研究上的投资超过最低标准的证据。
这份研究发布之际，公众对具备类人推理与逻辑能力的更智能 AI 系统的社会影响日益担忧。此前已有数起自杀与自残案例被指与 AI 聊天机器人有关。
麻省理工学院教授、生命未来研究所所长 Max Tegmark 表示：「尽管近期围绕 AI 辅助黑客攻击、以及 AI 导致用户出现精神错乱和自残行为的争议不断，美国的 AI 企业仍然比餐馆受到的监管更少，并持续游说反对具有约束力的安全标准。」
与此同时，AI 竞赛并无放缓迹象，大型科技公司仍在投入数千亿美元用于扩大和升级其机器学习能力。美国政府也试图通过立法禁止美国各州在未来 10 年内执行 AI 监管。
生命未来研究所是一家关注智能机器对人类构成风险的非营利组织。该机构成立于 2014 年，早期曾获得特斯拉首席执行官埃隆·马斯克的支持。
今年 10 月份，包括科学家 Geoffrey Hinton 与 Yoshua Bengio 在内的一批研究者呼吁，在公众提出要求并且科学找到安全路径之前，应暂停开发超级智能 AI。
