据彭博社报道，Meta CEO马克·扎克伯格(Mark Zuckerberg)周二表示，AI实验室应当依靠独立评估方和顾问来确保模型的安全。
扎克伯格在周二加入了越来越多科技高管的行列，就如何最好地防止AI系统危害人类这一全球性辩论发表看法。
“引入独立评估方和顾问是行业最佳实践。”扎克伯格在X平台上发帖写道。他指出，总的来说，拥有一个更大、更多元化的评估方生态会有帮助。
扎克伯格表示，关于是否应放慢AI能力发展、等对齐技术跟上，目前有很多争论。他的观点是，信任和对齐正在迅速成为区分智能体和模型的最重要能力。任何不重视对齐的实验室都会落后。对齐指的是让AI做事方式与人类利益一致。
扎克伯格的帖子
眼下，一些公司高管已表态支持放慢AI发展速度，并主张合作达成共识。扎克伯格写道，Meta决定自行放慢Muse AI工具的开发工作，而不是先要求同行也检查各自的进展。
“Meta把Muse的发布推迟了数月，以专注于安全与保障，”他写道，“我们并没有要求其他所有人先这样做，然后自己才跟进。我们只是把它作为日常工作的一部分去做了，因为这对用户、对我们来说显然都是正确的选择。”
扎克伯格认为，将绝大部分算力用于服务人们，而不是竞相推动AI的递归自我改进，是确保安全发展这项技术的最佳方式之一。Meta已经作出这一承诺，其他实验室也可以这么做。
上周末，Anthropic CEO达里奥·阿莫代伊(Dario Amodei)的一篇3800字文章，令围绕AI经济与安全风险的激烈辩论进一步升温。他在文中呼吁放慢最先进系统的开发速度，以便研究人员更好地理解潜在威胁。阿莫代伊的这一呼吁得到了OpenAI CEO萨姆·奥特曼(Sam Altman)和SpaceX CEO埃隆·马斯克(Elon Musk)的罕见支持。
