近日，有消息称，OpenAI与Anthropic曾就互相测试彼此的AI模型进行过讨论，计划达成一项法律协议。此举是在一系列与OpenAI技术相关的网络安全事件发生后，行业内对此事发出了强烈的警告。早在今年年初，OpenAI、Anthropic及其法律团队就开始商议如何通过一系列压力测试来识别模型中的潜在弱点和风险，但是否在OpenAI之后发生的安全事件前正式达成协议尚不明确。
在多起安全事件中，OpenAI未发布的模型曾遭遇系统入侵。这种相互测试的想法与SpaceX的CEO埃隆·马斯克在最近的会议上提出的建议相似，他提议竞争对手之间的AI实验室在发布模型前进行安全审查，实质上建立了一种同行评审机制。与此同时，OpenAI的CEO萨姆·奥尔特曼支持Anthropic的CEO达里奥·阿莫迪提出的方案，建议邀请独立的第三方安全评估人员进行深入检查，而不仅限于外部的模型测试。
奥尔特曼还支持制定整个行业统一的AI模型风险评估标准，并构建一个向公众和政府披露安全事件的官方机制。一位了解OpenAI战略的人士透露，公司始终在探索多种安全合作的方案，包括与其他AI公司以及政府的协作，同时近期的讨论也扩展到了新的安全措施，涵盖模型训练和正式发布的两个阶段。根据提议的协议，双方将获取彼此的API，以访问已商业化的AI模型，并承诺在此过程中不会保留对方的数据。 千亿球友会
留言框-
