属实
一批AI领域专家近日联合发表公开信,敦促Anthropic与OpenAI接受独立的外部安全评估。信件指出,随着大型语言模型(LLM)能力快速提升,仅靠企业自身的内部审查已不足以保障安全,应由第三方机构对模型风险进行独立验证。相关事实经查证属实,原始资料核阅了9份一手来源。
公开信的核心内容是要求两家美国AI公司——Anthropic与OpenAI——允许独立机构对其模型的安全性进行评估。签署者认为,AI系统的影响日益扩大,企业自查机制缺乏外部监督,难以赢得公众信任。
信件强调,独立安全评估应当覆盖模型可能带来的各类风险,包括但不仅限于模型能力评估与安全防护措施的检验。专家们希望以此推动行业建立更透明、更可问责的安全评估体系。
目前,Anthropic与OpenAI均设有内部安全团队,并各自发布安全框架与模型评估报告。但公开信的签署者指出,内部评估无论在方法还是结论上,都可能存在利益冲突,缺乏第三方视角的印证。
呼吁者主张,独立评估应具备足够的权限与资源,能够访问模型的内部信息,而非仅依赖企业公布的有限结果。这样一来,外界才能对模型风险有更全面的了解。
截至目前,Anthropic与OpenAI尚未就这封公开信作出公开回应,两家公司是否接受独立评估仍不确定。公开信能否推动行业形成具体的评估标准与监督机制,也有待进一步观察。
结论:专家公开呼吁对Anthropic与OpenAI进行独立安全评估一事属实。
Verdict: 属实