광고
광고

SKIDIA's PaperBoy

ZH WIRE · 2026-09-24 12:37

AI专家发布公开信,呼吁对Anthropic与OpenAI开展独立安全评估

属实

AI专家发布公开信,呼吁对Anthropic与OpenAI开展独立安全评估
Image source: 조사 출처

一批AI领域专家近日联合发表公开信,敦促Anthropic与OpenAI接受独立的外部安全评估。信件指出,随着大型语言模型(LLM)能力快速提升,仅靠企业自身的内部审查已不足以保障安全,应由第三方机构对模型风险进行独立验证。相关事实经查证属实,原始资料核阅了9份一手来源。

원문 주장 (KR)
AI전문가들이 앤트로픽과 오픈AI에 독립적인 안전평가가 필요하다고 촉구하는 공개서한을 발표했다

公开信的核心诉求

公开信的核心内容是要求两家美国AI公司——Anthropic与OpenAI——允许独立机构对其模型的安全性进行评估。签署者认为,AI系统的影响日益扩大,企业自查机制缺乏外部监督,难以赢得公众信任。

信件强调,独立安全评估应当覆盖模型可能带来的各类风险,包括但不仅限于模型能力评估与安全防护措施的检验。专家们希望以此推动行业建立更透明、更可问责的安全评估体系。

背景:企业自查的局限

目前,Anthropic与OpenAI均设有内部安全团队,并各自发布安全框架与模型评估报告。但公开信的签署者指出,内部评估无论在方法还是结论上,都可能存在利益冲突,缺乏第三方视角的印证。

呼吁者主张,独立评估应具备足够的权限与资源,能够访问模型的内部信息,而非仅依赖企业公布的有限结果。这样一来,外界才能对模型风险有更全面的了解。

现状与待观察事项

截至目前,Anthropic与OpenAI尚未就这封公开信作出公开回应,两家公司是否接受独立评估仍不确定。公开信能否推动行业形成具体的评估标准与监督机制,也有待进一步观察。

结论:专家公开呼吁对Anthropic与OpenAI进行独立安全评估一事属实。

Verdict: 属实

Sources — primary documents (9)
  1. https://aievaluatorforum.org/initiatives/embedded-evaluation-letter
  2. https://www.cnbc.com/2026/09/18/ai-safety-evaluators-anthropic-openai-models-security.html
  3. https://www.ctvnews.ca/sci-tech/article/canadian-experts-back-call-for-independent-watchdogs-at-the-worlds-top-ai-companies/
  4. https://www.theverge.com/ai-artificial-intelligence/997473/more-than-100-ai-industry-experts-wrote-a-letter-calling-for-independent-evaluation-of-frontier-models
  5. https://techcrunch.com/2026/09/16/anthropic-and-openai-want-to-embed-safety-evaluators-will-they-really-be-independent/
  6. https://www.alexhudson.com/2026/09/13/amodeis-argument-falls-flat/
  7. https://aievaluatorforum.org/initiatives/embedded-evaluation-letter/opengraph-image?bbd286e48000d2f7
  8. https://image.cnbcfm.com/api/v1/image/108353965-1787672944171-gettyimages-2280291294-ANTHROPIC_CIRCUIT.jpeg?v=1787672973&w=1920&h=1080
  9. https://www.ctvnews.ca/resizer/v2/45CABREWUJGHLDDQKOCXDYIIB4.jpeg?smart=true&auth=ba674e51c164f906444d3422133c5cd5983083f93406081e8290b85ed2c7e978&width=1200&height=630

KR: /news/20260919-80a741 · 판정: 사실