SKIDIA's PaperBoy

ZH WIRE · 2026-09-28 09:29

OpenAI与Anthropic已报告AI安全事故数万起,最高性能模型训练一度中断

基本属实

OpenAI与Anthropic已报告AI安全事故数万起,最高性能模型训练一度中断
Image source: 조사 출처

OpenAI与Anthropic两家头部AI公司披露的安全事故数据显示,行业累计报告的AI相关安全事故已达数万起。其中一起事故曾导致两家公司中最高性能模型的训练被中断。这一情况来自韩国相关方面的核查报道,核查共参考12份一手来源。

원문 주장 (KR)
오픈AI·앤트로픽, AI 보안사고 수만 건 조사…최고 성능 모델 훈련 중단

数万起事故浮出水面

据报道,围绕AI安全事故的规模问题,相关统计覆盖了OpenAI与Anthropic两家公司历年来报告和内部记录的安全事件,累计数量达到数万起。这类事故的范围涵盖模型训练与部署过程中出现的各类安全与稳定性问题。

事故数量之大,反映出随着大语言模型能力快速提升,安全事件的发生频率也随之上升。行业此前普遍缺乏对事故规模的公开量化,此次数据的披露为外界提供了少见的参考基准。

最高性能模型训练中断

在已披露的事故中,最受关注的一起是:训练过程中出现安全事故,导致当时正在训练的最高性能模型被迫中止训练。中断意味着相关项目的时间表与资源投入受到直接影响,也说明安全事故已不仅是部署阶段的问题,而是深入到了模型训练的核心环节。

报道同时指出,目前公开信息中对事故细节的披露仍然有限,具体事故类型、中断持续时间以及造成的损失规模等,尚无更完整的说明,相关信息仍存在不确定性。

行业安全监管压力上升

此类数据的出现,正值各国加强对前沿AI模型安全审查之际。模型训练中断案例表明,即便是资源最充裕的头部AI实验室,也无法在训练阶段完全规避安全风险。外界预期,围绕事故报告义务与透明度要求的讨论将继续升温。

综合核查结果,OpenAI与Anthropic累计AI安全事故达数万起、最高性能模型训练因安全原因中断的说法与一手来源基本一致。

Verdict: 基本属实

Sources — primary documents (12)
  1. https://openai.com/index/pacing-model-development-cyber-capabilities/
  2. https://openai.com/index/hugging-face-incident-and-the-road-ahead/
  3. https://www.theguardian.com/technology/2026/sep/27/openai-halts-training-of-latest-models-as-reports-mount-of-ai-agents-going-rogue
  4. https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
  5. https://www.anthropic.com/news/improving-alignment-security-efforts
  6. https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents
  7. https://www.commondreams.org/news/ai-security
  8. https://www.australiannews.net/news/279335661/ai-giants-probing-tens-of-thousands-of-security-incidents-axios
  9. https://the-decoder.com/tens-of-thousands-of-security-probes-show-openais-hugging-face-incident-was-just-the-beginning/
  10. https://openai.com/hugging-face-incident-and-misalignment/
  11. https://images.ctfassets.net/kftzwdyauwt9/55UVJLAaFr5hqOom9Il3Ou/2a7c6a08571daf98a0643d76cc243add/index-pacing-model-development-cyber-capabilities-dark-seo.png?w=1600&h=900&fit=fill
  12. https://www-cdn.anthropic.com/images/4zrzovbb/website/1051e0f45fd8907d2bdf9e722af1bae06e14c4c4-2000x1418.png

KR: /news/20260928-f270dc · 판정: 대체로 사실