광고
광고

SKIDIA's PaperBoy

ZH WIRE · 2026-09-24 22:09

AI行业领军人物联名声呼“放慢开发”,警告人类存亡风险

基本属实

인류 멸망 경고에 AI 수장들도 "개발 늦추자" - MBC 뉴스
Image source: 계기 기사

围绕高级人工智能可能带来的生存风险,多位AI行业负责人与研究人员公开发出警告,主张不应过快推进前沿AI开发。这一呼吁在硅谷乃至全球科技界引发广泛讨论,但关于具体应对措施与执行方式,目前尚无定论。

원문 주장 (KR)
인류 멸망 경고에 AI 수장들도 "개발 늦추자"

“減轻开发速度”的联合呼吁

据公开信息,包括AI企业高管在内的多位业界领军人物联名签署声明,将人工智能的灭绝风险与疫情、核战争等全球性风险相提并论,并呼吁各方优先投入应对措施。签署者中不乏各大AI实验室的负责人,这一表态被视为业内对“放慢开发”立场的罕见集体发声。

声明的核心并非要求全面停止AI研究,而是强调在能力快速提升的同时,相应的安全机制与治理框架明显滞后,需要在灭绝风险应对上给予与流行病、核威胁同等级别的重视。

内部立场与外部批评并存

值得注意的是,签署声明的部分企业仍在持续推进模型训练与产品迭代,“开发减速”的呼吁与其商业节奏之间存在张力。批评者则指出,此类声明措辞含糊,未提出可操作的约束机制,存在“声誉先行”的质疑。也有学界人士认为,过度聚焦遥远的灭绝风险,可能分散对偏见、虚假信息等现实问题的关注。

截至目前,声明本身不具有法律或监管约束力,各国监管机构尚未据此出台具体限制措施,后续走向仍待观察。

结论:综合现有公开信息,AI业界领袖联名呼吁放慢开发、并警告人类存亡风险一事基本属实。

Sources — primary documents (9)
  1. https://darioamodei.com/post/we-must-pace-the-frontier
  2. https://www.politico.com/news/2026/09/12/anthropic-ceo-dario-amodei-seeks-immediate-slowdown-artificial-intelligence-01073519
  3. https://www.theguardian.com/technology/2026/sep/10/anthropic-researchers-warn-ai-musk
  4. https://fortune.com/2026/09/12/sam-altman-openai-ipo-delay-ill-advised-moment-safety-concerns/
  5. https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/
  6. https://huggingface.co/blog/security-incident-july-2026
  7. https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
  8. https://x.com/elonmusk/status/2098789109980332057
  9. https://openai.com/index/hugging-face-incident-and-the-road-ahead/

KR: /news/20260913-415069 · 판정: 대체로 사실