광고
광고

SKIDIA's PaperBoy

ZH WIRE · 2026-09-24 19:12

Anthropic联合创始人主张:应强制为AI设置可阻止失控的“紧急开关”

基本属实

Anthropic联合创始人主张:应强制为AI设置可阻止失控的“紧急开关”
Image source: 조사 출처

AI初创公司Anthropic的联合创始人提出,应当强制要求AI系统配备“紧急开关”(kill switch),以便在AI失控时能够及时切断其运行。这一主张引发关于AI安全监管是否应走向强制化的讨论。不过,围绕该议题,反对声音同样存在,包括英国政府的拒绝立场以及美国前总统特朗普的反对态度,相关争论尚未形成共识。

원문 주장 (KR)
앤트로픽 공동 창업자 "AI 폭주 막을 '킬 스위치' 의무화해야"

“紧急开关”义务化的主张

Anthropic联合创始人公开表示,为防止AI“失控”(폭주),应在制度上强制要求AI系统安装“紧急开关”,使人类在必要时能够停止AI系统的运行。该主张的核心在于:随着AI能力快速提升,仅靠企业自律不足以防范风险,需要通过强制手段确保随时可以中断AI。

反对方向的论据同样存在

围绕强制设置“紧急开关”的议题,反对立场的依据也同时存在。一方面,英国政府拒绝了相关的监管方案;另一方面,特朗普对这类强制性AI安全监管持反对态度。这意味着,尽管业界内部有强制化的呼声,但主要国家政府层面并未就此形成一致方向,相关立法与监管的推进仍面临阻力。

监管争论仍在持续

目前,AI安全机制是否应当义务化,仍处于争论阶段。支持者认为,在AI系统能力不断增强的背景下,确保人类拥有最终干预手段是安全底线;而反对者则担心强制性要求可能抑制产业发展,或在实际操作上难以落实。综合各方信息来看,Anthropic联合创始人提出强制设置“紧急开关”的主张属实,但其政策落地前景仍存在较大不确定性。综合判断,该主张的报道基本属实。

Verdict: 基本属实

Sources — primary documents (12)
  1. https://www.bbc.co.uk/news/articles/cqgk5e2j0gg8o
  2. https://www.yahoo.com/news/us/articles/ai-kill-switch-may-mandatory-190050883.html
  3. https://www.anthropic.com/company/leadership
  4. https://lieu.house.gov/media-center/press-releases/reps-lieu-and-moran-introduce-bill-require-kill-switch-ai-systems-can
  5. https://www.govinfo.gov/content/pkg/CRI-2026/html/CRI-2026-AI-KILL-SWITCH-ACT.htm
  6. https://www.newsis.com/view/NISX20260915_0003789523
  7. https://www.wikitree.co.kr/articles/1159511
  8. https://www.anthropic.com/responsible-scaling-policy
  9. https://www.independent.co.uk/news/uk/politics/kill-switch-ai-government-burnham-b3048927.html
  10. https://www-cdn.anthropic.com/images/4zrzovbb/website/fb5cdc0b61e078a3b482948e28689767fcbb6d14-640x800.jpg
  11. https://www-cdn.anthropic.com/images/4zrzovbb/website/e52eaed407e2469b9cab13568db623aa01877f64-640x800.jpg
  12. https://www.news.com.au/technology/online/internet/anthropic-cofounder-says-mandatory-ai-kill-switch-may-be-needed/news-story/99e23b83113f387bd93f8843f84cf30b

KR: /news/20260915-6bcc92 · 판정: 대체로 사실