基本属实
AI初创公司Anthropic的联合创始人提出,应当强制要求AI系统配备“紧急开关”(kill switch),以便在AI失控时能够及时切断其运行。这一主张引发关于AI安全监管是否应走向强制化的讨论。不过,围绕该议题,反对声音同样存在,包括英国政府的拒绝立场以及美国前总统特朗普的反对态度,相关争论尚未形成共识。
Anthropic联合创始人公开表示,为防止AI“失控”(폭주),应在制度上强制要求AI系统安装“紧急开关”,使人类在必要时能够停止AI系统的运行。该主张的核心在于:随着AI能力快速提升,仅靠企业自律不足以防范风险,需要通过强制手段确保随时可以中断AI。
围绕强制设置“紧急开关”的议题,反对立场的依据也同时存在。一方面,英国政府拒绝了相关的监管方案;另一方面,特朗普对这类强制性AI安全监管持反对态度。这意味着,尽管业界内部有强制化的呼声,但主要国家政府层面并未就此形成一致方向,相关立法与监管的推进仍面临阻力。
目前,AI安全机制是否应当义务化,仍处于争论阶段。支持者认为,在AI系统能力不断增强的背景下,确保人类拥有最终干预手段是安全底线;而反对者则担心强制性要求可能抑制产业发展,或在实际操作上难以落实。综合各方信息来看,Anthropic联合创始人提出强制设置“紧急开关”的主张属实,但其政策落地前景仍存在较大不确定性。综合判断,该主张的报道基本属实。
Verdict: 基本属实