基本属实
由斯坦福大学主导的“AI百年研究”(AI100)项目发起的长期评估指出,人类能否有效控制AI仍是尚未解决的核心问题。该项目主持学者、布朗大学教授迈克尔·利特曼(Michael Littman)发出警告称,随着AI能力快速提升,确保其对人类保持可控与有益,需要持续数十年乃至百年的长期研究与社会准备。
“AI百年研究”(One Hundred Year Study on Artificial Intelligence,简称AI100)是斯坦福大学于2016年启动的长期项目,计划以百年为跨度,定期发布关于AI发展及其社会影响的评估报告。该项目由布朗大学教授利特曼主持,其2021年报告已就AI技术的可控性、安全性与治理议题展开分析。
利特曼指出,AI系统在自主决策能力不断增强的同时,其行为是否符合人类意图变得越来越难以保证。他认为,回答“AI能否被控制”这一问题,不能仅靠技术界,而需要计算机科学、社会科学、法律与政策等多领域的长期协作。
利特曼强调,AI对社会的影响将随时间逐步累积,若等到问题显现再着手应对,可能为时已晚。他呼吁在AI能力进一步突破之前,提前建立相应的评估机制与监管框架。
不过,关于AI失控风险的具体时间表与严重程度,目前学界尚无定论,相关判断在专家之间也存在分歧。
结论:综合AI100项目报告与相关报道内容,该学者就AI可控性发出的警告基本属实。