摘要:
知名AI安全研究者、OpenAI控股实体董事会成员保罗・克里斯蒂亚诺,在一档热门科技播客采访中,对人工智能的发展前景发出警示。他表示,未来人类完全失去对AI控制权的可能性正快速上升。

这档播客节目于周一播出,主持人是德瓦克什・帕特尔。克里斯蒂亚诺在节目中称:“目前存在合理可能性,未来六个月就可能发生一场灾难,造成大量人员死亡,或是出现政府被颠覆的局面。”该播客节目通常拥有数百万听众,科技行业众多从业者均在受众之列。
克里斯蒂亚诺表示,上述事件是否发生,取决于AI技术迭代的速度。他还提出,受递归自我改进技术驱动,AI模型可以实现自我迭代升级,未来一年内发展到危险临界点的概率“相当高”。
此番表态,相较于克里斯蒂亚诺过往公开言论,警告意味进一步升级。他同时执掌总部位于伯克利的非营利机构对齐研究中心,专注于AI对齐研究。作为长期警示AI安全风险的资深研究员,他于9月加入OpenAI基金会董事会,该基金会掌握OpenAI公司的控制权。克里斯蒂亚诺在采访中着重强调,发言仅代表个人立场,并不代表OpenAI董事会观点。
在刚加入董事会时,克里斯蒂亚诺曾发布公开文章估算,未来一年因人类失去AI控制权而引发灾难性事件的风险约为4%。
而在周一的采访中,他表示过去数月模型能力进展迅猛,如今评估,未来一年发生AI接管人类局面的风险“更接近10%,而不是1%”。他称,如果各大企业不采取更多防护措施以缓释AI开发带来的风险,该风险预估数值还将“显著走高”。
评论