OpenAI首席科学家呼吁业界限制模型开发 奥特曼表示赞同

📅 2026-11-23

摘要:

OpenAI首席科学家Jakub Pachocki提议,人工智能公司应同意对开发能力日益强大的模型设限,直到研究人员有更好的方法来理解和监控这些模型的行为。Pachocki呼吁制定全行业标准,为AI开发设定界限,各家公司应同意在满足特定安全要求之前不突破这些界限。

“我进一步提议,根据困惑度和其他衡量指标设定共同限制,开发者承诺在我们理解和监控AI行为的能力达到某个具体里程碑之前不突破这些限制,”Pachocki写道。Pachocki所提议的限制可以部分上基于一种被称为困惑度的技术指标,该指标衡量AI模型预测下一段文本的能力。Pachocki没有说明初始限制应设在什么水平,也没有说明何时开始实施。

Pachocki警告称,最早到2027年,AI就可能加速自身进化,其速度可能超过研究人员提高监控和理解这项技术能力的速度。

OpenAI首席执行官奥特曼对这一提议表示支持,称Pachocki的文章是“OpenAI一段时间以来发布的最重要内容”。他在X上的一篇帖子中表示,就共同限制达成一致将有助于确保“安全和控制”。

关联标签

相似文章

评论

0/500
验证码(点击图片刷新)
暂无评论