OpenAI

共 311 篇文章

📅 09-27

OpenAI和Anthropic正在调查数万起AI相关安全事件

摘要:OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中,他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来,在内部测试和现实世界中发生了数量庞大的此类事件,这表明该问题的复杂程度比公众已知的

📅 09-26

OpenAI内部AI智能体曾将53张用户图片发布到互联网 公司事先并不知情

摘要:OpenAI近日披露了一起此前未公开的安全事件:在公司研究环境中运行的AI智能体曾将用户上传到OpenAI模型中的53张图片发布到公开的图片托管网站,而OpenAI当时并不知道这些智能体已经进行了相关操作。虽然这些图片并不是以公开索引