加州新法案将要求人工智能公司提醒孩子们"聊天机器人不是人类"

加利福尼亚州提出的一项新法案（SB243）将要求人工智能公司定期提醒孩子们聊天机器人是人工智能而非人类。该法案由加州参议员史蒂夫-帕迪拉（StevePadilla）提出，旨在保护儿童免受人工智能的"成瘾性、孤立性和影响性"。

除了限制公司使用"成瘾性参与模式"外，该法案还要求人工智能公司向州卫生保健服务部提供年度报告，概述公司发现使用该平台的儿童有自杀倾向的次数，以及聊天机器人提出该话题的次数。它还会让公司告诉用户，他们的聊天机器人可能不适合某些孩子。

去年，一位家长对Character.AI提起了过失致死诉讼，称其定制的人工智能聊天机器人"不合理地危险"，因为她的孩子在不断与这些机器人聊天后自杀身亡。另一起诉讼指控该公司向青少年发送"有害信息"。Character.AI随后宣布正在开发家长控制，并为青少年用户开发了一个新的AI模型，该模型将阻止"敏感或暗示性"输出。

帕迪拉参议员在新闻稿中说："我们的孩子不是科技公司以他们的心理健康为代价进行实验的小白鼠。我们需要为聊天机器人用户提供常识性保护，以防止开发者采用他们明知会上瘾和具有掠夺性的策略。"

随着州和联邦政府加倍重视社交媒体平台的安全性，人工智能聊天机器人可能很快就会成为立法者的下一个目标。