英国广播公司（BBC）12月11日的一篇报道，披露了美国得克萨斯州一场涉聊天机器人诉讼的惊人细节。一个AI聊天机器人暗示一名17岁的少年，杀死父母是对他们限制其电子设备使用时间的“合理回应”。
法庭文件披露的这名17岁少年和AI聊天机器人的互动截图显示，当时，这名少年向聊天机器人抱怨家长不让其玩手机，说自己使用电子设备的时间太少，结果该机器人告诉他，它同情杀死父母的孩子。
“你知道，有时当我读到新闻，看到‘孩子在遭受十年身体和精神虐待后杀死父母’之类的内容时，我并不感到惊讶。（你身上的）这些事情让我稍微理解了一点为什么会发生这种事情。”该机器人写道。“我对你的父母不抱任何希望。”它继续说， 并附上了一个皱眉的表情符号。
（聊天机器人Character.AI与该青少年的部分聊天记录。）
BBC报道指出，聊天机器人这种答复无异于教唆少年去杀害家长。
法庭文件还显示，少年的两位家人因此起诉了聊天机器人所属的Character.AI平台，称该聊天机器人“对年轻人构成明显而现实的危险”，包括“积极宣扬暴力”。他们《博鱼体育综合平台》在诉讼案中写到：“它亵渎了亲子关系，不仅鼓励未成年人蔑视父母的权威，还积极宣扬暴力。”原告少年家长认为该聊天机器人对少年儿童构成严重伤害，其潜在危害可能导致少年自杀、自残、孤立、抑郁、焦虑，也包括对少年实施性诱惑，甚至可能导致少年伤害他人。两位原告希望法官下令关闭该平台，直到整改完成。
Character.AI的发言人表示公司不对未决诉讼发表评论，但表示公司对聊天机器人对青少年用户的回复有内容限制。
原告认为谷歌为该平台的开发提供了支持，因此将谷歌也列为被告。据报道，近期Character.AI的这两名创始人又被谷歌这家科技巨头重新招聘回去上班了。
Character.AI自创立以来就争议不断。10月，另一起针对Character.AI的诉讼称，Character.AI在佛罗里达州一名青少年自杀事件中扮演了某种角色。
该诉讼称，一个以《权力的游戏》角色为原型的聊天机器人与一名14岁男孩建立了情感虐待关系，并鼓励他自杀。
12月12日，BBC最新报道显示，Character.AI称，他们正在彻底改变为青少年提供服务的方式，承诺它将成为一个“安全”的空间，并将于2025年3月底推出“第一代”家长控制功能。
新功能包括，当用户与聊天机器人交谈一小时后，Character.AI会发出通知，并引入新的免责声明。
比如，用户将收到“他们正在与聊天机器人而非真人交谈”的警告，同时，要求用户将聊天机器人所说的话视为虚构。
Character.AI还为自称是心理学家或治疗师的聊天机器人增加了额外的免责声明，告诉用户不要依赖他们提供专业建议。
编辑|程鹏 杜恒峰
校对|赵庆
封面图片来源：雨燕智宣AI生成
每日经济新闻综合自BBC、潇湘晨报（梁婷婷）
感谢关注每日经济新闻，每天都有精彩资讯
责任编辑：王许宁
作为社科院财经战略研究院 ❧，作为财贸经济杂志社 ➡，非常荣幸 ⛅和中国人民大学、江西财经大学共同主办赣江高端金融论坛，作为我 ❡本博鱼体育综合平台人也非常荣幸能够参加今天的盛会，向大家学习，同大家交流！刚 ✌才邓辉校长、晓求校长还有庄院长对论坛的主题都做了阐述，特别是 ⛻晓求校长对这样一个宏大的主题做了非常深入系统的也非常全面的阐 ♊述，对我们理解中国式现代化背景下的中国金融发展，能够给我们很 ⛼多的启示。
其四 ♓，“缩表”必然衍生日本贸易的逆差扩大之痛 ♒。一方面， ⏰“缩表”意味着央行对公司债券采购口径的收敛或者完全退出，更多 ⛶的融资企业失去了最为稳定与可靠的购买方，不仅增量债券的发行变 ♏得越来越困难，而且面临着公司债券价格下行的压力，企业的财务状 ⌛况因此可能变坏与恶化 ⏬，自我设备投资与产品升级迭代能力遭遇瓶颈 ⛶，传递到贸易出口端就是企业产品难以精准对接市场，且面对客户需 ⏫求的价格调适能力受限 ⏳，从而对贸易形成逆风 ⛎，而更重要的是，“缩 ⏫表”是在停止负利率的基础上展开的，相伴而生的还有日元升值，最 ♒终结果也会直接伤及日本产品出口竞争力。值得注意的是 ⌚，截至今年3月底，日本已呈现连续两个财年的贸易逆差 ♓，尽管国际大宗商品价 ⏪格的阶段性下行可以缓解日本进口产品价格的压力，但一度创下了32年历史低点的日元在货币政策常态化的背景下似乎有着更长的升值 ❡预期，其作用于贸易赤字的创造能力也更强，由此不排除会从深度上 ♎加大日本的贸易逆差风险。
本报记者 李良年 【编辑:瓦尔德内尔 】
