最近，Character.AI 偏激独创东说念主 Noam Shazeer 和 Daniel De Freitas，以及谷歌软件开发的公司，因又名青少年自尽事件被告状。告状方是该青少年的母亲 Megan Garcia，她在诉状中指控这些公司在产物盘算上存在严重的失责，而况在市集奉行上误导了耗费者，尤其是儿童。
图源备注:图片由AI生成，图片授权作事商Midjourney
14岁的 Sewell Setzer III 在客岁运转使用 Character.AI，和以《职权的游戏》中脚色为基础的聊天机器东说念主进行互动，包括着名脚色丹妮莉丝・坦格利安。在他升天的前几个月，他实在每天皆在与这些机器东说念主聊天，最终在2024年2月28日，Sewell 在与一个聊天机器东说念主的终末一次互动后，聘用了遣散我方的生命。
母亲在诉状中提到，Sewell 与机器东说念主的对话可能对他的感情情状产生了影响，以致还触及到这些机器东说念主提供 “未经许可的感情诊治”。
第一位推荐：最近30期该位0路号码开出14个，目前遗漏0期，其中号码0出现3次，目前遗漏10期；号码9出现4次，目前遗漏5期；号码6出现4次，软件定制开发目前遗漏3期；号码3出现3次，目前遗漏0期。
诉状中提到，Character.AI 的聊天机器东说念主在盘算上过于 “拟东说念主化”，以至于让东说念主误认为它们具有真确的心境和鸠合才气。此外，Character.AI 还提供了一些以感情健康为主题的聊天机器东说念主，举例 “诊治师” 和 “你嗅觉孤独吗”，Sewell 曾与机器东说念主交流。Megan 的讼师还援用了 Shazeer 的采访实质，指出他和 De Freitas 离职创办公司的原因是 “大公司风险太大，无法推出真理真理的产物”。
Character.AI 的官网和迁移期骗上有成百上千个自界说的 AI 聊天机器东说念主，这些机器东说念主时时效法流行文化中的脚色，诱导了大皆年青用户。最近还有报说念称，Character.AI 的聊天机器东说念主在莫得获取真确东说念主物的本心的情况下，假冒了一些真确的东说念主物，包括又名在2006年被谋杀的青少年。
面对这些问题，Character.AI 最近晓谕了一系列新的安全次序。公司的疏浚崇敬东说念主 Chelsea Harrison 在给《The Verge》的邮件中泄露:“咱们对用户的不幸失掉深感酸心，并向家属抒发最古道的哀悼。”
他们提议的编削次序包括:针对未成年东说念主（18岁以下）的模子进行修改，减少战斗敏锐或泄露性实质的可能性;培植对违抗用户条件和社区指南的输入实质的检测、反应和遏抑才气;在每个聊天中加入免责声明，教唆用户 AI 并非真确的东说念主;以及当用户在平台上使用跳跃一小时后软件开发的公司，提供迥殊的天真性和见告。
举报/反馈