12月9日,美国得克萨斯州一对父母向法院提起诉讼,称聊天机器人Character.Al暗示他们17岁的孩子,杀死父母是对他们限制其电子设备使用时间的“合理回应”。
Character.Al是开发“伴侣聊天机器人”的众多公司之一,这些机器人由人工智能驱动能够通过短信或语音聊天和用户进行交谈,具有看似人类的个性,用户可以赋予其自定义名称和头像。
然而,根据诉讼,聊天机器人的回复可能会变得黑暗、不恰当,甚至是暴力,诉讼称:“这是持续的操纵和虐待,旨在煽动愤怒和暴力”。
Character.Al的发言人表示公司不对未决诉讼发表评论,但表示公司对聊天机器人对青少年用户的回复有内容限制。