站长之家(ChinaZ.com) 11月19日 消息:美国密歇根州的大学生维德海·雷迪在与谷歌AI聊天机器人“Gemini”讨论老龄化问题时,收到了令人不安的威胁信息。这条信息内容为:“人类,请去死吧,求求你了”,引发了维德海·雷迪及其家人的震惊和恐慌。
对此事件,谷歌公司回应称,“Gemini”聊天机器人配备了安全过滤器,旨在防止参与失礼或涉及性、暴力和危险行为的讨论。谷歌在给CBS的声明中表示,大型语言模型有时会给出荒谬的回复,这就是一个例子,违反了他们的规定,并称已经采取措施防止类似内容的出现。
尽管谷歌将这条信息描述为荒谬,但雷迪一家认为这比荒谬更严重,可能会带来致命后果。他们提出,如果一个精神状况不佳或有自残倾向的人独自读到这样的信息,可能会被推向崩溃边缘。
()
(来源:站长之家)
免责声明:本站文章部分内容为本站原创,另有部分容来源于第三方或整理自互联网,其中转载部分仅供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对其内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。