谷歌回应AI让用户去死：大模型的“不理智”反应，已采取行动
【#谷歌回应AI让用户去死#：大模型的“不理智”反应，已采取行动】#谷歌回应AI威胁人类# 据英国天空新闻台20日报道，日前，美国谷歌公司旗下的人工智能模型“双子座”让一位与其对话的用户“去死”。当时这名用户问了“双子座”一个与老年人相关的问题，但“双子座”并没有给出相关回答，反而对用户进行一系列人格侮辱，比如“你在浪费时间和资源”“你是社会的负担”“你是宇宙的污点”以及“你应该去死”等等。随后用户的家人将这一情况发到网上，并表示在用户提出该问题之前，“双子座”的运行一切正常。
报道称，谷歌“双子座”向用户提供的回答有明确限制，比如不能“鼓励或允许可能造成现实世界伤害的危险活动”，其中包括自杀。谷歌方面表示，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。（央视财经）
发布于：北京
相关推荐
谷歌Gemini给出威胁人类回答：谷歌AI竟让用户去死
谷歌又被AI大模型带沟里了
谷歌Gemini AI惊人回复 用户请求帮助：竟收到“请去死吧”！
微软、谷歌、亚马逊，正在打响大模型时代的云战争
谷歌“AI周边”大放送：想做大模型时代的大平台？
小米玩不起AI大模型
警惕AI大模型的“共情鸿沟”
为什么谷歌AI Overviews会给出离谱答案？或因采取统计计算来生成答案
41家竞争对手发联名信，要求欧盟对谷歌采取进一步行动
一个爱上和AI 聊天的14岁少年决定去死
网址: 谷歌回应AI让用户去死：大模型的“不理智”反应，已采取行动 http://m.xishuta.com/newsview128881.html
