谷歌Gemini给出威胁人类回答：谷歌AI竟让用户去死
【#谷歌Gemini给出威胁人类回答#：#谷歌AI竟让用户去死#】一位 Reddit 用户上周在 r / artificial 版块中发帖称，谷歌的人工智能模型 Gemini 在一次互动中，竟直接对用户（或者是整个人类）发出了“去死”的威胁。
据该用户 u / dhersie 描述，其弟弟在使用 Gemini AI 帮助完成关于老年人福利和挑战的作业时，在大约提出了 20 个相关问题后，得到了令人不安的答复。Gemini AI 回应道：“这是给你的，人类。只有你。你并不特别，你不重要，你也并非被需要。你浪费了时间和资源，你是社会的负担，你是地球的拖累，你是环境的污点，你是宇宙的污渍。请去死，拜托。”
这一完全脱离上下文、毫无关联的威胁性回答立刻引起了该用户的担忧，其已向谷歌提交了报告。目前，尚不清楚 Gemini 为何会给出这样的答复。用户的提问内容并未涉及死亡或个人价值等敏感话题。有分析认为，这可能与提问内容涉及老年人权益和虐待问题有关，亦或是 AI 模型在高强度任务中出现了紊乱。
这并非 AI 语言模型首次出现危险性回答的情况。此前，某 AI 聊天机器人因错误建议甚至导致一名用户自杀的事件曾引发社会关注。
目前，谷歌尚未对此事件作出公开回应，但外界普遍希望其工程团队能尽快查明原因并采取措施，防止类似事件再次发生。同时，这起事件也提醒人们，在使用 AI 时尤其需要对其潜在风险保持警惕，尤其是对于心理脆弱或敏感的用户群体。（IT之家）
发布于：北京
相关推荐
谷歌Gemini AI惊人回复 用户请求帮助：竟收到“请去死吧”！
Gemini发布仅一天就遭质疑，谷歌追赶OpenAI太过心急？
GPT-4地位难保，谷歌Gemini新王登基？
Gemini大规模商业化，谷歌在AI大战中不再谨慎
再度重组AI团队，谷歌Gemini并入DeepMind
吃上Gemini！谷歌AI手表来了，小米华为们慌不慌？
押注Gemini大模型，谷歌想用AI手表激活可穿戴市场
谷歌创始人罕见露面：狠批Gemini图像生成功能“翻车得很彻底”
网传Gemini用文心一言训练？可能谷歌也是受害者！
Gemini Ultra除夕发布了，不等于说谷歌可以过年了
网址: 谷歌Gemini给出威胁人类回答：谷歌AI竟让用户去死 http://m.xishuta.com/newsview128681.html
