AI教父本吉奥警告AI或威胁人类生存
【#AI教父仍警惕AI导致人类灭绝的危险#】两年多前，人工智能(AI)先驱、蒙特利尔大学教授约书亚-本吉奥(Yoshua Bengio)曾是呼吁暂停AI模型开发、专注于安全标准的最响亮发声者之一。但没有人停下脚步。相反的，各家公司继续投入数千亿美元，用于构建更先进的模型，这些模型能够执行长链推理，并且能够日益代表用户采取自主行动。如今，被视为“AI教父”之一的本吉奥和以往一样忧心忡忡。
本吉奥在接受媒体专访时称：“如果我们制造出比我们聪明得多、并且有其自身生存目标的机器，那将是危险的。”他表示，这就像为人类创造了一个比我们更聪明的竞争对手。它们可以通过说服、威胁、操纵公众舆论来影响人类。它们可以通过各种方式，借助人类在世界上完成任务。比如，帮助恐怖分子制造一种可能引发新的大流行病的病毒，这对我们来说可能非常危险。对于像人类灭绝这样的灾难性事件，甚至是像摧毁我们的民主这样虽不那么极端但仍是灾难性的事件，问题在于它们是如此糟糕，以至于即使只有1%的发生几率，也是不可接受的。
发布于：北京
相关推荐
Scientist AI，能避免“人类生存威胁”吗？
打脸“AI灭绝伦”，研究反驳：大模型涌现能力不会威胁人类生存
比AI灭绝人类更危险的，是愚蠢的AI接管世界
AI的终局，仍是为人类服务
又一封“警惕AI、保卫人类”的公开信发出
AI教父Hinton 46分钟对谈：AI可复制人类心智，或加剧全球贫富差距
AI“失控”？OpenAI最新模型拒绝关闭自己，还有模型用隐私威胁人类，马斯克：这令人担忧
马斯克称AI比人类聪明很多，是最大的威胁之一，需引导控制
深度解析：AI 能否帮助人类重塑网络安全屏障？
三大巨头联合署名！又一封“警惕AI、保卫人类”的公开信发出
网址: AI教父本吉奥警告AI或威胁人类生存 http://m.xishuta.com/newsview142657.html
