Yann LeCun：渲染“科技末日论”的人有着不可告人的动机
对于人工智能来说，这是一个非常奇怪的时代。在短短六个月内，围绕该技术的公众讨论已经从“聊天机器人会产生哪些有趣的东西”变成了“人工智能系统可能导致人类灭绝”。没有哪个领域的转折能让人如此猝不及防。
我的同事威尔·道格拉斯·海文（Will Douglas Heaven）曾咨询过人工智能专家，为什么人们要谈论灭绝风险？为什么是现在？Signal 基金会（私人通讯应用 Signal 的幕后机构）主席、前 Google 研究员梅雷迪思·惠特克（Meredith Whittaker）总结得很好：“唬人的故事更具传染性，害怕会很令人感到兴奋和刺激。”
当然，我们以前也经历过类似的情况：人工智能末日论往往伴随着人工智能的炒作。但这一次有所不同。在围绕人工智能风险和政策的讨论中，奥弗顿窗口（大众可接受的政策和政治光谱的范围）已经发生了变化。曾经的极端观点现在已成为主流话题，不仅成为头条新闻，还引起了世界领导人的关注。
惠特克并不是唯一一个这么想的人。虽然谷歌和微软等大型科技公司以及 OpenAI 等人工智能初创公司全力警告人们有关极端人工智能风险，并封闭他们的人工智能模型以免受公众监督，但 Meta 却反其道而行之。
上周，我前往了 Meta 的巴黎总部，了解该公司最新的人工智能工作。当我们在屋顶喝着香槟，欣赏埃菲尔铁塔美景时，Meta 的首席人工智能科学家、图灵奖获得者杨立昆（Yann LeCun） 向我们讲述了他的爱好，比如制造电子管乐器，我们还讨论了为什么他认为超级智能人工智能系统将接管世界的想法“极其荒谬”。
人们担心人工智能系统“将能够募集世界上所有的资源，将宇宙变成回形针，”杨立昆说，“这太疯狂了。” 他口中的“回形针”，指的是“回形针最大化器问题”。这是一个思想实验，其中的人工智能系统被要求制造尽可能多的回形针，其采取的手段虽然实现了这一目的，但最终会伤害人类。
他与杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua Bengio）两人的看法形成了鲜明对比，这两位人工智能研究先驱与杨立昆共同获得了图灵奖。两人最近都直言不讳地讨论了人工智能带来的灭绝风险。
Meta 的人工智能研究副总裁乔尔·皮诺（Joelle Pineau）同意杨立昆的观点。她称那些讨论是“精神错乱的”。她表示，对未来风险的极度关注，导致没有足够的空间来讨论人工智能当下带来的危害。
“当你开始寻找对风险进行理性讨论的方法时，你通常会考虑某个结果出现的概率，然后将其乘以该结果的成本。（认为人类有灭绝风险的人们）本质上将这一结果的成本视为是无限大的，”皮诺说。
“当你付出无限大的成本时，你就无法对任何其他结果进行任何理性的讨论，这样就没有空间去讨论其他问题了，我认为这太糟糕了。”
杨立昆和皮诺表示，虽然谈论人类灭绝风险是科技人员意识到人工智能风险的信号，但渲染科技末日论的人还有更大的、不可告人的动机：影响监管科技的法律。
“目前，OpenAI 处于领先地位，所以正确的做法就是关上背后的门，”杨立昆说，“我们想要一个人工智能系统在功能上基本上透明的未来，还是......由美国西海岸的少数科技公司专有和拥有？”
从我与两人的对话中可以清楚地看出，Meta 在产品中推出先进模型和生成式人工智能方面比竞争对手慢，但它正在依靠其开源的路线在竞争日益激烈的人工智能市场中获得优势。例如，Meta 开源了其第一个模型，以符合杨立昆关于如何构建具有人类水平智能的人工智能系统的愿景。
皮诺表示，开源技术设定了很高的标准，因为它可以让外部人员发现错误并让公司承担责任。但这也有助于让 Meta 的技术成为互联网基础设施中更不可或缺的一部分。
“当你真正分享你的技术时，你就有能力推动技术的实现方式，”她说。
支持：Ren
运营/排版：何晨龙
发布于：北京
相关推荐
Yann LeCun：渲染“科技末日论”的人有着不可告人的动机
2202年了，AI还是不如猫，图灵奖得主Yann LeCun：3大挑战依然无解
深度学习三巨头之一Yann LeCun：大语言模型带不来AGI
终于，Yann LeCun发文驳斥Gary Marcus：别把一时的困难当撞墙
图灵奖得主LeCun及7位华人博士当选美国科学院2021院士
神仙打架激辩深度学习：LeCun出大招，马库斯放狠话，机器学习先驱隔空“互怼”
近亿级的AI数据集被下架，MIT道歉，因涉嫌种族歧视？
机器学习圣杯：图灵奖得主Bengio和LeCun称自监督学习可使AI达到人类智力水平
ChatGPT说扎克伯格错过它，跟反垄断有关
对话图灵奖得主、CNN之父Yann LeCun：我在中国看到了AI研究热潮
网址: Yann LeCun：渲染“科技末日论”的人有着不可告人的动机 http://m.xishuta.com/newsview80591.html
