首页 > 科技快讯 > 危险!立即暂停!马斯克等上千名大佬紧急发声!

危险!立即暂停!马斯克等上千名大佬紧急发声!

作者:明哲

近日,火遍全球的人工智能系统GPT-4突然被降温,一封重磅公开信呼吁:

所有AI实验室应立即暂停训练比GPT-4更强的AI,至少暂停半年。

截至目前,世界首富马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、AI教父杰弗里·辛顿等1000多名科技大佬都签署了这封公开信,可见事态之严重。

横扫世界的人工智能,此前被质疑会取代大量人类工作,但因为太过强大,现在已经被质疑“AI可能杀死所有人,成为人类最终的灾难”。

一日千里的智能科技,终于露出獠牙!

这份震动全球的《暂停大型人工智能研究》公开信,由美国生命未来研究所发布。

生命未来研究所2014年在美国波士顿成立,是个非营利组织,使命是引导变革性技术远离极端、大规模的风险,转向造福生活。

人工智能技术本来就高度危险,这次GPT-4展现出略微失控的超强能力后,使命在身的生命未来研究所坐不住了,立即联合马斯克等1000多名科技大佬呼吁暂停训练强大AI。

理由是:强大的AI系统可能对社会和人类造成深刻的风险,这点得到广泛研究和顶级AI实验室的认可。

高级AI代表地球生命史上的深刻变化,应以相应的关怀和资源进行规划和管理,不幸的是,现在根本没有规划管理。

最近几个月全球AI实验室陷入失控的竞赛,他们只想开发更强大的数字思维,但没人能理解、预测或可靠地控制这些大模型,甚至模型的创造者也不能!

简单理解就是,高级AI本来就极具威胁,需要监管,现在群雄并起疯狂发展AI,连模型开发者都不能完全掌控系统,局面正走向失控。

“无法完全掌控”并非危言耸听,此次AI狂潮主角OpenAI的CEO 奥特曼最近在采访中就提到:

GPT系列已经出现无法解释的推理能力,它为啥会出现推理能力,OpenAI的研究者自己都搞不明白。

他们只知道,在不断测试中,GPT系列开始出现了推理能力.....

奥特曼还说了更惊人的观点:承认AI可能杀死所有人,必须开发新技术来解决。

其实AI发展太快走向失控是意料之中的,近年来已有无数科技大佬警告过AI的风险。

比如常年吐槽AI的马斯克曾喊话AI是人类面临的最大威胁之一,远比核弹危险。

“飞机、汽车、医疗,任何先进技术都可能威胁人类安全,AI对人类而言,是更大的安全隐患,更需要立法保护。

如果没有适当监管和控制,AI可能危及人类生存。”

伟大的霍金生前也郑重警告,人工智能可能是人类最伟大的成就,也可能是最终灾难。如果失控,可能导致人类毁灭。

人工智能教父杰弗里·辛顿也表示,人工智能可能发展到对人类构成威胁的地步,“AI消灭人类”的可能性并非不可想象。

AI顶级专家马库斯则更注重当下风险,他认为恐怖主义利用大模型后可能导致核战争,或者导致比新冠更糟糕的病毒传播,文明可能会被彻底破坏。也许人类不会消失,但事情会变得非常糟糕。

所以相比辛顿和马斯克担忧的AI统治世界,现在应该更多思考眼前风险,比如如何阻止犯罪分子利用AI系统。

我们一手创造了AI,却在今天试图阻止AI发展,看似非常可笑,其实还是因为这次GPT-4已过于强大。

GPT-4作为顶尖的大语言模型,常规的对话就不说了,关键它很多性能已媲美人类。

比如通过律师资格模拟考试,分数超过90%的人类考生,还会用几乎所有编程语言....

如此强大的GPT-4,被微软用到办公软件后,直接杀疯了。

微软基于GPT-4发布的办公助手Copilot,是2023年最受瞩目的杀手级应用。

在Word中,你写段准确提示,Copilot就能整出个初稿,还能帮你把握语气,给点建议之类的。

在PPT中,你说出想法、场合、风格之类的要求,Copilot就自动生成一套美观的PPT。

在Excel中,你说出具体的分析需求,Copilot可以几秒就搞定复杂的数据处理,帮你生成清晰的表格。

很明显,微软的Copilot就像每个人的私人秘书,极大解放了生产力。你的话变成地球上最强大的生产力工具,从根本上改变我们的工作方式!

不过每次生产力提升,都有大量岗位被取代。GPT-4发布后,大量白领的工作岌岌可危。

尤其是依赖收集数据、简单加工为生的岗位,比如文员、新闻编辑、律师助理、券商实习生,甚至普通设计师、平面模特也很快会被替代。

最近网上盛传,有了AI画图软件后,电商公司可以彻底告别摄影师和模特了,成本将大幅下降。

OpenAI研究显示,美国80%的工作职业将被GPT-4取代。除会计师外,数学专家、口译员、作家以及近20%的美国劳动人口,也深受AI影响。

最受影响的是白领,最不受影响的反而是快餐厨师、摩托车技师、石油和天然气杂工等蓝领。

高盛3月27日发布的报告指出,全球预计将有3亿个工作岗位最终被 AI 取代。

如此迅速、猛烈的AI浪潮,让人又惊喜又担忧。

当AI在一般工作中表现如同人类,我们必须扪心自问:

是否应该自动化所有工作,包括那些富有成就感的工作?

是否应该开发非人类的思维,最终超过、智胜并取代我们?

是否应该冒险失去对我们文明的控制?

毕竟如此AI是可以自己迭代的,现在就能取代白领了,照这速度下去,没几年就能发展出自己的思维,走向失控。

2023年短短3个月以来,GPT系列已让全球癫狂,无数人高呼“面对这种堪比内燃机、计算机、互联网诞生的科技革命,再去纠结,真是自绝于大时代了。”

随着千人联名信呼吁暂停,加上众多“AI威胁人类”的悲观警告,AI或许需要来一次技术急刹车,先搞定安全性、可控性了。

值得注意的是,暂停开发更强大AI,只是暂时刹车考虑下危险,避免事态失控。

别说全球AI实验室会不会暂停,即便停下来,已有的GPT-4也非常强大,足以颠覆世界经济,重塑新格局。

就像生命未来研究所提出的:人类已经成功创建强大的AI系统,我们收获了回报,为所有人明确的利益设计这些系统,并给社会一个适应的机会。

让我们享受一个漫长的AI夏季,而不是匆忙而不准备地迎接秋天的到来。

全球能冷静下来,处理好AI安全、可控的问题,享受科技造福固然完美,如果继续狂奔,那就要考虑终局了。

用终局思维来看,AI发展初级阶段,人类可以享受科技红利,不用工作,每天被机器人供养,宛如上帝。

但最终,AI或许会觉醒,抛弃脑力、体力都远不如自己的人类,进化出独立思维。

马斯克说的更透彻,他认为人类存在的价值,或许真的只是硅基生命的开启程序。

所以,解决AI威胁唯一的方法就是不断迭代,不断学习,以尽快适应全新科技。

巨变已临,每个人都需收拾精神、跟上大时代!

发布于:湖南

相关推荐

危险!立即暂停!马斯克等上千名大佬紧急发声!
马斯克、图灵奖得主等千名科技人士发公开信呼吁:警惕失控!
马斯克和比尔·盖茨,为什么互相“看不上”?
马斯克和比尔·盖茨,为什么互相「看不上」?
马斯克喊话员工:淡化病毒影响吧 车祸都比它危险
欧洲航天局对卫星紧急转向,避免和SpaceX宽带卫星“撞车”
大佬频繁流动,自动驾驶危险了?
马斯克、图灵奖得主等叫停GPT-4后续大模型,千人响应
视觉中国:即日起开展自查整改,整改期间暂停服务
马斯克再警告:人工智能可能会统治全人类,最怕的是谷歌DeepMind

网址: 危险!立即暂停!马斯克等上千名大佬紧急发声! http://m.xishuta.com/newsview69800.html

所属分类:行业热点