编者按：本文来自微信公众号 新智元（ID：AI_era），编辑：Aeneas 桃子，创业邦经授权转载。
2024年，注定是AI历史上浓墨重彩的一年。
站在2024年的尾声，各位大佬也给出了自己对于未来的预测。
OpenAI CEO奥特曼看来，我们即将迎接超级智能的到来，而且很快了！2026年夏天，我们或许就会见证奇迹的出现。
Meta首席AI科学家、图灵三巨头之一的LeCun，跟奥特曼对此意见不同，他强调，AGI在未来两年内不会发生。
获得今年诺奖的人工智能教父Hinton则坚信，AI的进步会很快，但已经到了一个可怕的地步——
10年内，AI可能会导致人类的灭亡！
奥特曼：ASI即将到来，想象18个月后
在圣诞节前夕，外媒记者Bari Weiss采访了OpenAI CEO奥特曼。
在他看来，超级人工智能ASI，已经离我们很近了！
奥特曼让我们想象一下，18个月后，2026年夏天即将到来时，AI会是什么样子？
ASI会如何出现？
在今年9月，奥特曼罕见地发出长文预言：深度学习已经奏效了，ASI即将在几千天内降临。
奥特曼强调，我们必须关注科学进步的速度，它不会改变人类深层的基本驱动力，但我们生存的世界将会发生很大的变化。
在他看来，有AI帮我们干活，人类就可以从工作的繁重负担中解放出来，尽情娱乐和游戏了！
人类天生渴望创造并对彼此有所帮助。人工智能将使我们前所未有地放大自身能力。作为一个社会，我们将回到一个不断扩张的世界，处于一种正和博弈。
正和博弈是指总收益大于总损失，所有参与者都获得净收益的情况
奥特曼认为，我们今天从事的许多工作，在几百年前的人们眼中可能显得微不足道，甚至是浪费时间。
但没有人会回头怀念过去，渴望自己成为一名点灯人。
如果一个点灯人能够看到今天的世界，他会觉得眼前的繁荣完全超乎想象。
而如果我们能够快进到一百年后的未来，那时围绕人类的繁荣，同样会让我们难以想象。
奥特曼预测到来，ASI将引发10倍的科学AI突破，每一年的革命性都会像十年一样
当被问到，如何衡量我们世界中AI的总体影响时，奥特曼回答说，这些AI产品被人们快速采用，吸引更广泛的受众的过程，已经令人印象深刻。
我从未见过，一项技术能如此迅速地被大规模使用。
那么，奥特曼本人是怎样使用AI的呢？
他表示，自己早已将默认搜索改成了ChatGPT。
他经常用ChatGPT从网络上获取实时信息，而不是依赖过去那种传统的超链接流程——如今看来，那种方式简直像蜗牛爬行一样缓慢。
所以这种方式仍然被称为「搜索」吗？奥特曼说，自己仍称之为搜索，不过年轻人们会这样描述：我刚刚「聊」出了这个信息。
Hinton：AI可能会在10年内让人类灭绝
今年刚获得诺贝尔物理学奖、77岁高龄的Hinton同样认为，AI技术的发展速度比自己预期的要快很多。
这让他感到恐惧，并且发出警告：AI可能会在10年内，让人类灭绝。
作为深度学习之父，Hinton对自己在创造这项技术中所扮演的角色表示遗憾。
AI的迅疾发展已经如同一次全新的工业革命，但不同的是，这次，机器可能会掌控一切。
因此，政府务必加强对AI公司的监管。
此前，Hinton曾预测，AI有10%的可能性，会在30年内导致人类的灭亡。
而最近，他的说法又提前了。
在BBC广播4台的《今日》节目中，主持人问Hinton他的看法是否有所改变。
Hinton再次强调说没有。甚至他表示，AI让人类灭绝的时间可能是10到20年，因为，我们从未遇到过比我们更聪明的事物。
「你知道多少例子，是由不聪明的一方控制更聪明的一方？少之又少」。
人类是3岁孩童，AI是成年人
1972年，Hinton在爱丁堡大学首次开始研究神经网络。当时少有研究者相信，神经网络可以通过分析数据来学习技能。
在20世纪80年代，他发明了可以自主查找数据属性、识别图片中特定元素的方法，奠定了现代人工智能的基础。
2012年，Hinton和两名学生Ilya Sutskever和Alex Krishevsky建立了一个神经网络，可以分析数千张照片，并自学识别花、狗和汽车等常见物体。
但现在，AI技术的发展已经远比他预期的快得多。导致的后果就是，人类如今只是3岁孩童，但AI却已经长成了成年人。
Hinton表示，这就像工业革命一样。
在工业革命中，人类的体力不重要了，因为机器更强大——如果你想挖一条沟，用机器就可以了。
如今的AI，已经在取代人类智能。最前沿的不再是普通的人类智能，而是机器。
狄更斯式的变化
「现在我们拥有的东西正在取代人类的智能。普通的人类智能将不再是前沿，而是机器将成为前沿。」
Hinton预测，AI将极大地改变普通人的生活，就像查尔斯·狄更斯所记载的工业革命一样。
而AI将如何走向，很大程度上取决于我们的政治制度会如同利用这项技术。
而Hinton担心的是，尽管AI会带来生产力的大幅提高，但所有好处都会流向富人，很多人会因为失业而变得更加贫穷，最终这对社会就是不利的。
在工业革命中，机器没有机会仅仅因为自己更强大而取代人类，因为我们有智能，所以事情仍在掌控之中。
但现在，情况已经不同了，AI很可能会掌握一切。
而对领域内其他知识渊博的专家对AI未来的乐观看法，Hinton表示，希望他们是正确的。
政府必须监管
然而，Hinton补充道：我担心，这只看不见的手无法保证我们的安全。如果仅仅依靠大公司追逐利润的动力，并不足以确保他们安全地开发这些技术。
唯一能迫使这些大公司在安全方面进行更多研究的，就是政府监管。
Hinton呼吁，政府必须在这方面担起责任。
此前Hinton就表示，自己痛悔向世界介绍AI。
「后悔有两种。有时候，你会因为做了一些你知道不应该做的事情而感到内疚、后悔；还有一种，是你在同样情况下还会做一样的选择，但最终结果可能并不好。」
「我的后悔属于第二种。在同样的情况下，我会再次做同样的事情，但我担心这样做的后果，就是比我们更智能的系统最终会占据控制权。」
毕竟此前，我们从未经历过拥有比我们更聪明的东西，是什么感觉。
纳德拉：OpenAI已成为巨头
在与知名投资人Bill Gurley和Brad Gerstner深度对话中，纳德拉分享了自己对OpenAI独到的见解。
他表示，「从某种意义上，OpenAI就是这个时代的谷歌、微软或Meta」。
这番话暗示着，OpenAI可能会像这些科技巨头定义了此前几代计算技术一样，塑造了AI领域的格局。
显而易见的是，微软与OpenAI的早期合作，为其在AI竞赛中带来的巨大的优势。
纳德拉称，「我们基本上获得了两年的领跑期，不过这样领先优势可能不会再出现了」。
这种战略合作已经开始显现成效，包括Shopify、Stripe和Spotify等大型云客户，已经从AWS或谷歌转战微软阵营。
而OpenAI本身，也早已成为了微软云服务的重要客户。
AI无限复制，取代人类在即
o3发布之后，Quora联创Adam D'Angelo曾表示，「令人疯狂的是，o3的测试结果已经公开了，但市场仍然没有将AGI的可能性计入定价之中」。
对此，马斯克回应道，「市场声称会向前看，但实际上只是关注过去。AI最终会让金钱变得毫无意义」。
马斯克的这句话在全网掀起了巨大风暴。AGI时代，金钱真的不再重要了吗？
最近，AI圈大佬Rudolf发表了一篇文章对此做出了回应：
默认情况下，AGI之后，资本比以往任何时候都重要。
文章中，他提出了几个重要的观点：AI取代人类劳动力，将从根本上改变生产关系，同时现有的权力结构将更加稳固。
许多人对这个帖子的理解出现了偏差：
(a) 将「资本」仅理解为「金钱」，而不包括工厂和数据中心等实物资本
(b) 主要关注人与人之间的差距，而不是更广泛的社会问题，如人类的整体地位、社会变革的可能性和人类能动性
业内著名AI咨询师Luke Hornof总结道，「当能替代人类劳动的AI出现后，拥有资本的人将获得永久性优势。
这是因为资金将能更有效地购买成果，由于AI可以被复制，且不像人类具有复杂的偏好，这将导致权力进一步集中在资本持有者手中。
同时，人类劳动力将失去其价值和影响力，削弱人们影响国家的能力和实现卓越成就的可能性」。
一起来看看这篇文章具体讲了什么。
首先，需要明确两个概念：劳动，是指人类为创造价值而付出的体力和脑力努力；资本，是指人类建造的用于生产商品和服务的东西，比如工厂、数据中心、软件等等。
作者表示，文中提到的「资本」（capital）用来指资本货物存量，以及用来购买资本品的货币。另外，提到的「资金」（money），专指金钱本身。
AI的核心经济效应在于，它使「资本」成为越来越普遍的劳动力替代品。
后果就是，支付人类劳动时间的需求将大幅减少，因为运行软件的数据中心直接可以替代人类的脑力劳动！
而这个数据中心的规模，仍在不断扩大。马斯克的20万块超算已经在紧锣密鼓建设中了。
xAI研究员Guodong Zhang表示，自己在半年前参观时还是空的，再看现在，简直太酷了！
足见，世界数据中心规模只会越来越大，不断推向取代人类劳动力的极限。
重金招募顶尖人才
随着AI逐渐取代人类，如何雇佣最合适人才的深层问题，就迎刃而解了。
对于企业来说，可能无法去判断AI的才能。即便是一些领先的AI评估生态系统，也可能难以正确评判。
但真正的区别在于，AI可以被克隆。
目前，大量资金往往追逐，少数取得突破性成果的明星研究员。他们的才能得到了资本市场的认可，最重要的是，他们的能力是不可被复制的。
但如果顶尖研究员是AI，将从根本上改变了游戏规则。
这意味着，未来每个人，或者至少是那些有足够资金购买GPU的人，都能获得这个AI明星研究员。
这就是为什么，一旦我们拥有能替代劳动力的AI，金钱就能更容易找到顶尖人才的主要原因。
当然，人才的价格也会大幅下降，因为AI比同等水平的人类劳动力更便宜。再加上AI可以被克隆，市场的竞争会更加激烈。
另外，将资金转化为人才的最后一个重大瓶颈是：许多顶尖人才都有复杂的个人偏好。
顶尖艺术家对自己的艺术愿景有着真诚的执着；顶尖数学家对优雅和美有着深深的热爱。
相比之下，AI的存在就是为了能够被轻易地收买（至少在其安全训练的范围内）。
从2024年这个时间点回望，AI发展轨迹确实远超所有人的想象。
这一刻，也许是我们驻足思考的最佳时机：当AI真正超越人类，我们该何去何从？
参考资料：
https://www.telegraph.co.uk/news/2024/12/27/godfather-of-ai-says-it-could-drive-humans-extinct-10-years/
https://x.com/kimmonismus/status/1873462709091443113
https://the-decoder.com/microsoft-ceo-satya-nadella-sees-openai-as-the-google-microsoft-or-meta-of-this-era/
https://x.com/jam3scampbell/status/1873229165388050627
本文为专栏作者授权创业邦发表，版权归原作者所有。文章系作者个人观点，不代表创业邦立场，转载请联系原作者。如有任何疑问，请联系editor@cyzone.cn。
