探讨Hugging Face CEO关于AI毁灭人类概率P(doom)几乎为零的主张，以及我们当下所面临的社会挑战。
AI会毁灭世界？试着想象一下
试着想象一下，今天早上你打开新闻应用，发现满屏都是“AI是否会毁灭人类”这类惊悚的文章，你会有什么感觉？这听起来像是科幻电影里的情节，但事实上，在人工智能（AI）研究人员中，“P(doom)”这个术语被严肃地使用着。
在此，P(doom)指的是“AI导致人类灭绝的概率（Probability of Doom）”，这是一个行业术语。然而，AI行业最具影响力的人物之一、Hugging Face的CEO Clem Delangue最近对这个概率给出了非常坦率的回答。他眼中的未来究竟是什么样的呢？
这为什么重要？
随着AI技术的发展，人们产生了两种极端的担忧：一种是“AI会抢走我们所有工作怎么办？”的现实忧虑，另一种是“AI变得太聪明，试图控制人类怎么办？”的模糊恐惧。
Clem Delangue的此次发言之所以重要，是因为它能够平息这种模糊的恐惧。这是一个信号，表明相比于我们模糊担忧的“技术暴走”，我们更应该关注正在面临的现实社会问题。
深入浅出：AI恐惧 vs 现实挑战
简单来说，P(doom)是对AI导致人类灭绝的可能性进行打分。Clem Delangue称这个分数“接近于0”来源 2。
打个比方，我们每天开车时，并不会担心“汽车失去控制导致人类灭绝”。相反，我们会考虑“会不会发生交通事故？”、“会不会因为交通拥堵而迟到？”等切身问题。
同样，伊恩·布雷默（Ian Bremmer）等专家指出，虽然AI导致人类灭绝的概率可能很低，但AI引发的社会、经济和国家安全挑战已经以接近100%的概率出现在我们身边了来源 2。也就是说，我们可能正因为担心遥远未来的灭绝，而错过了眼前的现实。
当前现状：生活在“LLM泡沫”中的我们
Clem Delangue并不认为现在的市场处于“AI泡沫”之中，但他诊断称我们正处于“LLM（大语言模型，学习句子模式并像人类一样对话的AI模型）泡沫”之中来源 4。
这意味着什么呢？就像互联网泡沫时代一样，目前市场对对话式AI模型的期待值被拉得过高。技术本身无疑令人惊叹，但它被吹捧得仿佛现在就能无所不能。然而，Delangue认为这是自然的市场过程。泡沫消散后，AI将成为更切实融入我们生活的工具。
技术最终的价值取决于我们如何使用它。当下的狂热就像技术成熟过程中经历的“生长痛”。
未来会怎样？
未来AI的发展方向将不再是通往人类灭绝的竞赛，而是“创造多少社会效益”的竞争。现在我们应该重点关注的是：AI如何提高我们的劳动生产率、改变教育质量并缩小信息差距。
包括中国在内的主要强国也在加快步伐，以掌握AI的主导权来源 3。当我们沉浸在人类灭绝这种电影般的恐惧中时，现实世界中的竞争却在激烈地进行着。现在是时候思考如何将AI当作“智能工具”来支持我们的日常生活，而不是将其视为“可怕的存在”了。
MindTickleBytes AI记者的视角
“AI会统治世界吗？”这个问题虽然给了我们电影般的乐趣，但事实上更重要的问题是“我们将如何利用AI来解决世界上的哪些问题？”。对于灭绝的恐惧只是阻碍我们理解技术的壁垒。现在让我们消除壁垒，谈谈与AI共存的真实未来吧。
参考资料
- 非常高
- 普通水平
- 接近于0
- AI泡沫
- LLM泡沫
- 没有泡沫
- 社会、经济和国家安全问题
- 人类灭绝
- 所有职业的消失