图片来源于网络

网易科技讯 5月12日消息，据VentureBeat报道，人们当前对人工智能（AI）与自动化威胁最大的担心是它们将取代人类工作，然而隐藏在这种担忧之下的威胁实际上比我们想象的更大：人工智能和自动化会危及人类自身吗？

伊隆·马斯克（Elon Musk）、比尔·盖茨（Bill Gates）以及史蒂芬·霍金（Stephen Hawking）等人都已经就AI和自动化做出“反乌托邦式”预测。对于有些人来说，以色列科学家尤瓦尔·赫拉利(Yuval Noah Harari)在其《智人：人类简史》（Homo Deus: A Brief History of Tomorrow）中预测的场景成为现实只是时间问题。在他看来，未来世界将由少数人类控制机器，而机器反过来控制人性。

与此同时，有些人即使对AI的快速发展感到担忧，但依然相信将迎来光明的未来。谷歌联合创始人谢尔盖·佩林（Sergey Brin）1月份参加世界经济论坛时表示：“深网革命的影响已经非常深刻，它的确让我感到吃惊，即使我身处其间。这些东西能做什么？我们真的不知道它们的极限。拥有无数令人难以置信的可能性，我认为准确预测未来根本是不可能的。”

当然，AI的发展带来许多积极影响。AI、自动化以及其他数字技术正帮助各个领域取得巨大突破，比如医疗研究、提高经济生产力以及无人驾驶汽车等。然而许多人认为，这些活动让人类变成“温水中的青蛙”，未能充分意识到AI带来的危险。

Wolfram Research创始人史蒂芬·沃尔夫拉姆（Stephen Wolfram）、GroupM主席欧文·戈特利布（Irwin Gotlieb）也加入到这场争论中来。在新奥尔良的Collision舞台上，沃尔夫拉姆与戈特利布对话VentureBeat总编布莱斯·泽里加（Blaise Zerega），在对于“人类是否还有未来？”这个问题，两人都给出谨慎回答，但答案却截然不同。

Wolfram Research创始人史蒂芬·沃尔夫拉姆（Stephen Wolfram，上）和GroupM主席欧文·戈特利布（Irwin Gotlieb）图片来源于网络

沃尔夫拉姆解释称，当前围绕AI引发的混乱实际上是技术应该如何帮助人类的延续，有了技术人类就该放任不管吗？他说：“如果说历史上有一件东西始终保持着进步，那就是技术。问题在于：人类还必须做什么？”在他看来，我们正迅速进入这样的状态：人类设定目标，然后利用技术实现它们，当然尽可能通过自动化技术实现。沃尔夫拉姆还称：“当问及人类还保留哪些空间时，答案就是弄清楚什么是人类精华。”

戈特利布也同意沃尔夫拉姆的这个观点，但他指出：“我比沃尔夫拉姆更感到害怕。突然之间，我们思考了20多年的问题得到了解决，我们必须面对它们进步越来越快的问题。”他解释称，他非常欢迎AI带来的进步，但同时脑海中总是有个细微的声音在说：这很有可能产生反乌托邦式的后果。

沃尔夫拉姆与戈特利布认为，技术的快速进步正加剧收入不平等、社会变化、失业率，我们需要集体行动起来以更好地理解和规范AI的未来使用方式。举例来说，科幻作家艾萨克·阿西莫夫（Isaac Asimov）的机器人三原则迄今为止已经给予我们很大帮助，沃尔夫拉姆呼吁推出AI宪法。

然而当对话转向伦理和人性意义的普遍追求时，人类判断的重要性再次浮出水面。戈特利布提出这样的假设：一辆AI汽车搭载1名乘客，另一辆中乘坐几名乘客。如果一辆汽车需要被挽救，AI系统如何做出反应？戈特利布说：“目前还没有解决方案，各方都采用不同的规则应对它，同时也有各自不同的目标。”

沃尔夫拉姆说：“我们能发明出完美的数学原理来束缚AI吗？我认为这个问题没有答案。在遥远的未来，我们可能不得不审视自己，并自问：人性的本质是什么？如果我们能够制定AI宪法，我们希望它包括哪些东西？”但沃尔夫拉姆与戈特利布在1个观点上的态度一致，那就是人类的未来取决于我们自己。

                                                         （来源：网易科技频道）

                                                                （廖慧莹编辑）