人类可以在AI时代生存吗? ©Getty Images.

人类可以在AI时代生存吗?

我们谈到Max Tegmark,AI研究人员和生命研究所未来的联合创始人,关于他的书, 生命3.0 和人工智能的未来。

人工智能(AI)正在改变我们周围的世界。从自动化工厂建立没有人为干预的一切,到能够在一些最复杂的比赛中击败世界大师的计算机系统,AI正在向未来推动我们的社会 - 但是在这方面发生了什么  人造的  智力变得大于我们的?我们应该担心自动武器是否打开我们,或好莱坞风格的“骷髅踩机器人”?

广告

我们谈到了Max Tegmark,这是一个麻省理工学院教授和联合创始人 生命研究所的未来关于他的书, 生命3.0 ,他回答了我们需要解决的一些关键问题,以使人工智能的未来有益于所有人类。

你能用坚果壳形容你的书吗?

有很多谈论AI扰乱了就业市场,并实现了新武器,但很少有科学家认真地谈论房间里的大象:一旦机器在所有任务中都会发生什么?我想准备读者加入我认为是我们时间最重要的对话。问题如:“超人会有人工智能到达我们的一生,”“人类能够在AI时代生存,如果是,我们如何找到超级智能机器提供所有需求并使我们多余的所有贡献都能找到意义和目的,“最重要的是,我们应该想要什么样的未来?”

我觉得我们有史以来最好的是最变革的技术的尖峰,这可能是人类或最糟糕的事情,这取决于我们为其做准备。我是一个乐观主义者。我们可以与AI创造一个美好的未来,我希望影响人们计划并准备正确。

为什么你认为人工智能问题是现在有重要的谈话?

因为它真的在过去几年中,大量领导的AI研究人员认真对待这可能在几十年内发生这种情况。这一领域取得了巨大进展。如果你看一些例子:电脑何时能够在游戏中击败人类?几年前,大多数专家认为这需要至少十年。去年, 它发生了 。我们经过追求的地方的地区,人们认为要休息的事情发生了很多事情,这是该领域有多少进展的标志。

我觉得谈话仍然错过了房间里的大象,因为人们对工作市场的破坏,大众失业,这样的东西,但几乎没有科学家们认真谈论在那之后。机器越来越好,但他们会比我们更好,如果是这样,那么呢?我们传统上思想智力,作为神秘,只能存在于生物生物中,特别是人类。从我的角度作为物理学家,智能只是一种信息处理,由基本颗粒移动来执行。没有物理法则,说我们不能在所有方式建立比我们更聪明的机器。对我来说,这表明我们只看到了智慧冰山的一角,并有这种惊人的潜力来解锁本质上潜在的完整情报,并使用它来帮助人类蓬勃发展。换句话说,我认为大多数人仍然完全低估了AI的潜力。

生命3.0 Max Tegmark现已上市(£9.99,艾伦车道)

算法可以交付正义吗? ©Getty Images.

您的物理研究如何适用于对人工智能的研究?

作为物理学家,正如我所说,我认为没有人为人类智慧有任何“秘密酱”。我认为我们是一种以某种特定方式排列的一堆基本粒子,可以帮助我们处理信息。但这也是计算机的所在。许多人认为,机器永远不会像我们一样聪明,因为人类有一些神奇的东西。作为物理学家,从我的角度来看,那不是这种情况。

另一种方式是一种物理学家形状的思考,我的物理学家经常被告知,某些事情是不可能的或科幻小说,然后我们已经完成了它 - 它发生了。如果你于1915年去找别人并开始告诉他们核武器,他们会把你作为一个不知道你在谈论的人的科学梦想家。他们会说“当你甚至不能向我展示其中一个所谓的核爆炸之一的一个视频时,我应该认真对待这一点吗?这是荒谬的。”然而,三十年后,它发生了。在后智,如果我们计划前进一点点,那就很好,所以我们没有最终在一个非常破坏性的核武器竞赛中。这一次,我更乐观地说,我们实际上可以提前计划,如果我们谈论它们,避免问题。

传统上,我们始终通过我们的错误学习来贯彻我们的智慧。当我们发明了较强大的技术时,我们搞砸了一堆次,然后发明了灭火器。我们用汽车搞定了一堆次,然后我们发明了安全带。具有更强大的技术,如核武器和人工智能,您不想从错误中吸取教训。你想提前计划并在第一次获得事情,因为这可能是我们唯一的时间。这是我在本书中倡导的心态。

如果大量的工作是自动的,并且像手动劳动等很多事情不再需要人类注意,你认为如何改变社会,它会给我们带来哪些好处?

如果我们可以自动化所有的工作,这可能是一件美好的事情,或者它可能导致大规模贫困,这取决于我们对所产生的所有这些财富。如果我们与需要它的每个人分享它,那么有效地为每个人都获得了他们的余生,我认为很多人都不会反对。

我认为实际上,欧洲国家在这里是关键的,特别是在西欧,现在有这一传统 - 特别是自第二届 - 让政府为其人民提供了大量服务。人们可以想象,随着自动化增加的自动化产生了所有这些财富,您只需要通过税收为政府带来一小部分,为那些需要他们的人提供奇妙的服务,不能再获得工作。另一个问题是:你如何组织你的社会,以便人们感受到一种宗旨,即使他们没有工作?想想我们试图创造的社会是什么样的,我们可以用高科技而不是比目鱼来繁荣。

您如何看待媒体中AI的写照?

我认为这通常是恶毒的。我认为,首先,因为恐惧卖出,更加专注于下行而不是上行。其次,如果你看一下吓唬你的好莱坞的闪烁,他们通常会吓到错误的事情。当真正的关注不是恶意而是有能力的时候,他们让你担心机器转向邪恶,而是能力:智能机器并没有与我们的目标保持一致。他们在很大程度上也缺乏想象力。如果你看看电影 终结者例如:那些机器人甚至都不聪明。他们肯定不是超级智能化。

在您实际上有很少的电影,您认为这些机器比我们比蜗牛更聪明,这些机器比我们更聪明。我认为媒体,遗憾的是,关于机器人的痴迷只是因为他们制作了漂亮的眼睛糖果,当房间里的大象不是机器人时。那是旧技术:一堆铰链和电机和东西。相反,这里的新新是智慧本身。这就是我们真正关注的东西。我们发现在我们的工作中真的令人沮丧,每当我们尝试做任何严重的事情时,我们都会让英国小报没有充分地放置一张头骨踩机器人的照片去搭配它。

您认为媒体中AI的描绘是妨碍有意义的讨论吗?

绝对地。事实上,我们对与生命研究所的未来进行组织会议并进行研究补助金的原因是我们希望从功能失调和极化的辩论转变为建设性和生产力。当我们有这些会议时,我们故意被禁止记者,因为这是因为它是如此功能失调的原因是因为许多严肃的AI研究人员根本不想谈论这个,因为他们害怕它会害怕最终在一份骷髅踩机器人旁边的报纸上。

依靠真正担忧的人感到忽视了。我很高兴,当我们实际上能够在私人,安全的环境中汇集AI研究人员时:我们最终结束了这个非常合作和生产性的话语,每个人都同意这些实际上是真正的问题,但它是关于它的实际问题不恐慌,而是计划未来。要列出我们需要答案的问题并开始做出这些答案的努力,所以我们在我们需要时拥有它们。我觉得事情正在进行这方面,但我们需要进一步走。

你认为我们是否真的可以知道AI是否可以以我们理解的方式意识到?

可能是。首先,从我作为物理学家的角度来看,你只是食物,重新排列。更具体地说,您是一堆基本粒子以某些复杂的方式移动,这些方式处理信息并使您做智能的东西。因此,我们知道粒子的一些安排有这种主观经验,我们称之为意识,体验色彩,声音,嗅觉,情绪。但是,也有其他相同种类的夸克和电子颗粒的布置,这可能不会像你的鞋一样遇到任何东西。那么差异是什么,恰好之间,有意识的颗粒和无意识的人之间?

如果您有任何理论,因为我在书中争论时,您可以在书中进行测试。你可以把自己放在大脑扫描仪中,并有一台看着大脑中数据的计算机,每次都在每次都遇到什么。然后,您可以将这些预测与您实际经历的内容进行比较,因为您实际上知道这一点。如果这些预测是错误的,那么这个理论就在垃圾桶里,而如果这些预测总是正确的,那么你就会非常认真地采取这个理论。现在,您可以不仅适用于您的大脑,而是对您的朋友的大脑以及计算机的大脑。如果理论说这台电脑正在遇到某些东西,你会非常认真地拍摄它。我想破解这个难题不是科幻小说,这是非常可行的。这绝对是我们能够而且应该做的事情。

生命3.0 Max Tegmark现已上市(£9.99,艾伦车道)

Max Tegmark的Life 3.0现已推出(均为20英镑,艾伦车道)
广告

这次采访于2017年8月首次出版