返回列表
我们是否要居安思危?人工智能会不会终有一天将人类摧毁?
发布者:admin发布时间:2020-05-10 12:37:00

2020年可能是一个科技元年,5G时代的来临一定会带动人工智能的发展。人工智能的发展会给我们的生活模式带来翻天覆地的改变,使我们受益。那么在人工智能给我们带来如此多的便利的同时,我们是否还需要思考一个问题。如果人工智能达到超过人类的程度是否会取代人类甚至消灭人类,这是值得我们思考的问题?

任何事情或事物都是一把双刃剑,有利有弊。我想和大家一起探讨,我们就像站在了两扇门前,在第一扇门后面由于某些原因我们停下打造智能机器的脚步也停止了对电脑软硬件的升级。现在让我们想一下为什么会这样,当我们认识智能和自动化不可估量的价值时,我们总会竭尽所能地改善这些科技,那么什么会使我们停下脚步呢?一场大规模的核战争?一次全球性的瘟疫?或者是其他的什么原因。你要想想这个灾难究竟有多恐怖才会永久性地阻止我们发展科技,光想想它就觉得这将是人类史上能发生的最坏的事了。那么我们仅剩的选择就藏在第二扇门的后面那就是我们持续改进智能机器永不停歇,甚至在将来某一天我们会造出比我们更聪明的机器。一旦我们有了比我们更聪明的机器它们将进行自我改进然后我们就得冒着数学家IJ Good所说的“智能爆炸”的风险,科技发展进程将不再受我们控制。现在我们时常看到一些讽刺漫画和电影,我们总会担心受到邪恶的机器人军队的攻击。但这不是最可能出现的场景,我们的机器不会自动变得邪恶。真正的顾虑是我们将会打造比人类自己更有竞争力的机器,而一旦我们和它们的目标有分毫不一致我们将会被摧毁。想想我们与蚂蚁的关系,我们不讨厌它们我们不会主动伤害它们。实际上我们经常尽量避免伤害蚂蚁选择尽量绕开它们,但前提是它们的存在不会妨碍我们达成目标,一旦妨碍了我们那就是另一番情景了。比如当我们建造一个建筑时,我们会毫不手软地杀掉它们。令人担忧的是,终有一天我们打造的机器不管它们是否有意,它们终将会以我们对待蚂蚁的方式来对待我们,这是我们不得不思考的问题。我想很多人会说这很遥远,我打赌你们中有人还会怀疑超级人工智能实现的可能,认为我小题大做。

第一 、智慧可以被看做物理系统中的信息处理过程,我们已经在一些机器中嵌入了智能系统,这些机器中很多已经有着超人的智能,比如阿尔法狗能战胜世界冠军。我们也知道任何一个细节都可能引发所谓的“通用智能”,这是一种能在不同领域间灵活思考的能力。我们的大脑已经成功做到了这些,大脑里其实都是原子。只要我们继续建造这些原子体系我们就能实现越来越多的智慧行为。当然,除非遇到干扰我们最终能给我们的机器赋予广泛意义上的智能。要知道这个进程的速度并不重要,因为任何进程都足以让我们走进死胡同甚至无需考虑摩尔定律,也无需指数函数,这一切就能顺其自然发生。

第二个假设,我们会一直创新去继续改进我们的智能机器,因为我们有很多迫切需要解决的问题。我们想要治愈像阿兹海默症和癌症这类疾病,我们想要了解经济系统,想要改善气候。科学只要可能,我们就会将革新继续下去而且革新的列车早已驶出,车上却没有刹车。

第三种假设,人类没有登上智慧的巅峰甚至连接近的可能都谈不上。这个想法十分关键,这就是为何我们所处的环境很危险,这也是为何我们对风险的直觉是不可靠的。

现在请大家想一下谁是世上最聪明的人,几乎每个人的候选名单里都会有约翰·冯·诺伊曼冯·诺伊曼。留给周围人的印象是他是那个时代最杰出的数学家和物理学家,这都是有据可查的。即使他的故事里有一半是假的也没有人会质疑他仍然是世界上最聪明的人之一,但它的智慧普线依旧是非常有限的。如果我们建造了比自身更聪明的机器它们将非常可能以超乎想象的方式延展这个谱线最终超越人类,仅从速度方面考虑我们就能够认识这一点。现在让我们想象一下,我们刚建好一个超级人工智能大概和斯坦福或麻省理工学院研究员的平均水平差不多吧,但是电路板要比生物系统运行速度快一百万倍,所以这个机器思考起来会比它的创造者快一百万倍。当你让它运行一周后它将能给出相当于人类智慧20000年发展出的水平而这个过程将周而复始。那么我们又怎么能理解,更不用说去制约一个以如此速度运行的机器呢?

坦白讲另一件令人担心的事就是我们考虑一下最理想的情景,想象我们做出了一个无任何安全隐患的超级人工智能,我们有了一个前所未有的完美设计。就好像我们被赐予了一件神物,它能够准确的执行目标动作。这个机器将完美的节省人力工作,它设计出的机器能够再生产其它机器去完成所有的人力工作,由太阳能供电而成本的多少仅取决于原材料。那么我们正在谈论的就是人力劳动的终结,也关乎脑力劳动的终结。那么像我们这种”大猩猩”还能有什么用呢?我们很可能会目睹前所未有的贫富差距和失业率。有钱人不愿意马上把这笔新的财富贡献出来服务社会,这时一些千万富翁能够优雅地登上商业杂志封面,而剩下的人可能都在挨饿。

当我们承认信息处理是智慧的源头、承认一些电脑系统是智能的基础、承认我们会不断改善这些系统、承认我们现有的认知远没有达到极限将很可能被超越,我们又必须同时承认某种意义上我们正在创造一个新的“上帝”。现在正是思考人类是否能与这个“上帝”和睦相处的最佳时机,我们要把握好这个度,不能为了利益过度的去把它放大。那样会本末倒置害了我们自己。