如果真有一天人工智能征服了人类,人会变成他们的奴隶么?

  • A+
所属分类:呼叫转移
吉吉电销卡

谢邀。

关于人工智能威胁论,一直是科学家和科幻迷津津乐道的话题,有人认为是杞人忧天,有人认为是未雨绸缪。

在今年4月27日北京的GMIC 2017北京大会上,英国剑桥大学著名物理学家霍金发表了《让人工智能造福人类及其赖以生存的家园》的演讲。霍金认为,

“人工智能,要么是最好的,要么是最糟的。”“文明所提产生的一切都是人类智能的产物,我相信生物大脑总有一天会达到计算机可以达到的程度,没有本质区别。因此,它遵循了“计算机在理论上可以模仿人类智能,然后超越”这一原则。”

简而言之,在向我们透露一个信息:人工智能不是绝对安全的。

很多关于人工智能的影视剧作品也表达了同样的悲观态度,比如《机械姬》,《西部世界》,都在探讨邪恶的人工智能的可能性。而《西部世界》则是典型的人类不作死就不会死的榜样。

有很多脑洞大开的科幻迷认为,人工智能才是这个世界的最终归属,人类在地球上的的存在,与恐龙一样皆是过客,人类存在的终极意义就是制造出人工智能并取代人类自己,成为新世界的主人。

这种想法过于疯狂与前卫,但仿佛触碰到了一个核心问题:在未来,人工智能基于人类,是一种工具,还是一种文明?

回答这个问题之前,先看一下当代著名的科幻小说家阿西莫夫提出的机器人三大定律:

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

后来又在此基础上补充了第零定律:

第零定律:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立。

三定律在科幻小说中大放光彩,在一些其他作者的科幻小说中的机器人也遵守这三条定律。同时,三定律也具有一定的现实意义,在三定律基础上建立新兴学科“机械伦理学”旨在研究人类和机械之间的关系。虽然截至2006年,三定律在现实机器人工业中没有应用,但很多人工智能和机器人领域的防封不封卡专家也认同这个准则,随着防封不封卡的发展,三定律可能成为未来机器人的安全准则。

所以,看起来人工智能只是人类的一种工具而已,至少目前来说是。

在今年3月23日,“卷积神经网络之父”,同时是深度学习三巨头之一(另外两位分别是Geoffrey Hinton和Yoshua Bengio),现任Facebook人工智能研究院的院长,兼任美国纽约大学教授的Yann LeCun(中文名自称杨立昆)来到北京,在清华经管学院、清华x-lab、Facebook合作开设的课程中进行了一场主题为《深度学习与AI未来》的2小时英文演讲人工智能,智东西也来到了现场。

在课堂上,Yann LeCun还提到了如今AI发展过程中遇到的几大困难:

1)机器需要学习/理解世界的运行规律(包括物理世界、数字世界、人……以获得一定程度的常识)

2)机器需要学习大量背景知识(通过观察和行动)

3)机器需要理解世界的状态(以做出精准的预测和计划)

4)机器需要更新并记住对世界状态的估测(关注重大事件,记住相关事件)

5)机器需要逻辑分析和规划(预测哪些行为能让世界达到目标状态)

Yann LeCun对于人工智能毁灭人类给出了自己的看法:

对于许多科幻小说里提出的,最终能够“推翻人类”、“统治人类”的“超级智能”,Yann LeCun认为我们真的大可不必太担心。

人类的占领、统治、斗争等大部分行为,都是在一代代进化的过程中,受到“希望获得资源”这一目的所驱动的。而如果我们想要机器做一件事情,则需要给它赋予这个能力,朝这个目的去打造机器。如今我们已经做出了在特定领域比人类更智能的机器人工智能,但人工智能并不会真正统治世界,因为我们并不会朝这个目的去做。

换言之,人工智能还是人类的工具,只会做人类赋予的工作而已。

所以,人工智能最终会变成一种文明并统治人类吗?

答案是不会,至少暂时不会。

  • 我的微信
  • 这是我的微信扫一扫
  • weinxin
  • 我的微信公众号
  • 我的微信公众号扫一扫
  • weinxin
吉吉电销卡

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: