Geoffrey Hinton警告AI发展失控，可能在未来十年威胁人类生存。
“人工智能可能在未来十年内消灭人类。”被誉为“AI教父”的Geoffrey Hinton教授发出了这一警告。他坦言，自己对参与创建这项技术感到后悔，并将其快速发展比作工业革命，但这次机器可能会“掌控一切”。
现年77岁的Hinton教授今年获得了诺贝尔物理学奖。他呼吁各国政府加强对AI企业的监管。他此前预测，人工智能在未来三十年内可能有10%的几率导致人类灭亡。当被问及是否改变了看法时，他回应：“没有太大变化。现在的几率可能是10%到20%。我们从未面对过比自己更聪明的东西。而有多少例子是更聪明的事物被较不聪明的事物所控制的？几乎没有。”
早在20世纪80年代，Hinton教授发明了一种能够自主分析数据特性和识别图像元素的方法，这为现代AI奠定了基础。他表示，AI的发展速度远超预期，可能使人类的智力相较于AI如同“三岁儿童”之于“成年人”。
他将AI的崛起与工业革命相提并论。“在工业革命中，机器的力量取代了人类的力量。挖沟渠时，用机器就够了。现在，我们面临的是人类智慧的替代品。普通人的智力将不再是前沿，机器才会是。”
Hinton还预测，AI将如工业革命那样彻底改变普通人的生活，就像Charles Dickens记录的那样。他指出，未来生活将取决于政治体系如何利用这项技术。“我的担忧是，尽管AI会带来巨大的生产力提升，社会可能不会因此受益。如果所有收益都流向富人，而许多人失业并变得更贫穷，结果将非常糟糕。”
他补充道，这次与工业革命不同，“那时机器虽然更强大，但我们有智慧掌控它们。现在，我们可能面临这些东西反过来掌控我们的威胁。”尽管如此，他“希望”其他对技术持乐观态度的专家是正确的。
然而，他也强调：“单靠市场的‘看不见的手’无法保障我们的安全。大公司的逐利行为不足以确保AI的安全发展。只有政府监管才能迫使这些公司投入更多资源进行安全研究。因此，我坚信政府必须强制要求大公司在安全方面加大投入。”
Hinton教授坦承，他对将这项技术引入世界感到一些遗憾。“有两种遗憾。一种是你明知不该做却去做了，另一种是即使在相同情况下你仍会选择去做，但结果可能不尽如人意。我的遗憾属于后者。如果重来，我仍会选择同样的道路。但我担忧的是，最终比我们更聪明的系统可能掌控一切。而我们从未经历过这样的情况。”
本文译自 telegraph，由 BALI 编辑发布。
