[新闻人生] 看完《超验骇客》霍金急撰文:人工智能或灭亡人类

frys

据英国《独立报》报道，著名物理学家霍金近日在《独立报》撰文警告说，科学家如果轻视人工智能（AI）的潜在危机，会招致人类自身灭亡。霍金在文章中指出，Siri、Google Now及Cortana等人性化软件，都显示科技界在发展AI方面，正以空前的投资额展开一场竞赛。他认同AI可以造福人类，消除疾病与贫。“成功创造人工智能将是人类历史最大事件，但若不懂如何去避开风险，这也将是最后的大事”。



著名物理学家史蒂芬霍金（Steven Hawking）在讨论约翰尼德普（Johnny Depp）主演的新片《超验骇客》时称，人工智能或许不但是人类历史上最大的事件，而且还有可能是最后的事件。他的意思是：人工智能可能会导致人类的灭亡。



当你为人工智能技术的飞速发展而欢呼雀跃的时候，你是否想过这可能并不是一件好事？



在观看了德普主演的新片《超验骇客》后，霍金在为《独立》杂志撰写的一篇文章中明确地表达了他对这个问题的担忧。



霍金担忧的对象不仅仅是未来的人工智能技术，甚至还包括现在的一些公司比如谷歌(微博)和Facebook。他说：“人工智能的短期影响取决于由谁来控制它，而长期影响则取决于它是否能够被控制。”



不管从短期还是长期角度来说，人工智能都存在着巨大的潜在风险。实际上，霍金似乎根本就不信任所谓的人工智能专家。



他说：“未来可能出现的情况到底是好是坏完全是无法预料的，面对这种情况，专家们肯定会尽一切可能去保证得到最好的结果，对吗？错！如果有一个优越的外星文明给我们发来一条信息说：‘我们将在几十年之后到达地球，’我们是否应该回答说：‘好的，当你到达地球的时候请通知一下我们，我们将给你留门’？我们可能不会那么做，但是如果人工智能技术继续发展下去，差不多就会出现那样的情况。”



实际上，坚持技术发展似乎可以消除或避免最终产品可能对人类构成的威胁。无人汽车就是个很好的例子。工程师们似乎并不关心人们在开车的过程中获得的乐趣。



霍金承认，机器人和其他的人工智能设备也许会给人类带来巨大的好处。如果那些设备的设计非常成功，就能给人类带来巨大的好处，他说那将是人类历史上最大的事件。然而他同时也提醒说，人工智能也有可能是人类历史上最后的事件。



实际上，人类在考核人工智能技术的潜在风险和收益方面所做的研究工作太少。霍金对此表示担忧和哀叹。



霍金指出，AI可以驾驭金融市场、人类领袖，“甚至发展出我们不能理解的军事武器”，这类情况就像踩钢丝，可以是最好的事，也可能是最糟糕的事。 他说：“人工智能技术发展到极致程度时，我们将面临着人类历史上的最好或者最坏的事情。”



霍金以前就曾试图提醒人们注意一点，即科幻的魅力会蒙蔽我们的双眼。它有时会掩盖住一个重要的问题，即最终的结果有可能引发一场浩劫。他曾经说过，外星文明可能会憎恨地球文明。



人类有一种自恋的倾向，盲目相信自己很聪明而从不考虑事情有时可能会出错。或许正如霍金所说的那样，科技行业应该更多地把关注的焦点放在未雨绸缪上面。

阅读读

这方面防范似乎确实没有

chelseaqex

科幻的魅力会蒙蔽我们的双眼

zhoujin

我期待Finch的“机器”出现

敛西凉

我有生之年应该看不到

notgentalman

像霍金这样有远见的科学家不多，
不止人工智能，我觉得转基因还有很多生物科技都可能造成人类毁灭
这也没啥，no zuo no die
人类目前没有天敌，又不能自我控制欲望，毁灭是肯定的。

sunny.20060301

也许人类毁灭了，地球就得救了。

kanca001

我想说人类就是，关心下一代，可能关心下下一代，然后哪管死后洪水滔天╮(╯▽╰)╭

白骨红妆

看来这部片子不错，我要去看看

chanabby

回复 4# zhoujin


    +10006

小菱子

其实就算人工智能没达到顶尖，拥有自主意识，光是将生活中所有通上电的东西都联上网，就挺危险的了。
打个比方说，如果我们生活中所有电器都联上了网，一旦有黑客侵入，小到突然更改下红绿灯导致交通事故搞死某个人，搞掉架飞机造成空难，大到操纵武器甚至卫星，都会导致人类意想不到的灾难。

网络带给我们便利，但要用在所有公共领域，也会带来有可能的危险。

十二风雷

没用的，人类的贪婪不可抑制，所以，我倒是很期待有什东西来给人类一个终结