科技处
设为首页  |  加入收藏
 首页 | 通知公告 | 政策汇编 | 学术交流 | 学风建设 | 科研平台 | 项目申报 | 文档下载 | 科技成果与技术需求 
通知公告
 近期通知 
 公示公告 
 科研动态 
 近期关注 
当前位置: 首页>>通知公告>>科研动态>>正文
 
特斯拉创始人称人工智能潜在危险超过核武器
2014-08-31 12:38  

据国外媒体报道,埃隆-马斯克是超智商电脑研发背后最大的推动力之一。这种电脑能够为太空旅行、电动汽车等一系列领域带去福音。但这位特斯拉公司创始人表示这项技术在未来的某一天给人类带来的伤害可能超过核武器。在他看来,未来可能爆发机器人起义,给人类社会构成严重威胁。  

上周末,这位亿万富翁在twitter上发了一份帖子,推荐尼克-伯斯特罗姆的著作《超级智能:方法、危险和策略》。马斯克在帖子中说:“我们需要超级关注人工智能。它的潜在危险性超过核武器。”《超级智能》将目光聚焦机器人起义。就人类如何应对超级智能电脑,伯斯特罗姆在书中提出了一系列问题。他指出整个世界就是一场骗局,我们实际上生活在一个电脑模拟的虚拟世界。  

马斯克在2014年初帖子中写道:“希望我们不是数字超级智能的生物学引导装载程序。不幸的是,这种可能性不断加大。”6月,这位特斯拉创始人在twitter发表了一个类似评论,认为人工智能研究能够让类似《终结者》那样的可怕想定成为现实。  

马斯克现年42岁,对人工智能的未来充满担忧。他也投资了几家人工智能公司,但目的并不是赚钱,而是密切关注这项技术,防止其失控。3月,马斯克投资旧金山人工智能公司Vicarious。一同投资这家公司的还有马克-扎克伯格和艾什顿-库奇。Vicarious的终极目标是研制能够像人类一样思考的电脑。公司联合创始人斯科特-菲尼克斯表示:“这种电脑不仅能像人类一样思考,同时还不用吃饭或者睡觉。”  

马斯克在接受CNBC采访时表示:“我认为这是一种潜在危险。讲述这种危险的影片很多,例如众所周知的《终结者》。这种危险有时会带来严重后果。我们应该确保产生好的结果,而不是结出恶果。”  

目前,Vicarious公司正在研发一款能够新大脑皮层的程序。新大脑皮层是哺乳动物大脑半球的顶层,厚度在3毫米左右,拥有6个层,每一层负责不同的功能,其中包括感官知觉、空间推理、有意识思维和人类语言。这家公司的网站称:“Vicarious公司正在研发机器学习软件,立基于人类大脑的运算原则。我们的第一项技术是一种视觉感知系统,能够用与人类类似的方式解读照片和视频中的内容。为这项技术提供支持的是一种新计算范式,我们将其称之为‘递归皮质网络’。”  

2013年10月,Vicarious公司宣布研发出一种可靠的算法,能够解决现代验证码问题。在验证机器模拟人类的能力方面,验证码是最广泛的一种方式。例如,在填表格时会使用验证码,以确保填表格的是人,而不是机器。这种方式能够防止有人编写程序,大量购买演出门票或者其他商品。  

除了Vicarious公司外,马斯克还是人工智能公司DeepMind的早期投资者。2014年初,DeepMind公司被谷歌以4亿英镑(约合6.78亿美元)价格收购。斯蒂芬-霍金教授同样认为随着技术的学习能力增强,学会为自己考虑和适应所在环境,人类将面临一个充满不确定性的未来。2014年初,这位著名历史学家公开讨论约翰尼-德普的新片《超验骇客》,片中的电脑全面超越人类。霍金教授指出这部影片并不是一部科幻影片那么简单,影片中讲述的可怕。  

关闭窗口

沈阳工程学院  地址:沈阳市沈北新区蒲昌路18号
邮编:110136