斗不过人工智能,拔了电源就成了

2017年06月14日 07:03   来源:中国青年报   王梦影  

  我是被时刻提醒着“不要骄傲”长大的。加州伯克利大学的一组科研人员最近也在研究过度自信带来的问题。只不过,他们操心的对象是人工智能。

  这是一个较为尴尬的场面。一边是人类,不耐冷热的皮囊里裹着一个发挥不稳定的大脑。一边是人工智能,上天遁地五洋洗澡,动起脑筋来前不久刚把人类最顶尖的棋手逼到墙角,搞起创作来据说也能作诗能写稿了。现在,前者拍拍后者的肩膀:“不要骄傲哟。”

  没办法,作为它们世界里集上帝、老板和爸爸于一身的存在,我们完全有资格对它们指手画脚。

  从小,无论我考了满分还是成功在一秒钟内找到了透明胶带头,总有热心人抢着扑灭我内心刚有点蠢蠢欲动的小火苗。

  他们“不要太自信”的告诫往往出于两种截然不同的目的。一种,如我妈,是因为太相信我了。她担心,这火光最终会蒙蔽我的双眼,让我看不到自己进步的空间,最终浪费了我成为伟大女性的潜力。

  另一种,则多少带着点冷眼旁观的忌惮。他们从集体主义的时代来,信奉做一颗螺丝钉的踏实。他们反感出头,讨厌炫耀,担心这一把小火苗最终会烧翻了天。

  这支伯克利科研团队的担心属于前者。他们在论文里举例说,自信心过度爆棚的人工智能其实随处可见,这会影响到它们功能的完善。想想那些认定“我猜你一定喜欢”的兴趣推荐型机器学习产品吧。只不过是因为搜索过两次《摔跤吧!爸爸》,它就不屈不挠一定要给我播放宝莱坞10周年金曲大碟。

  对于人工智能后一种类型的警惕,则一直蔓延在人类百年来的文学创作和影视作品中,深埋在整个时代的焦虑里。我们担心,这些人造物最终成为我们的主人。

  我们生活在这样一个方便的时代里。机器如此深入我们的生活,掌握着我们的柔软和坚强。它们一旦不服管,毁灭世界的效率远远高于天降哥斯拉全家,绕着地球哼哧哼哧三班倒吃人。我甚至相信,如果有一天手机们突然起意要谋杀主人,很多人被害前最后一件事极有可能是举着它直播。

  而挡在机器天使和恶魔身份之间的,是一个简单的词:傲慢。

  它们不是不知道自己强。随便抓住一位人工智能同学询问,它能运用数字图表和多媒体详细阐述自己的运算速度和实用功能。它们只是从来没有去想过:同为智慧载体,自己是不是比人类强了。

  在阿西莫夫奠定机器人三定律的科幻小说《我,机器人》里,老头子描写了一个虚伪的家伙。它实在是太贵了,制造者偷偷加强了它某一条伦理定律的电势,让它对自身重要性的肯定更加强了一点点。

  这看似微不足道的改变最终造成了巨大的负面影响。自视甚高的机器人叛逃了,并洗脑了整整一飞船正常的机器人,让它们摒弃了机器人见人受伤害不得不袖手旁观的人类仆从本能。

  它们最终被全船损毁,像一颗坏种子一样被摁灭在宇宙里。

  一个常见的段子是:斗不过人工智能,拔了电源就成了。

  或许是受这个段子启发,伯克利团队设计了一个简单的开关实验,测试人工智能有没有自我膨胀。它们赋予人工智能打开自己电源开关的能力。它们在通电状态下被狡猾的人类告知:我们已经把你的电掐了。那些过度自信的会赶紧打开自己的开关,而那些对自己有所怀疑的则不会。在这个情境里,傲慢的人工智能驳回了人类主人的指令,就等于挑战了人类的权威。

  这支团队相信,一颗带着些许怀疑的自信心能以逻辑和电路的形式,被制造出来,安装进每个人工智能系统里。具体怎么造,他们也没给出明确的解答。

  这就复杂了。相当于找一个数学老师讲解一道哲学问题。

  毕竟,直到现在我还不知道,什么程度的自信才是合宜的。理想的情况下,我应该相信自己现在的能力,同时相信自己未来的能力,并不让对前者的满足制约了对后者的开发。

  那是属于“神”的领域。它位于人类和机器之间,我们两方都在朝它奔跑着。

(责任编辑:武晓娟)

精彩图片
精彩图片
    焦点图片
    风云人物