斗不过人工智能，拔了电源就成了

　　我是被时刻提醒着“不要骄傲”长大的。加州伯克利大学的一组科研人员最近也在研究过度自信带来的问题。只不过，他们操心的对象是人工智能。

　　这是一个较为尴尬的场面。一边是人类，不耐冷热的皮囊里裹着一个发挥不稳定的大脑。一边是人工智能，上天遁地五洋洗澡，动起脑筋来前不久刚把人类最顶尖的棋手逼到墙角，搞起创作来据说也能作诗能写稿了。现在，前者拍拍后者的肩膀：“不要骄傲哟。”

　　没办法，作为它们世界里集上帝、老板和爸爸于一身的存在，我们完全有资格对它们指手画脚。

　　从小，无论我考了满分还是成功在一秒钟内找到了透明胶带头，总有热心人抢着扑灭我内心刚有点蠢蠢欲动的小火苗。

　　他们“不要太自信”的告诫往往出于两种截然不同的目的。一种，如我妈，是因为太相信我了。她担心，这火光最终会蒙蔽我的双眼，让我看不到自己进步的空间，最终浪费了我成为伟大女性的潜力。

　　另一种，则多少带着点冷眼旁观的忌惮。他们从集体主义的时代来，信奉做一颗螺丝钉的踏实。他们反感出头，讨厌炫耀，担心这一把小火苗最终会烧翻了天。

　　这支伯克利科研团队的担心属于前者。他们在论文里举例说，自信心过度爆棚的人工智能其实随处可见，这会影响到它们功能的完善。想想那些认定“我猜你一定喜欢”的兴趣推荐型机器学习产品吧。只不过是因为搜索过两次《摔跤吧！爸爸》，它就不屈不挠一定要给我播放宝莱坞10周年金曲大碟。

　　对于人工智能后一种类型的警惕，则一直蔓延在人类百年来的文学创作和影视作品中，深埋在整个时代的焦虑里。我们担心，这些人造物最终成为我们的主人。

　　我们生活在这样一个方便的时代里。机器如此深入我们的生活，掌握着我们的柔软和坚强。它们一旦不服管，毁灭世界的效率远远高于天降哥斯拉全家，绕着地球哼哧哼哧三班倒吃人。我甚至相信，如果有一天手机们突然起意要谋杀主人，很多人被害前最后一件事极有可能是举着它直播。

　　而挡在机器天使和恶魔身份之间的，是一个简单的词：傲慢。

　　它们不是不知道自己强。随便抓住一位人工智能同学询问，它能运用数字图表和多媒体详细阐述自己的运算速度和实用功能。它们只是从来没有去想过：同为智慧载体，自己是不是比人类强了。

　　在阿西莫夫奠定机器人三定律的科幻小说《我，机器人》里，老头子描写了一个虚伪的家伙。它实在是太贵了，制造者偷偷加强了它某一条伦理定律的电势，让它对自身重要性的肯定更加强了一点点。

　　这看似微不足道的改变最终造成了巨大的负面影响。自视甚高的机器人叛逃了，并洗脑了整整一飞船正常的机器人，让它们摒弃了机器人见人受伤害不得不袖手旁观的人类仆从本能。

　　它们最终被全船损毁，像一颗坏种子一样被摁灭在宇宙里。

　　一个常见的段子是：斗不过人工智能，拔了电源就成了。

　　或许是受这个段子启发，伯克利团队设计了一个简单的开关实验，测试人工智能有没有自我膨胀。它们赋予人工智能打开自己电源开关的能力。它们在通电状态下被狡猾的人类告知：我们已经把你的电掐了。那些过度自信的会赶紧打开自己的开关，而那些对自己有所怀疑的则不会。在这个情境里，傲慢的人工智能驳回了人类主人的指令，就等于挑战了人类的权威。

　　这支团队相信，一颗带着些许怀疑的自信心能以逻辑和电路的形式，被制造出来，安装进每个人工智能系统里。具体怎么造，他们也没给出明确的解答。

　　这就复杂了。相当于找一个数学老师讲解一道哲学问题。

　　毕竟，直到现在我还不知道，什么程度的自信才是合宜的。理想的情况下，我应该相信自己现在的能力，同时相信自己未来的能力，并不让对前者的满足制约了对后者的开发。

　　那是属于“神”的领域。它位于人类和机器之间，我们两方都在朝它奔跑着。