新世纪以来，人工智能发展很快，AI正渗入社会生活的方方面面，它极大的方便了人们的生活与工作，如霍金所说，“人工智能甚至可帮助根除长期存在的社会挑战，比如疾病和贫困等。”然而，由于人工智能的发展蕴涵着不可控性的危险，霍金也同时提出，“人类必须建立有效机制，尽早识别威胁所在，防止新科技（人工智能）对人类带来的威胁进一步上升。”
近年来，多种多样的智能机器人先后问世，代替了许多可以代替的行业劳动，使一些人从笨重的、重复的、机械的劳动中解放出来。有人担心，这会带来一些人的失业。确实，这一情况已经出现，不过，这本质上不是“失业”，而是逼着一些人“转业”，转到更富智慧的工作中去。18世纪工业革命后，机器夺走了一些工作岗位，曾经引起一些工人愤怒地去砸机器，但机器出现的结果却是大大提高了社会劳动生产率，从而使一度“失业”的工人也都得到更好的生活工作条件。人工智能的发展，尽管也会给一些人带来一时的“转业”之痛，但根本上是有利于人的发展提高的。对此，应当“风物长宜放眼量”。
需要防止的人工智能的威胁，在于它的不可控性。看到一个争论，就是要不要发展带枪的机器人？有人赞成，认为只要好好控制，就可以协助警察维持治安。美国就出动过一个机器人，携带炸弹消灭了一名枪杀5名警察的狙击手。然而，不少人对此表示质疑与警惕。机器人警察的存在不光是威胁了一部分危险分子，更威胁了其他“良民”的安全。试想一个场景，大街上有着拿枪的机器人，你真的敢从他的身边路过吗？一不小心系统坏掉怎么办？然后一个子弹直接命中心脏咋办？把你当成逃犯咋办？结果只能使百姓失去了安全感。更严重的，人工智能的进一步发展，机器人能建立自身的决策流程，拿着枪在大街上任意乱扫人群，这不成了灾难吗？
这并非杞人之忧。人工智能技术确是一把双刃剑。一方面，人工智能对社会经济有着无可替代的重要推动作用。另一方面，人工智能技术对社会也带来了近期和远期的风险。随着人工智能技术的发展，许多知名科技人士都对人工智能将来对社会的影响发出了预警。太空探索技术公司创始人、特斯拉CEO埃隆·马斯克说过，人工智能是人类文明的最大威胁。日前又说，人工智能的独裁统治期限将远超出任何一个政权，从而实现对人类的无限期压迫。他说，他对最前沿的AI技术很了解，他们的能力远超出我们的想像，而且在以指数增长的速度进化。看看阿尔法狗就知道了，他们用短短的6-9个月的时间，就可以从一个业余选手，变成一个战无不胜的世界围棋冠军。如今，又出了阿尔法零（alpha0），完全碾压之前的阿尔法狗。阿尔法零可以自己不断学习进化，基本上可以玩任何游戏。只要你规定好游戏规则，他会读懂规则，然后开始玩，就像人类一样。人工智能的危险要远大于核武器的危险。我们需要确保AI技术安全的发展，让这些超级智慧可以和人类和谐共存。
马斯克观点与霍金一样，就是在发展人工智能的同时，需要充分认识它给人类带来的危险与威胁，要以清醒的头脑防患于未然。对此，早在1950年出版的美国著名科幻小说家艾萨克·阿西莫夫撰写的《我，机器人》小说中，就提出了著名的“机器人三大定律”：第一定律，机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观；第二定律，机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；第三定律，机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。总之，要让机器人完全处于人类的控制之下，以防止其出现越规行为。此后，这“三大定律”不断激发出对于人工智能安全性的新思考。
为此，当今许多国家在发展人工智能的同时，也都启动了相关的立法立规。我国于2017年7 月发布的《新一代人工智能发展规划》，在强调要构筑我国人工智能发展先发优势的同时，也提出了要逐步建立完善人工智能的法律法规、伦理规范和政策休系。这就是两手抓：大力用其利，积极防其害。
（责任编辑：李焱）
