当前位置     首页 > 滚动 > 正文
中经搜索

呼吁叫停AI研发是杞人忧天吗?

2023年03月31日 07:07   来源:北京日报   鲍南

  在聊天应用ChatGPT让世界见识到人工智能模型GPT-4的强大潜力后,有关AI失控的担忧也在增加。近日,包括马斯克在内上千位科技行业大佬签署了一封联名信,公开呼吁所有人工智能实验室应立即暂停比GPT-4更强大的人工智能系统训练,以等待人类“确信AI大模型的影响是积极的并且风险是可控的”。

  是切实警示还是莫名恐慌?这封信迅速引发巨大争议。有消息指出,所谓上千名科技大佬署名实则含有“水分”,许多人并不知道自己参与了这封联名信的发布。同时,领头人马斯克的动机被认为并不单纯。而且这封信对于AI潜在威胁所提出的解决方案并没有可行性,更像是一场“行为艺术”。但客观来看,尽管联名信本身可能存在这样那样的问题,其所提示的种种担忧,确实对AI研发狂飙敲响了警钟。

  眼下,GPT-4模型的内涵与外延正在溢出越来越多风险。一方面,由于涉及上千亿参数与复杂的算法结构,即便OpenAI公司作为GPT-4模型的缔造者,也已经搞不清楚其回答的一些内容和背后推理能力是如何生成的。这种不可预测性令人工智能成了“黑箱”,很有可能在某一天“演化”出不可控的能力。另一方面,目前ChatGPT等生成式AI,普遍存在容易提供虚假诈骗信息、个人数据与商业秘密泄露、语料库与生成文本的侵权等问题,不仅有法律漏洞,更可能成为垃圾内容生成器。种种问题复杂交错,有些可能流毒深远,用观察人士的话说,如今GPT-4等更高级通用AI面临的处境不是“是否包容”,而是“是否包庇”。

  进一步看,即便是先进的人工智能可以成为像蒸汽机、电动机和计算机那样纯粹的生产力工具,其生产效率的骤然提升也可能对人类既有发展模式造成冲击。有机构指出,假设生成式AI实现了各企业承诺的能力,可能将有3亿个工作岗位被取代。不同于第一、二次工业革命,机器在替代体力劳动的同时创造了更高收入的脑力劳动岗位,信息革命、AI革命则是机器开始替代人的脑力乃至智力,这将消灭大量“金领”“白领”职业,使劳动者收入差距愈发拉大,加剧人类社会的不平等。与此同时,互联网信息虽然浩如烟海,但相较于人类社会的知识总量仍不过是沧海一粟。AI训练的数据全部来自于互联网,当人们越来越相信AI生成的内容,无形之中就产生了一种文化“霸权”,即不被网络收录的内容是不重要的,这显然是对文明多样性的重大威胁。

  联名信的结尾写道,“给整体社会一个适应,保持准备状态,才能可以享受漫长的人工智能夏天,而不是匆忙进入秋天。”汽车畅行马路五十年后,安全带才被发明出来;DDT面世近百年后,人类才怀疑其有害环境……回顾科技发展史,对于一种前所未见的新科技,可能永远不会有“准备好”的一天,但能够提出问题,解决问题便有了起点。如何让人工智能发展对人类社会更有益,值得每个人深思。

(责任编辑:武晓娟)

鍒嗕韩鍒帮細
延伸阅读
中国经济网版权及免责声明:
1、凡本网注明“来源:中国经济网” 或“来源:经济日报-中国经济网”的所有作品,版权均属于
  中国经济网(本网另有声明的除外);未经本网授权,任何单位及个人不得转载、摘编或以其它
  方式使用上述作品;已经与本网签署相关授权使用协议的单位及个人,应注意该等作品中是否有
  相应的授权使用限制声明,不得违反该等限制声明,且在授权范围内使用时应注明“来源:中国
  经济网”或“来源:经济日报-中国经济网”。违反前述声明者,本网将追究其相关法律责任。
2、本网所有的图片作品中,即使注明“来源:中国经济网”及/或标有“中国经济网(www.ce.cn)”
  水印,但并不代表本网对该等图片作品享有许可他人使用的权利;已经与本网签署相关授权使用
  协议的单位及个人,仅有权在授权范围内使用该等图片中明确注明“中国经济网记者XXX摄”或
  “经济日报社-中国经济网记者XXX摄”的图片作品,否则,一切不利后果自行承担。
3、凡本网注明 “来源:XXX(非中国经济网)” 的作品,均转载自其它媒体,转载目的在于传递更
  多信息,并不代表本网赞同其观点和对其真实性负责。
4、如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。

※ 网站总机:010-81025111 有关作品版权事宜请联系:010-81025135 邮箱:

精彩图片
鍏充簬缁忔祹鏃ユ姤绀� 锛� 鍏充簬涓浗缁忔祹缃� 锛� 缃戠珯澶т簨璁� 锛� 缃戠珯璇氳仒 锛� 鐗堟潈澹版槑 锛� 浜掕仈缃戣鍚妭鐩湇鍔¤嚜寰嬪叕绾� 锛� 骞垮憡鏈嶅姟 锛� 鍙嬫儏閾炬帴 锛� 绾犻敊閭
缁忔祹鏃ユ姤鎶ヤ笟闆嗗洟娉曞緥椤鹃棶锛�鍖椾含甯傞懌璇哄緥甯堜簨鍔℃墍    涓浗缁忔祹缃戞硶寰嬮【闂細鍖椾含鍒氬钩寰嬪笀浜嬪姟鎵€
涓浗缁忔祹缃� 鐗堟潈鎵€鏈�  浜掕仈缃戞柊闂讳俊鎭湇鍔¤鍙瘉(10120170008)   缃戠粶浼犳挱瑙嗗惉鑺傜洰璁稿彲璇�(0107190)  浜琁CP澶�18036557鍙�

浜叕缃戝畨澶� 11010202009785鍙�

呼吁叫停AI研发是杞人忧天吗?

2023-03-31 07:07 来源:北京日报 鲍南

  在聊天应用ChatGPT让世界见识到人工智能模型GPT-4的强大潜力后,有关AI失控的担忧也在增加。近日,包括马斯克在内上千位科技行业大佬签署了一封联名信,公开呼吁所有人工智能实验室应立即暂停比GPT-4更强大的人工智能系统训练,以等待人类“确信AI大模型的影响是积极的并且风险是可控的”。

  是切实警示还是莫名恐慌?这封信迅速引发巨大争议。有消息指出,所谓上千名科技大佬署名实则含有“水分”,许多人并不知道自己参与了这封联名信的发布。同时,领头人马斯克的动机被认为并不单纯。而且这封信对于AI潜在威胁所提出的解决方案并没有可行性,更像是一场“行为艺术”。但客观来看,尽管联名信本身可能存在这样那样的问题,其所提示的种种担忧,确实对AI研发狂飙敲响了警钟。

  眼下,GPT-4模型的内涵与外延正在溢出越来越多风险。一方面,由于涉及上千亿参数与复杂的算法结构,即便OpenAI公司作为GPT-4模型的缔造者,也已经搞不清楚其回答的一些内容和背后推理能力是如何生成的。这种不可预测性令人工智能成了“黑箱”,很有可能在某一天“演化”出不可控的能力。另一方面,目前ChatGPT等生成式AI,普遍存在容易提供虚假诈骗信息、个人数据与商业秘密泄露、语料库与生成文本的侵权等问题,不仅有法律漏洞,更可能成为垃圾内容生成器。种种问题复杂交错,有些可能流毒深远,用观察人士的话说,如今GPT-4等更高级通用AI面临的处境不是“是否包容”,而是“是否包庇”。

  进一步看,即便是先进的人工智能可以成为像蒸汽机、电动机和计算机那样纯粹的生产力工具,其生产效率的骤然提升也可能对人类既有发展模式造成冲击。有机构指出,假设生成式AI实现了各企业承诺的能力,可能将有3亿个工作岗位被取代。不同于第一、二次工业革命,机器在替代体力劳动的同时创造了更高收入的脑力劳动岗位,信息革命、AI革命则是机器开始替代人的脑力乃至智力,这将消灭大量“金领”“白领”职业,使劳动者收入差距愈发拉大,加剧人类社会的不平等。与此同时,互联网信息虽然浩如烟海,但相较于人类社会的知识总量仍不过是沧海一粟。AI训练的数据全部来自于互联网,当人们越来越相信AI生成的内容,无形之中就产生了一种文化“霸权”,即不被网络收录的内容是不重要的,这显然是对文明多样性的重大威胁。

  联名信的结尾写道,“给整体社会一个适应,保持准备状态,才能可以享受漫长的人工智能夏天,而不是匆忙进入秋天。”汽车畅行马路五十年后,安全带才被发明出来;DDT面世近百年后,人类才怀疑其有害环境……回顾科技发展史,对于一种前所未见的新科技,可能永远不会有“准备好”的一天,但能够提出问题,解决问题便有了起点。如何让人工智能发展对人类社会更有益,值得每个人深思。

(责任编辑:武晓娟)

查看余下全文