当前位置     首页 > 滚动 > 正文
中经搜索

生成式人工智能要发展也要规范

2023年04月18日 07:15   来源:深圳特区报   

  近日,国家互联网信息办公室发布通知,就《生成式人工智能服务管理办法(征求意见稿)》(以下简称《办法》)公开征求意见。这或将是我国专门针对AIGC(人工智能生成内容)发布的第一份政府文件,引发社会各界广泛关注。本期“思与辨”就该问题进行讨论。

  主持人:赵鑫

  嘉 宾:盘和林(浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员)

  李岩(辽宁大学法学院副院长、教授)

  国瀚文(西北政法大学民商法学院讲师、数字法学研究院特聘研究员)

  《办法》为企业发展提供一个合规框架

  主持人:从年初至今,以ChatGPT为代表的生成式人工智能引爆科技圈,一些国内公司也纷纷推出相应的产品和服务。此时国家出台《办法》规范生成式人工智能,释放了哪些信号?

  李岩:第一,明确我国致力于人工智能服务合法化发展的立场。《办法》为企业发展提供一个合规框架,并试图在合规前提下打造出人工智能技术创新发展新局面。第二,对服务提供者提出了高标准的合规义务要求。一方面,服务提供者需要在应用中满足运营合规要求;另一方面,服务提供者将作为主要的人工智能生成物法律责任的承担者。《办法》在责任承担上实现了与其他法律制度的衔接,服务提供者不仅需要承担生成内容生产者的责任,还需要承担作为个人信息处理者的责任。

  盘和林:一个信号是我们走的是先规范后发展的模式,在这个总基调下,互联网企业要考虑应用的合规性。另一个信号是监管层对于AIGC这一新事物还没有做好充分的准备,政策的执行具体流程是怎么样的?主管单位是谁?怎么认定是真实准确的内容?这些细节还没有确切的说法,《办法》还是一个粗线条的条款,是对于当前国内对AIGC一哄而上无序状态的应急性举措,所以《办法》还有很大的完善空间。

  国瀚文:透过该《办法》可以看出国家鼓励生成式人工智能的发展,同时也将加大管理、监督力度,引导和规范相关行业。该《办法》一方面体现了国家对个人权益的保护,另一方面也体现出国家大力支持人工智能产业,推动相关产业技术的发展。

  我国关注的重点是内容生成的价值取向问题

  主持人:此前,有不少国家对生成式人工智能出台了监管新政,侧重点各不相同。我国出台的《办法》有哪些显著特点?哪些规定值得特别关注?

  国瀚文:一是对生成式人工智能服务的监管贯穿始终,规定了申报安全评估、履行算法备案等登记手续。二是强调生成式人工智能产品或服务需遵守法律规范及尊重社会公德、公序良俗,与我国对待数据产业的态度是一致的。

  值得关注的是,《办法》聚焦生成式人工智能服务的安全合法,强调生成式人工智能服务的治理及权益保护,对算法的可靠性和透明度提出了要求。

  总体来看,《办法》回应了当前生成式人工智能发展的需要,对一些可能出现的衍生问题提出防范举措,有助于提前研判规避风险。

  盘和林:《办法》和其他国家的监管目标是不同的,我国关注的重点是内容生成的价值取向问题。规范生成内容是可以做到的,因为AI是高质量数据训练的产物,文本也好,图像也好,都是可以达成目标的,但现在以提供方为责任人的规定,我认为还是要有所调整,诸如用户也要负一定责任,因为AI生成内容是和用户有关系的。所以要加强对用户责任的认定,不能让所有的责任都由提供方来承担。当然,提供方有责任进行一些必要的限制,来回避敏感内容,但即便是提供方屏蔽了,模型训练了,还是无法回避所有的问题,因为人类文字,尤其是中文是很复杂的,如果出现歧义,应该给予适度包容,如果被用户恶意传播,则应该让用户承担相应责任。

  李岩:第一,《办法》提出了全流程全周期的监管要求。对算法入市、数据来源、数据训练输出文本等各个环节的风险控制,提出了要求。第二,《办法》的监管举措主要通过为服务提供者设置监管义务实现。第三,《办法》设置了多条引致条款,与《数据安全法》《个人信息保护法》等现行法律法规形成良好衔接,能够发挥出体系效应。

  值得注意的是,《办法》第十一条规定不得非法留存能推断出用户身份的输入信息。这一规定能够有效防范个人信息泄露风险。但如何实现这类信息与其他信息的区分,还需要进一步研究。另外,《办法》未涉及对于商业秘密或高敏感度的商业数据的留存问题,缺乏对商业数据的事前监管。

  包容审慎的审查观能够更好实现技术发展与安全之间的平衡

  主持人:对于规范生成式人工智能,您还有哪些好的建议?

  盘和林:立法应该关注AIGC的一些特性,比如内容生成的随机性,比如责任划分问题。如果先规范再发展成为主基调,那么在规范方面要考虑更加成熟的立法方案,因为法规一旦出台,就需要不折不扣地执行。而如果法律出台之后,对AIGC产业发展造成了阻碍,导致大量AIGC应用无法落地,那就有可能导致新的科技差距。所以立法还是要进一步细化,做好每一条的解释工作,落实责任主体。也要和AIGC领域的龙头企业做好沟通。对于新技术,我们都有一个接受的过程,对新技术的理解不可能一步到位。法律就是画红线,红线是规范企业行为的,红线划得越细,企业获得的空间就越大,企业在科技领域的表现就越活跃。

  国瀚文:规范生成式人工智能,首先应完善相关的法律法规,对生成式人工智能服务进行分类管理;其次,建立完整的安全评估规范和管理流程规范,保障数据安全及隐私安全,提高生成式人工智能服务的质量和水平。

  李岩:第一,建立包容审慎的生成式人工智能审查模式。包容审慎的审查观能够更好实现技术发展与安全之间的平衡,为企业的技术发展预留空间。第二,建立专门监管机构,对生成式人工智能实施专项监管。生成式人工智能行业的监管需要一定的技术支持,不仅需要借助技术手段监管,而且需要技术人才进行风险解构。传统监管模式容易出现权限划分争端,可能出现监管权限交叉或监管真空问题,专项监管模式有助于实现算法的分级分类管理。

(责任编辑:邓浩)

鍒嗕韩鍒帮細
涓浗缁忔祹缃戠増鏉冨強鍏嶈矗澹版槑锛�
1銆佸嚒鏈綉娉ㄦ槑鈥滄潵婧愶細涓浗缁忔祹缃戔€� 鎴栤€滄潵婧愶細缁忔祹鏃ユ姤-涓浗缁忔祹缃戔€濈殑鎵€鏈変綔鍝侊紝鐗堟潈鍧囧睘浜�
銆€ 涓浗缁忔祹缃戯紙鏈綉鍙︽湁澹版槑鐨勯櫎澶栵級锛涙湭缁忔湰缃戞巿鏉冿紝浠讳綍鍗曚綅鍙婁釜浜轰笉寰楄浆杞姐€佹憳缂栨垨浠ュ叾瀹�
銆€ 鏂瑰紡浣跨敤涓婅堪浣滃搧锛涘凡缁忎笌鏈綉绛剧讲鐩稿叧鎺堟潈浣跨敤鍗忚鐨勫崟浣嶅強涓汉锛屽簲娉ㄦ剰璇ョ瓑浣滃搧涓槸鍚︽湁
銆€ 鐩稿簲鐨勬巿鏉冧娇鐢ㄩ檺鍒跺0鏄庯紝涓嶅緱杩濆弽璇ョ瓑闄愬埗澹版槑锛屼笖鍦ㄦ巿鏉冭寖鍥村唴浣跨敤鏃跺簲娉ㄦ槑鈥滄潵婧愶細涓浗
銆€ 缁忔祹缃戔€濇垨鈥滄潵婧愶細缁忔祹鏃ユ姤-涓浗缁忔祹缃戔€濄€傝繚鍙嶅墠杩板0鏄庤€咃紝鏈綉灏嗚拷绌跺叾鐩稿叧娉曞緥璐d换銆�
2銆佹湰缃戞墍鏈夌殑鍥剧墖浣滃搧涓紝鍗充娇娉ㄦ槑鈥滄潵婧愶細涓浗缁忔祹缃戔€濆強/鎴栨爣鏈夆€滀腑鍥界粡娴庣綉(www.ce.cn)鈥�
銆€ 姘村嵃锛屼絾骞朵笉浠h〃鏈綉瀵硅绛夊浘鐗囦綔鍝佷韩鏈夎鍙粬浜轰娇鐢ㄧ殑鏉冨埄锛涘凡缁忎笌鏈綉绛剧讲鐩稿叧鎺堟潈浣跨敤
銆€ 鍗忚鐨勫崟浣嶅強涓汉锛屼粎鏈夋潈鍦ㄦ巿鏉冭寖鍥村唴浣跨敤璇ョ瓑鍥剧墖涓槑纭敞鏄庘€滀腑鍥界粡娴庣綉璁拌€匵XX鎽勨€濇垨
銆€ 鈥滅粡娴庢棩鎶ョぞ-涓浗缁忔祹缃戣鑰匵XX鎽勨€濈殑鍥剧墖浣滃搧锛屽惁鍒欙紝涓€鍒囦笉鍒╁悗鏋滆嚜琛屾壙鎷呫€�
3銆佸嚒鏈綉娉ㄦ槑 鈥滄潵婧愶細XXX锛堥潪涓浗缁忔祹缃戯級鈥� 鐨勪綔鍝侊紝鍧囪浆杞借嚜鍏跺畠濯掍綋锛岃浆杞界洰鐨勫湪浜庝紶閫掓洿
銆€ 澶氫俊鎭紝骞朵笉浠h〃鏈綉璧炲悓鍏惰鐐瑰拰瀵瑰叾鐪熷疄鎬ц礋璐c€�
4銆佸鍥犱綔鍝佸唴瀹广€佺増鏉冨拰鍏跺畠闂闇€瑕佸悓鏈綉鑱旂郴鐨勶紝璇峰湪30鏃ュ唴杩涜銆�

鈥� 缃戠珯鎬绘満锛�010-81025111 鏈夊叧浣滃搧鐗堟潈浜嬪疁璇疯仈绯伙細010-81025135 閭锛�

精彩图片
鍏充簬缁忔祹鏃ユ姤绀� 锛� 鍏充簬涓浗缁忔祹缃� 锛� 缃戠珯澶т簨璁� 锛� 缃戠珯璇氳仒 锛� 鐗堟潈澹版槑 锛� 浜掕仈缃戣鍚妭鐩湇鍔¤嚜寰嬪叕绾� 锛� 骞垮憡鏈嶅姟 锛� 鍙嬫儏閾炬帴 锛� 绾犻敊閭
缁忔祹鏃ユ姤鎶ヤ笟闆嗗洟娉曞緥椤鹃棶锛�鍖椾含甯傞懌璇哄緥甯堜簨鍔℃墍    涓浗缁忔祹缃戞硶寰嬮【闂細鍖椾含鍒氬钩寰嬪笀浜嬪姟鎵€
涓浗缁忔祹缃� 鐗堟潈鎵€鏈�  浜掕仈缃戞柊闂讳俊鎭湇鍔¤鍙瘉(10120170008)   缃戠粶浼犳挱瑙嗗惉鑺傜洰璁稿彲璇�(0107190)  浜琁CP澶�18036557鍙�

浜叕缃戝畨澶� 11010202009785鍙�

生成式人工智能要发展也要规范

2023-04-18 07:15 来源:深圳特区报

  近日,国家互联网信息办公室发布通知,就《生成式人工智能服务管理办法(征求意见稿)》(以下简称《办法》)公开征求意见。这或将是我国专门针对AIGC(人工智能生成内容)发布的第一份政府文件,引发社会各界广泛关注。本期“思与辨”就该问题进行讨论。

  主持人:赵鑫

  嘉 宾:盘和林(浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员)

  李岩(辽宁大学法学院副院长、教授)

  国瀚文(西北政法大学民商法学院讲师、数字法学研究院特聘研究员)

  《办法》为企业发展提供一个合规框架

  主持人:从年初至今,以ChatGPT为代表的生成式人工智能引爆科技圈,一些国内公司也纷纷推出相应的产品和服务。此时国家出台《办法》规范生成式人工智能,释放了哪些信号?

  李岩:第一,明确我国致力于人工智能服务合法化发展的立场。《办法》为企业发展提供一个合规框架,并试图在合规前提下打造出人工智能技术创新发展新局面。第二,对服务提供者提出了高标准的合规义务要求。一方面,服务提供者需要在应用中满足运营合规要求;另一方面,服务提供者将作为主要的人工智能生成物法律责任的承担者。《办法》在责任承担上实现了与其他法律制度的衔接,服务提供者不仅需要承担生成内容生产者的责任,还需要承担作为个人信息处理者的责任。

  盘和林:一个信号是我们走的是先规范后发展的模式,在这个总基调下,互联网企业要考虑应用的合规性。另一个信号是监管层对于AIGC这一新事物还没有做好充分的准备,政策的执行具体流程是怎么样的?主管单位是谁?怎么认定是真实准确的内容?这些细节还没有确切的说法,《办法》还是一个粗线条的条款,是对于当前国内对AIGC一哄而上无序状态的应急性举措,所以《办法》还有很大的完善空间。

  国瀚文:透过该《办法》可以看出国家鼓励生成式人工智能的发展,同时也将加大管理、监督力度,引导和规范相关行业。该《办法》一方面体现了国家对个人权益的保护,另一方面也体现出国家大力支持人工智能产业,推动相关产业技术的发展。

  我国关注的重点是内容生成的价值取向问题

  主持人:此前,有不少国家对生成式人工智能出台了监管新政,侧重点各不相同。我国出台的《办法》有哪些显著特点?哪些规定值得特别关注?

  国瀚文:一是对生成式人工智能服务的监管贯穿始终,规定了申报安全评估、履行算法备案等登记手续。二是强调生成式人工智能产品或服务需遵守法律规范及尊重社会公德、公序良俗,与我国对待数据产业的态度是一致的。

  值得关注的是,《办法》聚焦生成式人工智能服务的安全合法,强调生成式人工智能服务的治理及权益保护,对算法的可靠性和透明度提出了要求。

  总体来看,《办法》回应了当前生成式人工智能发展的需要,对一些可能出现的衍生问题提出防范举措,有助于提前研判规避风险。

  盘和林:《办法》和其他国家的监管目标是不同的,我国关注的重点是内容生成的价值取向问题。规范生成内容是可以做到的,因为AI是高质量数据训练的产物,文本也好,图像也好,都是可以达成目标的,但现在以提供方为责任人的规定,我认为还是要有所调整,诸如用户也要负一定责任,因为AI生成内容是和用户有关系的。所以要加强对用户责任的认定,不能让所有的责任都由提供方来承担。当然,提供方有责任进行一些必要的限制,来回避敏感内容,但即便是提供方屏蔽了,模型训练了,还是无法回避所有的问题,因为人类文字,尤其是中文是很复杂的,如果出现歧义,应该给予适度包容,如果被用户恶意传播,则应该让用户承担相应责任。

  李岩:第一,《办法》提出了全流程全周期的监管要求。对算法入市、数据来源、数据训练输出文本等各个环节的风险控制,提出了要求。第二,《办法》的监管举措主要通过为服务提供者设置监管义务实现。第三,《办法》设置了多条引致条款,与《数据安全法》《个人信息保护法》等现行法律法规形成良好衔接,能够发挥出体系效应。

  值得注意的是,《办法》第十一条规定不得非法留存能推断出用户身份的输入信息。这一规定能够有效防范个人信息泄露风险。但如何实现这类信息与其他信息的区分,还需要进一步研究。另外,《办法》未涉及对于商业秘密或高敏感度的商业数据的留存问题,缺乏对商业数据的事前监管。

  包容审慎的审查观能够更好实现技术发展与安全之间的平衡

  主持人:对于规范生成式人工智能,您还有哪些好的建议?

  盘和林:立法应该关注AIGC的一些特性,比如内容生成的随机性,比如责任划分问题。如果先规范再发展成为主基调,那么在规范方面要考虑更加成熟的立法方案,因为法规一旦出台,就需要不折不扣地执行。而如果法律出台之后,对AIGC产业发展造成了阻碍,导致大量AIGC应用无法落地,那就有可能导致新的科技差距。所以立法还是要进一步细化,做好每一条的解释工作,落实责任主体。也要和AIGC领域的龙头企业做好沟通。对于新技术,我们都有一个接受的过程,对新技术的理解不可能一步到位。法律就是画红线,红线是规范企业行为的,红线划得越细,企业获得的空间就越大,企业在科技领域的表现就越活跃。

  国瀚文:规范生成式人工智能,首先应完善相关的法律法规,对生成式人工智能服务进行分类管理;其次,建立完整的安全评估规范和管理流程规范,保障数据安全及隐私安全,提高生成式人工智能服务的质量和水平。

  李岩:第一,建立包容审慎的生成式人工智能审查模式。包容审慎的审查观能够更好实现技术发展与安全之间的平衡,为企业的技术发展预留空间。第二,建立专门监管机构,对生成式人工智能实施专项监管。生成式人工智能行业的监管需要一定的技术支持,不仅需要借助技术手段监管,而且需要技术人才进行风险解构。传统监管模式容易出现权限划分争端,可能出现监管权限交叉或监管真空问题,专项监管模式有助于实现算法的分级分类管理。

(责任编辑:邓浩)

查看余下全文