41个算法“持证上岗”。
(资料图片)
6月20日,国家互联网信息办公室(“网信办”)网站发布公告,公布境内深度合成服务算法备案清单。文件显示,共有41个算法进入该名单,其中不少算法出自阿里、腾讯、美团、百度和科大讯飞等知名企业。
网信办网站截图
例如天猫小蜜智能客服算法,它搭载于手机天猫APP。它可以识别文字或语音问题,结合智能客服知识库,生成文本、图像、音频、视频等形式的回答;又例如腾讯会议虚拟背景算法,它利用人像分割得到像素级背景区域,实现对视频背景区域的模糊或替换,生成背景虚化或背景替换后的视频。
何为“深度合成技术”?
去年12月,网信办等三部门发布《互联网信息服务深度合成管理规定》。文件明确,深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。智能客服、文本生成图片,其实都属于深度合成。
文件明确,具有舆论属性或者社会动员能力的深度合成服务提供者,应当按照相关规定履行备案和变更、注销备案手续。同时,完成备案的深度合成服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。
据国内媒体统计,大麦、图形起源、智谱华章、美团、快手、百度、抖音、出门问问、淘票票、阿里巴巴、天猫、钉钉、阿里达摩院、拣值了、淘宝、菜鸟物流、科大讯飞、美图科技、动景科技、网易、酷狗、音书、鹏中科技、腾讯、腾讯音乐、闪剪智能等公司的算法,均在该清单之中。
图片据境内深度合成服务算法备案清单(2023年6月)制作
该清单的问世,对世界其他国家亦有参考意义。
伴随着人工智能大火,算法监管等问题近年来引发各国关注。
多年来,中国始终是全球算法监管先行者。
2022年,我国相继发布《关于加强科技伦理治理的意见》和《互联网信息服务深度合成管理规定》。有关部门曾在答记者问时强调,出台《互联网信息服务深度合成管理规定》,能够划定深度合成服务的“底线”和“红线”,维护网络空间良好生态。
美国《华尔街日报》今年曾在报道中指出,在全球范围内,对滥用深度合成技术来生成“深度伪造”内容的担忧持续增长。中国关于深度合成技术新规的实施,标志着全球首次有主要监管机构对限制这一“最具爆炸性和争议性”的人工智能新技术进行全面的尝试。
斯坦福大学研究学者、“数字中国项目”负责人格雷厄姆·韦伯斯特(Graham Webster)表示,中国的规定将为中国以外的观察人士提供一个研究案例,让他们研究这种规则如何在现实世界中发挥作用,以及它们可能对企业产生何种影响。
华尔街日报报道截图
可以预见的是,《互联网信息服务深度合成管理规定》等文件的出台,以及《境内深度合成服务算法备案清单》的陆续问世,将规范市场环境,同时推动国内人工智能产业的发展、创新和升级。
本文系观察者网独家稿件,未经授权,不得转载。