【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花,水中望月,你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲,用来描述当下互联网时代的“云”上生活,在技术发展与风险伴生之下,“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来,人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态,但其被恶意利用制作虚假信息内容,进而带来了政策干扰、谣言泛滥、低俗内容等。因此,我们也在呼吁——“借我一双慧眼,把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程,技术治理本身就是一场攻防对抗博弈,也是技术从创新应用到规范发展的必经之路。近日,这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”, 迈出我国新技术新应用立法的重要一步,也将有效维护网络空间良好生态。
明确义务要求,强化主体责任
事实上,深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展,深度合成技术门槛大幅降低。2017年11月,Reddit网站的用户“deepfakes”发布伪造视频,曾一度将这项技术推至风口浪尖,其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”?《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括:篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术,文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术,音乐生成、场景声编辑等生成或者编辑非语音内容的技术,人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然,从技术进步的角度看,深度合成技术应用的初衷是让生成合成内容更逼真,但技术在愈趋“智能”的同时,也不可避免地带来更多风险。对此,中国科学院信息工程研究所所长孟丹介绍,除深度伪造风险外,还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者,也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现,《规定》明确了深度合成技术定义和服务范围,提出了服务提供者落实信息安全主体责任,指出了服务提供者和技术支持者备案义务,并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价:《规定》分析梳理了深度合成活动边界,对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如,服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务,服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系,促进科技向上向善
从此起彼伏的社会案件中可以看出,深度合成信息内容制作和传播数量正在高速增长,尤其伴随“元宇宙”等新模式、新场景不断落地,深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为,《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步,标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》,对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上,加强对深度合成服务全过程管理,也深化了备案与评估标本兼治。
然而,从技术发展阶段看,深度合成技术与应用管理仍处于起步阶段,在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设,是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间,凸显了“以技术管技术”的逻辑,也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架,提出了明确的数据和技术管理规范,为促进深度合成技术向上向善,引导相关产业健康发展,确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向,在明确‘红线’的同时,为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如,《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议,从深度合成信息内容源头上,解决其衍生的内容安全风险,利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力,不仅着眼于管理好、使用好、发展好深度合成技术及相关服务,也致力于深度合成技术的合法合理合规使用,促进深度合成技术及相关服务健康有序的发展。
引导多方参与,推动治理走深向实
随着数字化、智能化进程不断加快,互联网信息服务综合治理不断细化,规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示,深度合成服务治理需要政府、企业、社会、网民等多方主体参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进互联网信息服务健康发展。
《规定》明确提到,国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责,国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为,《规定》构建了统筹协调、多方参与的监管体制;《规定》鼓励相关行业加强行业自律,搭建齐抓共管、协同共治的治理机制;《规定》通过系统化的制度安排,进一步构建完善了我国网络综合治理法治体系。
孟丹也提到,《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面,仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中,建议业内推进产业联盟建立,以产业自治、多方共治的方式,不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实,徐波建议,强化智能监管平台支撑。比如,深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术,推动深度合成管理技术能力建设;加强人机混合的智能监管技术,研究深度合成服务提供者的安全可控技术保障方案,把监管规范转化为评估标准,建设面向网络全域监管的监测管理平台;研发深度合成与鉴别对抗机制,鼓励新兴科技企业与研究机构开展技术演练,共同推动深度合成服务健康发展。
电视专题片《永远吹冲锋号》第二集《政治监督》******
习近平总书记在党的二十大报告中强调,要坚持和加强党中央集中统一领导,健全总揽全局、协调各方的党的领导制度体系,完善党中央重大决策部署落实机制,确保全党在政治立场、政治方向、政治原则、政治道路上同党中央保持高度一致,确保党的团结统一。
在新时代全面从严治党的伟大实践中,我们党坚守自我革命根本政治方向,坚持把党的政治建设摆在首位,把维护党中央权威和集中统一领导作为最高政治原则,严明政治纪律和政治规矩,强化政治监督,确保全党增强“四个意识”、坚定“四个自信”、做到“两个维护”。
新时代强化政治监督的根本任务就是“两个维护”。党的二十大报告强调,推进政治监督具体化、精准化、常态化。必须把坚持和加强党中央集中统一领导作为党的建设第一位的任务,坚决纠正在落实“两个维护”上存在的温差、落差、偏差,确保全党深刻领悟“两个确立”的决定性意义,坚决做到“两个维护”;确保准确把握新时代新征程党的使命任务,把党的二十大提出的重要思想、重要观点、重大部署、重大举措落到实处。
一个违规推动填海 一个对整改明拖暗顶
他们竟以生态环境为代价谋求私利
2017年7月,中央生态环境保护督察组发现三亚凤凰岛二期项目严重破坏生态环境,点名批评并责令整改。然而直到2020年,经过先后三轮督察,凤凰岛二期项目整改工作却一直停滞不前。
调查发现,有的党员领导干部仍然舍不得放弃以生态环境为代价的发展模式,个别人还与相关企业存在利益勾连,导致贯彻落实党中央重大决策部署打折扣、搞变通,致使人民群众获得感受到严重损害。
王勇,2008年至2014年任三亚市委副书记、市长,凤凰岛二期项目是在他任内启动修建的。
童道驰,2018年至2021年任三亚市委书记,在他任期内,中央整改要求迟迟得不到落实。
凤凰岛是一个人工填海造岛项目,一期完成填海工程后,附近海岸线就明显出现了沙滩退化现象,三亚市政府曾请专家团队调研,发现是凤凰岛一期项目造成水流变化,导致岸线侵蚀。到凤凰岛二期立项讨论时,不少干部因此提出了反对意见。
海南省政协原副主席 曾任三亚市市长王勇:海洋部门提过不同意见,分管的副市长也提过不同意见,但是我还是坚持,发展是业绩,保护也是业绩,但是发展是显绩,保护是潜绩,所以我还是力推把二期能够批下来。
王勇没有如实向海南省海洋部门通报凤凰岛一期造成的生态问题,致使二期项目海域使用权顺利获批;又授意三亚市规划局违规出具选址规划意见,让项目得以通过立项审批;两次召开专题会议,要求特事特办、加快推进,使得凤凰岛二期项目于2014年4月启动,2016年主体填海完成。
2018年,童道驰被任命为海南省委常委、三亚市委书记,正值中央要求对凤凰岛进行整改之际,但他不按要求执行经评估论证的包括拆除凤凰岛连廊在内的组合方案,而是擅自拿出了一个仅采用“三亚河口清淤、拓宽河口”措施的替代方案,多次在公开场合提出要积极向上级争取不拆除连廊,要“保留凤凰岛的完整性”。
2019年下半年,中央环保督察组再次到海南督察,童道驰授意有关部门紧急制定拆除凤凰岛连廊的工作方案,但只是拿来敷衍应付,并没有任何实质行动,同时授意继续申请实施替代方案。2019年12月,替代方案被省政府明确否定,童道驰仍然明拖暗顶,不作实质整改。
童道驰:凤凰岛这个事儿涉及违规填海,然后就是地产。企业的股东肯定想办法接近你,一旦放松一点点,这个利益集团侵蚀就非常厉害。
凤凰岛二期时间跨度长、投资金额大,整改拆除有很多复杂的问题要去解决,也必然要触碰多方利益。作为市委书记,本应担当作为,童道驰却畏难情绪严重,想绕着困难走,不愿动真碰硬。
童道驰本来就打心底里不想整改,企业一拉拢腐蚀,更是彻底被私欲吞噬。结识相关企业股东之后,他迅速从接受对方安排的各种奢华享受,发展到进而收下贵重财物,到案发时,已累计收受相关股东两千多万元。
2020年5月,中央环保督察组再次点名批评凤凰岛项目“修复治理大打折扣”;2020年7月,生态环境部到凤凰岛调研督察,到这个时候,童道驰竟还在授意下属重点介绍替代方案。他的种种反常之举引起关注,2020年9月,中央纪委国家监委对他展开初核,11月1日对他立案审查调查。
童道驰和王勇严重违反政治纪律和政治规矩,并且存在其他严重违纪违法问题,先后被开除党籍和公职。2021年10月法院宣判,王勇收受财物9047万余元,以受贿罪判处无期徒刑;2022年6月法院宣判,童道驰收受财物2.74亿余元,以受贿罪判处死刑,缓期二年执行。
目前,凤凰岛二期项目全部拆除完成,环境修复工作也在展开。历经波折,这片碧海终于被还给了大自然,还给珊瑚和鱼群,留给子孙后代。
“我是抚州人民的罪人”
受贿上亿落马官员忏悔
肖毅,江西省政协原党组成员、副主席,曾任江西省抚州市委书记。
肖毅在任期间将位于抚州市高新技术开发区的九木集团创世纪科技有限公司奉为抚州市“数字经济”产业的一张“名片”,对外宣扬它是搞“大数据”“云计算”的高新科技公司。然而,肖毅其实明知该企业真正从事的是虚拟货币计算生产业务,俗称“挖矿”。
“挖矿”需要耗费大量电力,并带来大量二氧化碳排放和电子垃圾生成,高耗能、高排放的同时,对解决就业、产业发展和科技进步的贡献度却很低。此外,虚拟货币也有可能成为一些非法交易逃避监管的工具,还有可能危害金融安全。然而,这样一家企业,却竟然得到了肖毅的包庇甚至力捧。
从2018年开始,国家明确要求各地政府引导“挖矿”企业有序退出,之后进一步明令禁止以任何名义发展虚拟货币“挖矿”项目。肖毅对国家政策十分明了,却仍心怀侥幸,妄图瞒天过海,授意林庆星公司在有人来参观检查时,“表演”一些其他业务。
创世纪公司约有16万台“矿机”每天运行,从2017年到2020年,这一家公司的用电量就占到抚州全市用电总量的10%。为掩盖真实情况,肖毅授意有关部门虚构统计专报和调整用电分类。他还违规要求为该公司提供财政补贴,违规推动政府机关为该公司提供担保、贷款等融资支持达24亿余元人民币,帮助该公司在高新区新建了数据中心大楼。
抚州有着悠久的历史文化,以“临川四梦”为代表作的明代著名剧作家汤显祖是这座城市标志性的文化名人,抚州人形容自己的家乡是“一座有梦有戏的城市”。然而,肖毅主政抚州期间,做的却是自己虚幻的政绩梦,也因此才上演了支持“挖矿”企业的荒唐戏。而这样的戏,还不止这一出。
大乘汽车科技产业园是肖毅决策兴建的另一个重点项目,如今也是一片寂静,只剩下一名保安人员,看守着大量未完成的汽车。
中央纪委国家监委机关工作人员刘晟:2017年上半年,肖毅不顾实际情况,盲目举债,盲目决策,投资30多亿元建成了相关的汽车产业园。但是因为他们生产的是传统的燃油车,本身品牌又没有什么竞争力,生产了几千台以后就停产了,造成投产即停产。
除了违纪问题,肖毅还被查出利用职权,为他人在职务晋升、工程承揽、项目开发等方面提供帮助,非法收受财物上亿元。2021年12月,其因严重违纪违法被开除党籍和公职,2022年1月,以涉嫌受贿罪和滥用职权罪被提起公诉,法庭将择期审理。
肖毅:我是抚州人民的罪人,我对不起抚州人民。组织上委派我到抚州去当市委书记,希望我能够带领大家脱贫,把经济搞上去,让老百姓过上好日子,但是因为我扭曲的政绩观,把自己所谓的“政绩”摆到了人民的利益之前,所以才会这么蛮干、乱干,导致这么重大的损失。我要向抚州人民忏悔。
两个县级“一把手”互相关照对方弟弟
结成利益网开启长期“合作
甘肃省镇原县属于陕甘宁革命老区,是甘肃省最后一个脱贫的县。曾在这里多年担任“一把手”的李崇暄,2021年3月被甘肃省纪委监委立案审查调查。
李崇暄,从2009年到2020年历任甘肃省庆阳市镇原县县长、县委书记。他上任后主抓的首个重大工程,是新建镇原第二中学,这也成了他首个收受巨额贿赂的项目。请托他的人是另一个县级“一把手”,华池县县长张万福,他也于2017年被查处。
甘肃省镇原县委原书记李崇暄:张万福是镇原人,我正好到镇原当了县长,他到华池当县长,明确提出来要关照他弟弟进一步发展,然后说了一些具体的县里大的工程。
和李崇暄打过招呼后,张万福的弟弟很快就带着一个水果包装箱登门拜访李崇暄,里面不是水果,而是一百万元现金。
镇原二中项目仅仅是个开端,事实上,李崇暄和张万福商定了一个长远“合作”计划。李崇暄也有个弟弟,名叫李崇刚,也向哥哥提出想做点工程。于是李崇暄兄弟和张万福兄弟结成了一张特殊的利益网,两个“一把手”在各自辖区内相互“关照”,帮对方的弟弟承揽工程。双方你来我往,通过“异地交换”避人耳目。
然而,天下没有不透风的墙。两个县“一把手”互相照顾对方弟弟的事情,不久就传了出去,释放出的恶劣影响可想而知。
2009年到2013年是李崇暄收受贿赂的高峰期,当时镇原县河道治理、水利建设、安居工程、汽车客运站、城乡道路等多个政府投资类项目中,他都打招呼、下指令,强行干预,使得正常决策和招投标程序被架空。
2009年到2013年,李崇暄在全县强行连片推进苹果栽植项目,甚至一些地方迫使农民铲除小麦青苗改种苹果。轰轰烈烈大规模栽种后,没有后续跟踪管理和技术扶持,农户遭遇病虫害、技术不足、水源缺乏等种种困难,致使全县投资一千多万元栽下的八万多亩苹果树,砍的砍、烧的烧,如今只剩不到十分之一。
位于开边镇的农业示范园区,是另一个失败的“政绩工程”。2012年,李崇暄拍板选址在这里兴建这一项目,首先考虑的是方便上级领导检查。
在建设标准上,李崇暄追求大规模、高标准,在公路沿线流转土地500亩,投入财政资金近1000万元,新建两百多座温室和钢架大棚。结果建成后,很少有人来承包经营,只能强压给镇政府和村委会接手维持,供上级检查。到如今,园区蒿草丛生,大部分设施破败闲置,好好的土地长年荒废,让当地农户们看在眼里,疼在心里。
“一把手”一旦蜕变成为“一霸手”,必然导致滥用权力,损害党和人民的利益,这已经被无数案例反复证明。必须清醒地看到,“一把手”监督仍然是监督工作的难点,纪检监察机关必须把它作为政治监督的重中之重,强化责任追究,持续释放有责必问、执纪必严的强烈信号。
党的二十大作出的重大部署,涉及党和国家的方方面面,每一项都与十四亿人民当下和未来的生活紧密相关,每一项都不是抽象的概念,而是明确具体的工作要求。党的重大决策部署到哪里,政治监督就跟进到哪里,这是纪检监察机关的职责使命。而全体党员也需要深刻把握新时代新征程党的使命任务,时刻牢记自己的职责使命,深刻领悟“两个确立”的决定性意义,坚决践行“两个维护”,确保党中央的决策部署落实到位,以每个人的工作与奋斗,共同创造中国更美好的今天和明天。
(文图:赵筱尘 巫邓炎)