【法治护我心】划定深度合成服务“底线”“红线”******

　　【法治护我心——《互联网信息服务深度合成管理规定》系列解读】

　　光明网记者 陈畅、李政葳

　　“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。

　　“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”

　　纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

　　法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”， 迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。

　　明确义务要求，强化主体责任

　　事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。

　　何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

　　具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

　　诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。

　　深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。

　　中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。

　　健全技术支撑体系，促进科技向上向善

　　从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。

　　时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。

　　然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。

　　《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。

　　“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。

　　孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。

　　引导多方参与，推动治理走深向实

　　随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。

　　《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。

　　王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。

　　孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。

　　为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。

我们距离“三体世界”还有多远？这些“黑科技”正在走向现实…...******

　　最近，《三体》动画开播。被翻译成不同语言、畅销世界多地的小说《三体》，除了其庞大的设定、对宇宙的恢宏描写以及跌宕起伏的剧情外，最令人着迷的就是作者刘慈欣对未来航天科技的设想。

　　这些天马行空的“黑科技”，有哪些是正在实现或部分实现的呢？我们一起去看看：

    图源：《三体》微博

　　从“飞刃”到碳纳米技术

　　在《三体》中，“飞刃”被用来执行代号“古筝行动”的秘密军事行动，这种极细的丝状纳米材料，将叛军船只“审判日”号切割成了条状。

    图源：《三体》动画

　　按原著设定来看，“飞刃”是一种超高强度的纳米材料。

　　在现实中，最接近其特征的就是具有超高机械强度和低密度的碳纳米管，但它目前还无法做到像三体中“飞刃”一样，横跨运河两端几十个来回那么长。

　　 2022年4月，美国《国家科学院院刊》（PNAS）刊载，中国科学家首次在高压下合成高度有序晶态金刚石结构纳米线。这种金刚石纳米线在长度方向可以无限生长，粗细仅相当于一根头发丝的十万分之一，具有与碳纳米管相当或更高的拉伸强度和极强的柔韧性，想来在实践中运用指日可待。

    金刚石纳米线

    图源：科普中国

　　从头盔感应技术到虚拟现实设备

　　《三体》中不止一次提到了头盔感应技术。

　　每次进入三体游戏世界，科学家汪淼都需要穿上虚拟现实装备，装备包括一个全视角显示头盔和一套感应服构成的“V装具”。通过记录视网膜特征，感应服可以使玩家从肉体上感觉到游戏中的击打、刀刺和火烧。

    图源：《三体艺术插画集》by 山野

　　按照原著设定，“V装具”就是虚拟现实设备（Virtual Reality，VR）。它和增强现实技术（Augmented Reality，AR）不同，虚拟现实可在虚拟信息里模拟出现实世界。

　　现今，大部分虚拟现实技术更强调视觉体验，一般是通过电脑屏幕、特殊显示设备或立体显示设备获得的。

　　与V装具头盔接近的设备便是VR头显。

    VR头显

    图源：凤凰网

　　 VR头显可将人的对外界的视觉、听觉封闭，引导用户产生一种身在虚拟环境中的感觉。如果要使用VR头显进行游戏，往往还需要配套的手柄或手套用以操控。就目前的实际情况来说，还很难形成一个高逼真的虚拟现实环境，无法拥有三体游戏里那种身临其境的丝滑体验。

　　从“思维透明”“思想钢印”到脑机接口

　　《三体》刻画了两种信息感知机制。

　　其一是思维透明。三体人的信息感知方式是直接发射自己的思维，三体人一开始思考，他的想法别人就能够知道，无法隐藏；

　　其二是思想钢印。第三位面壁者比尔·希恩斯发现了人类思维做出判断的机制，成功研制出一种设备，通过对神经元网络施加影响，使大脑不经思维就作出判断，相信某个信息为真。

　　按照原著设定，思维透明和思想钢印，都是对心智这一神秘领域的重新认识。

    图源：《三体》动画

　　而现实中，让机器直接解码神经活动的技术被称为“脑机接口”。

　　单向脑机接口的情况下，计算机接受大脑传来的命令，或者发送信号到脑，但不能同时发送和接收信号，类似于三体中的思想钢印。

　　双向脑机接口允许脑和外部设备间的双向信息交换，就像三体人的透明思维，可以感知别人，也无法隐藏自己。

　　脑机接口已经在医疗领域有了很多应用，脑控智能轮椅、脑控打字机、脑控机械外骨骼、脑控智能假肢等等都是试图绕开已经坏损的神经或者部位，让机器直接解码神经活动。

　　如何准确地对思维进行解码和编码，是现在脑机接口面临的最大挑战，也是目前无法实现思维钢印，思维透明的根本原因。

    脑机接口

    图源：网易号“蓝海长青智库 ”

　　从无穷能源到可控核聚变试验

　　《三体》世界中的人类社会虽然没有实现罗辑口中的“无穷的能源”，却也是有极度充盈的能源供给支撑起整个地球的无线供电，而这个能源就来自可控核聚变。

    图源：《三体设定集》

　　现实世界中，早在上世纪 50 年代，人类便开始研究用于民用目的的可控核聚变。近几年，“核能新浪潮”抬头，这一“终极能源”的研究更是得到了世界各国的大力推崇。

　　2022年12月5日，美国科研人员在劳伦斯 · 利弗莫尔国家实验室（LLNL）进行了历史上首次可控核聚变实验。

　　核聚变是太阳和恒星的能量来源。在这些星体核心的巨大热量和重力下，氢原子核相互碰撞，聚合成更重的氦原子，并在此过程中释放出大量能量。与其他核反应不同，核聚变不会产生放射性废物。核聚变技术有望为人类提供近乎无限的清洁能源，帮助人类摆脱对化石燃料的依赖。

　　2021年，中国的“人造太阳”全超导托卡马克核聚变实验装置（EAST）便实现了1056秒的长脉冲高参数等离子体运行。依靠该技术，最终建成可控核聚变发电站。

    全超导托卡马克核聚变实验装置（EAST）

    图源：新华社

　　把时间拉长，科技和科幻没有分界线。

　　科技与未来接轨的脚步在不断加速，科幻的无限想象为“黑科技”画出蓝图。期待在未来科学家们通过试验，将《三体》中“飞刃”“思想钢印”“水滴”等表述具象化，展现科技力量！

　　(审核：张宁 策划：李政葳 统筹：穆子叶 撰文：雷渺鑫)

　　参考 | 北京科技报、知乎、科普中国、三体社区、海峡卫视、凤凰网