专家：细化技（jì）术标准（zhǔn）让“AI数字人”透明化合规化

　　□ 本报（bào）记（jì）者（zhě） 　赵 丽

　　□ 本报实习生 宋（sòng）昕怡

　　“生西红柿和生黄瓜不能一起吃了！黄瓜（guā）中的分解酶会破坏维生素C，一起吃轻则影响西红柿中维生素C的吸收，重（chóng）则可（kě）能导致腹泻、肠胃不适甚至食物（wù）中毒（dú）。”电话那头，母亲说得头头是道，电话这头的赵女士却听得一头雾水。

　　随即（jí），母亲发来（lái）一则视频。赵女士回忆说（shuō）：“一位满头花（huā）白（bái）头（tóu）发、身着白（bái）大褂的‘医生’在视频里侃（kǎn）侃而（ér）谈（tán）‘养生秘籍’，甚至（zhì）宣称（chēng）‘清淡饮（yǐn）食就是只吃素食（shí），完全不吃肉’。我（wǒ）妈把这个（gè）‘医生’的话奉为圭臬。”但赵女士仔细查看后，在（zài）视频右（yòu）下角发现一串几乎透（tòu）明的标注——“此视频由AI辅助生成”。

　　“后来，我妈戴着老花镜，在我（wǒ）的指点下找了一（yī）会儿才看见那行字。”赵女（nǚ）士无奈（nài）地说，“这也不能怪老人，现在AI生成的‘数字人’泛滥，还难辨真（zhēn）假，实在（zài）让人防不胜（shèng）防。”

　　有此困扰的并非（fēi）只（zhī）有（yǒu）赵女士（shì）一家。《法治日报（bào）》记者近日随机采访了数十名（míng）路人，至（zhì）少有七成（chéng）受访（fǎng）者称（chēng）曾刷到过（guò）“AI数字人”视频，并（bìng）且（qiě）“难（nán）以（yǐ）分清到底是真（zhēn）人还是‘数（shù）字人’”，而原因主要在于“找不到（dào）有效（xiào）提（tí）示”。

　　很多人（rén）担（dān）忧：真人“数字人”傻傻分不清楚（chǔ），背后是肖（xiāo）像权侵（qīn）权乃至敲（qiāo）诈、诈骗（piàn）等违法犯罪的风险隐患。

　　是否数字人难辨别

　　在重庆（qìng）读大学（xué）的郑（zhèng）媛浏览某（mǒu）社交（jiāo）平台时，刷到一则帖子（zǐ）——照片里的女生外形（xíng）温（wēn）婉可人，穿搭清（qīng）爽时尚，很夺人（rén）眼球（qiú）。郑（zhèng）媛点赞并关注了（le）该（gāi）账号。

　　但（dàn）不（bú）多时，郑媛却刷到另一名博主揭露用“AI生（shēng）成人”起号的内容，被打假的恰（qià）恰（qià）是她先前所关（guān）注（zhù）的这（zhè）个账（zhàng）号。“我仔（zǎi）细（xì）翻阅了那个女生的账号主页（yè），她（tā）并未标（biāo）明使用AI技（jì）术，还在评论区亲切地与其他用户互动。”面对这样的局面，郑媛说自己也（yě）“糊（hú）涂了”。她后来（lái）观（guān）察了一个（gè）多（duō）星（xīng）期，找（zhǎo）到了该账号图片确为AI生成的证据——有网（wǎng）友在其他账号上发现（xiàn）了妆容和衣着几乎一样的“数字人”，而人物介绍却完全不同。

　　习（xí）惯在直播间（jiān）购物的北（běi）京市民李（lǐ）菲说，自（zì）己经常误（wù）入（rù）“数（shù）字人”直（zhí）播间，“数字（zì）人”主播侃侃而谈介绍商品，手（shǒu）部动作还（hái）能随着她说话（huà）的节奏（zòu）不断（duàn）变（biàn）动，声音（yīn）流（liú）畅而自（zì）然。

　　“要仔（zǎi）细看才能看到直（zhí）播间左侧一行‘现直播内容为数字人直播，非真人直播’的小（xiǎo）字提（tí）醒（xǐng）。”李菲说（shuō），自己现在习惯了进直播间“先找小字”，确认（rèn）主播（bō）是否为（wéi）真（zhēn）人，“但（dàn）真的‘费（fèi）眼睛’，不是在犄角旮旯（lá），就是字体几乎透明，不注意根（gēn）本看不到”。

　　袁伟(化名)是某985高校计算（suàn）机系研究生。他告（gào）诉记者：“现在一些AI大模型生成的图，别说中（zhōng）老（lǎo）年人会误以为真，很（hěn）多没怎（zěn）么接触过AI技术的年轻人都（dōu）不见（jiàn）得能分（fèn）辨真（zhēn）假。”

　　他随即为记者演示，向某AI软件输（shū）入指令（lìng）“帮我生（shēng）成图片：一个容貌姣（jiāo）好（hǎo）的女性，精细的皮（pí）肤纹理，室外自然光”，随即生成（chéng）的图（tú）片与真人（rén）照（zhào）片（piàn）相差（chà）无（wú）几，如果不是右下角自带的水印，只让人觉得是一张普通的美（měi）女（nǚ）照（zhào）片。“如果（guǒ）说早期的AI软件大多（duō）不能生成（chéng）自（zì）然的手指和人体比（bǐ）例，现在技术进步得很快，生成（chéng）的手指和人体比例（lì）已经比较像样了，更加大（dà）了分辨的（de）难度（dù）。”

　　“这样的AI生成图片或视频（pín），如果不作（zuò）标（biāo）识提示，会让很多人（rén）信以为真。”袁伟（wěi）说（shuō）。

　　大（dà）量账号未作（zuò）标识

　　记（jì）者在某社交平台上注意（yì）到一名为“××AI打假人”的（de）账户（hù），其（qí）发帖称自己将致力于“揪出纯AI生成的内容（róng）博主，帮小白识（shí）别真伪”，还表（biǎo）示“关（guān）注了很多AI生成非真实的帅哥美女”。

　　在其关注列表里（lǐ）有300多个账号，记者随机选取了其中20个账号（hào）浏（liú）览发现，若没有看（kàn）到评论区“这是AI吧，手指的细（xì）节（jiē）很诡异”“背景里的文字都（dōu）是乱码”等（děng）留言，记者第一反应只以为他们是普通的颜（yán）值时（shí）尚类（lèi）博主。

　　这20个粉丝量（liàng）几（jǐ）百到几万不等（děng）的账号，仅有3个（gè）账号在（zài）简介中写明“虚拟（nǐ）男友”“AI”“友情提示（shì）视频由（yóu）虚拟现实技术制作”，两个（gè）账号主页的内（nèi）容经平台审核后被打上了（le）“疑似包含AI创（chuàng）作信（xìn）息，请（qǐng）谨（jǐn）慎甄别”的标签。其余账（zhàng）号在简介、内容中并（bìng）未（wèi）提及“AI”字眼（yǎn），平台的监测机制也并未识（shí）别（bié）到，这些账号甚至还在评论区熟稔地与（yǔ）其他（tā）用户互动，让自己看上去更（gèng）有“真人感”。

　　在调查过程（chéng）中（zhōng），有超（chāo）过（guò）一半的受访（fǎng）者向记者（zhě）表示AI生成的“数字（zì）人”和真人难以分辨，相（xiàng）关的提（tí）示也（yě）并不显眼。

　　此外，记者发现，有人还（hái）会（huì）特意教人（rén）如何绕过平台的“AI打标”。据了解，目前，各平（píng）台已普遍升级（jí）AI内容（róng）识别系统，要求对AI生（shēng）成作品进行显著标（biāo）注。但在调查中（zhōng），有（yǒu）分享经验的博主表示花费不到千（qiān）元就可以购买所谓（wèi）的AI工具中（zhōng）预配置的镜（jìng）像（xiàng）文件，称用这些镜像参数一键生成的（de）虚（xū）拟人形象可（kě）以以（yǐ）假乱（luàn）真（zhēn），最大限度规避（bì）平台（tái）的AI内容强制（zhì）标注机制。

　　细化（huà）标准加（jiā）大惩处

　　记者梳理公开信息（xī）发现，实（shí）践中，一些有心人（rén）士利用（yòng）“数字人”形象行不法之事。

　　据报道，张文（wén）宏、雷军等公众人物形（xíng）象曾被利用（yòng）生成“AI数（shù）字人”，用来带货、恶搞。一些直播（bō）间内，“AI数字人”向中（zhōng）老年人群体虚假宣（xuān）传保健品（pǐn），诱导购买（mǎi）。更有（yǒu）甚者，一（yī）些不法分子利用“AI数（shù）字人”进（jìn）行（háng）敲诈、诈骗等犯罪。例如，山西忻州公（gōng）安（ān）机关工作发现，犯罪嫌疑（yí）人王某某利用AI技术，制（zhì）作合成“数字人”新闻视频引流，进而进（jìn）行有偿发帖、有偿删帖等敲诈勒（lè）索（suǒ）活（huó）动。2024年，江西一（yī）名（míng）65岁老人到银行办理业（yè）务，声称要贷（dài）款200万元给男朋（péng）友“靳（jìn）东”拍戏，后经调查，老人手机里的“靳东”视频是AI合（hé）成的。

　　重（chóng）庆大学网（wǎng）络与大数据研究院副院长罗勇认为，就（jiù）价（jià）值（zhí）取（qǔ）向而言，AI产业发展不能凌驾于网络安全（quán）之上（shàng）。对于（yú）利用AI技术生（shēng）成的短视频（pín），网络用户特别是未成年（nián）人（rén）和老（lǎo）年（nián）人由于缺乏必（bì）要的（de）鉴别能力，往往（wǎng）会（huì）信以（yǐ）为真，由（yóu）此可能产生负面网络舆情，甚至对网络安全造成负（fù）面影响。

　　据受访专（zhuān）家介绍（shào），当前我国已经出台了《生（shēng）成式人工（gōng）智能服务管理暂行办法》《互联网（wǎng）信息服务深度（dù）合成管理（lǐ）规（guī）定》等法规，对“AI数（shù）字（zì）人”和AI生成内容的标识、数据来（lái）源等提（tí）出（chū）了具体要求。

　　今（jīn）年（nián）3月（yuè），国（guó）家网（wǎng）信办等四部门联合发布《人工智（zhì）能生成合（hé）成（chéng）内容标识办法（fǎ）》(以（yǐ）下简（jiǎn）称标识办法)，通过标（biāo）识（shí）提（tí）醒用户辨别虚假信息，规范（fàn）内容（róng）制作、传播各（gè）环节标识行为，为（wéi）规范（fàn）AI生成（chéng）内容划定红线（xiàn）。该办（bàn）法（fǎ）将于9月（yuè）1日起施（shī）行。

　　中国政法大学教授郑飞（fēi）指出，相关规定一定程度存在落地难的问（wèn）题。一是监管和技术手段有（yǒu）限，难（nán）以彻底发现并纠正违（wéi）规行为（wéi）。例如，一些“AI起号”从业者通过预置（zhì）“镜像参数”生（shēng）成极为逼（bī）真的虚（xū）拟人像，从而逃避平台的强制（zhì）标注要（yào）求。而监管（guǎn）部门特别是基层执法部（bù）门，通（tōng）常（cháng）面临职责不清、执法手段和执法力量（liàng）不（bú）足的问题；二（èr）是部（bù）分平台（tái）在一定程（chéng）度上“管不了”也（yě）“不想管”。“管不了”在于平台管理能（néng）力（lì）与技术手段欠（qiàn）缺，尤其是一些小型平台，缺乏足够的审核人力和技术支持。“不（bú）想管（guǎn）”则是背（bèi）后利（lì）益驱动。未明显标（biāo）识“AI数字人”或合成内容，会让受（shòu）众误（wù）以为是真人或真实事件，从而更（gèng）容（róng）易引（yǐn）起人们的兴趣和好奇（qí）心，吸（xī）引更（gèng）多的流量和关注，进而带来更多的（de）商业利（lì）益。

　　“以网络（luò）社（shè）交平台为代表的网络服务提供（gòng）者在AI生成内容的（de）应用场景（jǐng）中，应当（dāng）进一步完善用户使用AI协议规定（dìng），并强化（huà）对AI生成内容的审核。”罗勇说。

　　郑飞建（jiàn）议，应（yīng）从明确标识要求和加大责任追（zhuī）究两方面发（fā）力。标识办法明确要求（qiú），一（yī）旦检测到AI生成（chéng）内容，传播（bō）平台（tái）应在发布（bù）内容周边添加显著提示标识，并在（zài）文件（jiàn）元数（shù）据中（zhōng）加隐式标识（shí），确保全流程可溯源（yuán）。在（zài）未来落实过（guò）程中，可（kě）进一步细（xì）化（huà）技术标准，比如（rú）规（guī）定（dìng）标识文字的最小高度、对（duì）比度、展示时长等，让标识一目（mù）了然。另外，对于不按规定（dìng）标注（zhù）的行为，需要严厉处罚：除加大行（háng）政罚款、暂停业（yè）务或纳入不良信（xìn）用记录等行（háng）政措施外（wài），还（hái）要利（lì）用法律手段加大（dà）威慑。通过（guò）明确、显著的标识标（biāo）准和更严（yán）厉（lì）的责（zé）任追（zhuī）究（jiū），才能从根本上震慑违规不标注行为，实现“AI数字人（rén）”应用的透明化、合（hé）规（guī）化。