生成式人工智能快速发展,赋能千行百业的同时,也被一些人滥用。近期,中央网信办组织开展“清朗・整治AI应用乱象”专项行动第二阶段工作,累计清理违法违规信息561万余条,查处账号4.9万余个,处置违规网站、应用程序等2400余个。
AI乱象之害,在于从个案走向普遍。生成式AI把内容生产门槛压到极低,造假也从“手工活”变成“流水线”。有人“魔改”《三国演义》《西游记》等经典,颠覆人设、虚构猎奇剧情博取流量;有人生成合成虚假灾害、救援画面,编造不实热点,在突发事件中放大恐慌;还有人打造AI数字人虚假带货,把矛头对准辨识能力较弱的老年人。这些乱象扰乱网络秩序,侵害群众权益,败坏社会风气,必须坚决整治。
清朗治理之本,在于守护具体的人和具体的权益。专项行动通报的七类典型案例,每一类都对应着真实的受害者。未成年人被批量生成的“毒动画”“邪典视频”围猎,老年人被虚假宣传话术层层误导,公众人物被“换脸”“换声”冒犯形象还遭借机牟利。当技术被用来伤害最需要保护的群体时,“技术中立”的说法在这些实实在在的伤害面前站不住脚。管住AI乱象,守护的是孩子的清朗空间、老人的切身利益、每一个普通人的合法权益。
治理与创新之道,在于规范中谋发展。一段时间以来,低质猎奇内容抢占流量、网络水军刷量制造虚假繁荣,合规应用的生存空间被一再挤压。清理这些乱象,为守规矩、有担当的AI应用腾出舞台,让有价值的技术创新脱颖而出。治理规范了,创新的空间才会更大;应用合规了,用户的信任才会更足。以治理之“严”护航创新之“热”,是这次专项行动的深层意涵。
长效治理之要,在于织密多方共治之网。专项行动分阶段推进,第一阶段聚焦大模型备案、平台审核过滤、数据投毒、内容标识等源头环节,第二阶段转向虚假信息、假冒仿冒、侵害未成年人等民生突出问题,治理的覆盖面不断扩大。中央网信办统筹部署,各地因地制宜精准施策,北京升级审核策略、上海推动自查自纠、浙江开展“一企一策”问诊、广东点对点督促整改。各大平台优化多模态识别模型,动态扩充人脸库、声纹库;主流大模型平台严把语料审核关,推动AI生成内容标识落地;应用商店严格准入、抽检复测。政府引导、平台履责、行业自律、社会监督同向发力,AI治理的共治格局正在加快形成。
AI技术本身没有立场,关键在于使用它的人和约束它的制度。专项行动的意义,不只在清理多少信息、处置多少账号,更向社会传递清晰信号,创新必须守住底线,发展必须惠及人民。新征程上,给AI立规矩、让创新走得更稳,让“虚火”降温、让“真火”更旺,人工智能定能更好赋能高质量发展,更好服务人民对美好生活的向往。(韩凯凯)