近年来，人工智能（AI）技术的浪潮席卷全球，深刻地改变着我们的社会生活。从智能家居到自动驾驶，AI的应用无处不在，极大地提升了效率和便利性。然而，硬币总有两面，AI技术在带来诸多益处的同时，也伴随着一系列新的挑战，尤其是在AI换脸、AI拟声等技术日益成熟的背景下，滥用现象层出不穷，对个人隐私、社会秩序和公共利益构成了潜在威胁。这种威胁并非遥不可及，而是日益逼近，需要我们积极应对。
AI技术的迅猛发展和广泛应用，如同打开了一个潘多拉魔盒，释放出巨大的创造力的同时也潜藏着难以预测的风险。AI换脸技术能够轻易地将一个人的面容嫁接到另一个人身上，从而制造虚假视频或图像，用于恶意诽谤、敲诈勒索甚至政治操纵。AI拟声技术则能够模仿任何人的声音，用于冒充身份、进行诈骗等非法活动。这些技术的滥用，不仅侵犯了个人权益，也破坏了社会信任，动摇了社会秩序的根基。
为了规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，中央网络安全和信息化委员会办公室（以下简称中央网信办）于2025年4月启动了为期三个月的“清朗・整治AI技术滥用”专项行动。此次行动并非一时兴起，而是中央网信办持续开展“清朗”系列专项行动的延续，体现了监管部门对新兴技术风险的敏锐洞察和积极应对。近年来，中央网信办一直致力于打击网络上的各类乱象问题，从严处置违规平台和账号，形成了有力的震慑。此次聚焦AI技术滥用，更是将监管触角延伸到了科技前沿领域。
专项行动分两个阶段开展，第一阶段重点整治AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等突出问题，并部署各地网信部门加大违规AI产品处置力度，切断违规产品营销引流渠道。这一举措抓住了AI技术滥用问题的关键，即技术本身的易用性和传播渠道的广泛性。只有从源头上遏制违规行为，才能有效保护公众的合法权益。
此次专项行动的成果显著。据统计，第一阶段累计处置违规小程序、应用程序、智能体等AI产品超过3500款，清理违法违规信息96万余条，并对3700多个违规账号进行了处理。这些数字充分表明，中央网信办对AI技术滥用乱象采取了坚决的打击态度，有效地遏制了违规行为的蔓延。这不仅是对违法犯罪行为的震慑，更是对整个AI行业的一种警示，提醒从业者必须坚守伦理底线，遵守法律法规。
值得注意的是，此次整治并非仅由中央网信办单方面推进，而是联合各地网信部门和平台共同参与。例如，北京市网信办开通了举报渠道，建立了“用户标记-平台核查-联合处置”模式，处理了26起举报案件。微博也通过策略识别、用户举报等多渠道审核，累计处置违规内容4800余条，并公布典型案例。这种多方联动、协同治理的模式，提高了整治效率，也增强了公众参与感。这表明，AI治理需要全社会的共同努力，才能形成强大的合力。
除了对违规产品和账号的直接处置外，专项行动还强调了对AI技术安全保障措施的完善。督促重点网站平台健全技术安全保障措施，推动AI内容标识加速落地，是保障AI技术健康发展的重要举措。AI内容标识的缺失，容易导致公众误导，甚至引发社会恐慌。明确AI生成内容的来源和性质，有助于提高公众的辨别能力，防范潜在风险。例如，在一段视频中清晰地标注“AI生成”字样，可以有效避免观众被虚假信息误导。此外，一些平台也在加强训练语料管理，例如通义平台在加强训练语料管理方面做出了积极努力。这表明，AI治理需要从技术层面入手，建立健全的安全保障体系。
然而，AI技术监管并非易事。AI技术的快速迭代和应用场景的不断拓展，给监管带来了新的挑战。如何平衡技术创新与风险防范，如何在保障公民权益的同时，鼓励AI技术的健康发展，是摆在监管部门面前的重要课题。这需要监管部门具备前瞻性的眼光和灵活的应对策略，才能适应不断变化的技术环境。
展望未来，需要进一步完善AI技术监管的法律法规体系，建立更加科学、合理的监管机制，加强对AI技术的伦理审查和风险评估，并积极引导行业自律，共同构建一个安全、可信、负责任的AI生态环境。这不仅是监管部门的责任，也是整个社会的共同愿景。只有在健康的生态环境下，AI技术才能真正服务于人类，创造更美好的未来。此次“清朗・整治AI技术滥用”专项行动，是迈向这一目标的重要一步，也为后续的AI技术监管工作积累了宝贵经验。未来的AI治理之路仍然漫长而艰巨，但只要我们坚持以人为本的原则，不断完善监管机制，就一定能够驾驭AI技术，让它成为推动社会进步的强大引擎，而不是威胁社会安定的潜在隐患。
发表评论