人工智能（AI）的飞速发展，如同双刃剑一般，在深刻改变我们生活的同时，也带来了前所未有的挑战。AI换脸、AI拟声等技术的日益成熟，原本应服务于社会进步，却因滥用而频频引发社会问题，个人隐私、社会秩序，甚至公共安全都面临着潜在威胁。这些技术被恶意利用，轻则造成名誉侵权，重则演变为敲诈勒索等犯罪行为，严重侵蚀着公民的合法权益。规范AI服务和应用，促进其健康有序发展，已成为刻不容缓的任务。
面对AI技术滥用带来的乱象，监管部门正积极探索和实践有效的治理方案。早于2025年，中央网信办就敏锐地意识到了问题的严重性，并于当年4月启动了为期三个月的“清朗・整治AI技术滥用”专项行动，旨在规范行业发展，保障公民合法权益。该行动的开展，标志着我国在AI治理方面迈出了坚实的一步。
专项行动聚焦AI技术滥用的三大突出问题，采取了针对性的整治措施。首先，针对AI换脸、拟声等技术侵犯公众权益的问题，行动采取了严厉打击措施。网信部门利用技术手段和人工审核相结合的方式，对利用AI技术制作的侵权内容进行全面清理，并对相关平台和账号进行严肃处罚，以震慑违法犯罪行为，维护公众人物和普通公民的合法权益。其次，专项行动重点关注AI内容标识缺失导致的公众误导问题。由于AI生成内容的真实性难以辨别，缺乏明确的内容标识容易使公众产生误解，甚至被用于传播虚假信息，引发社会恐慌和信任危机。因此，专项行动要求平台加强对AI生成内容的标识管理，确保用户能够清晰地识别内容的来源和性质，从而提升公众的辨别能力和信息素养。最后，专项行动还加强了对AI应用程序和智能体的监管，清理了大量违规产品，切断了违规产品的营销引流渠道，从源头上遏制了AI技术滥用现象的蔓延。
在专项行动的推进过程中，中央网信办充分发挥了统筹协调的作用，采取了多项有效措施，构建了全社会共同参与治理的良好氛围。一方面，通过建立“用户身份识别、平台审核、联合处理”的工作流程，鼓励用户积极参与举报，使众多网民成为AI技术滥用乱象的监督者和举报者。北京市网信办的经验表明，这种模式能够有效推动用户参与，充分发挥人民群众的力量。另一方面，各地网信部门与平台企业紧密合作，共同开展整治工作。例如，微博通过策略识别、用户举报等多渠道审核，累计处置违规内容4800余条，并公布典型案例，起到了警示作用。京东则新增了100个AI特征敏感词，拦截违规内容，体现了平台企业在AI技术监管方面的积极配合。这种政企合作的模式，充分发挥了双方的优势，提高了整治效率和效果。
展望未来，AI技术的应用场景将更加广泛，对社会的影响也将更加深远。除了AI换脸、拟声等已经暴露出的问题，诸如AI深度伪造、AI驱动的网络诈骗、以及AI算法歧视等潜在风险也需要引起高度重视。因此，监管部门需要不断创新监管方式，提升监管效能，以适应新的挑战，确保AI技术更好地服务于社会发展和人民福祉。例如，可以探索建立AI伦理委员会，制定更加完善的AI伦理准则和技术标准；加强对AI算法的审计和评估，防止算法歧视和偏见；推动AI技术的透明化和可解释性，提高公众对AI技术的理解和信任；加强国际合作，共同应对AI技术滥用带来的全球性挑战。同时，也需要重视对AI技术人才的培养，提高全社会的AI素养，从而更好地利用AI技术，促进经济发展和社会进步。
截至目前，“清朗・整治AI技术滥用”专项行动第一阶段已经取得显著成果。据统计，累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，并对3700多个违规账号进行了处理。这些数据充分表明，专项行动在遏制AI技术滥用乱象、维护网络空间秩序方面发挥了重要作用。此次行动并非一蹴而就，而是一个持续推进的过程。中央网信办将继续加强AI技术监管，完善监管机制，推动AI技术的健康发展，为构建清朗、安全、有序的网络空间贡献力量。
“清朗・整治AI技术滥用”专项行动的开展，是我国在AI治理领域的重要探索，它不仅有效遏制了AI技术滥用乱象，维护了网络空间秩序，也为未来的AI治理提供了宝贵的经验。随着AI技术的不断进步和应用范围的不断扩大，我们有理由相信，在监管部门、平台企业和社会各界的共同努力下，AI技术必将更好地服务于社会发展和人民福祉，为构建一个更加美好的未来贡献力量。
发表评论