治理“AI造谣”，不妨“用AI对抗AI”
要以更快捷的方式“跑赢”谣言。面对AI谣言的精准化传播、智能化扩散，不妨探索“用AI对抗AI”。近年来，部分互联网内容平台已建立辟谣机制，相关部门也协同联动，快速发布调查和处置结果，回应社会关切。未来还应对算法推荐、日常监测、线索收集等技术和机制进一步优化提升，从而更迅速、精准地推送辟谣信息，使更多真实、有价值的信息“跑”在谣言之前。
近期，多地公安机关公布多起利用AI 工具实施造谣的相关案件。6月20日，上海市公安局城市轨道和公交总队发布警情通报：有营销人员为博取关注，使用AI 软件生成“上海地铁行凶”虚假视频在网上发布，造成恶劣社会影响。此外，“西安突发爆炸”“济南一高层住宅楼起火，多人跳楼逃生”等耸人听闻又广泛传播的“新闻”，均被查实是AI软件炮制的谣言。造谣的动机主要是获取互联网内容平台给予创作者的点击量、阅读量奖励，以及为电商平台经营引流等。说到底，还是为了钱。
在不断迭代的生成式AI技术面前，“眼见为实”“有图有真相”正在被挑战。从相关案件看，不法分子利用最新AI技术生产的谣言，足可“以假乱真”，迷惑性极强。人工智能还能根据传播渠道特征，实施个性化的谣言生成，并面向特定受众快速、精准投放，由此造成针对个人或特定群体的诽谤中伤、信息泄露、危害人身安全等事件时有发生。
对网络谣言治理来说，更大的挑战在于便利的AI工具大大降低了造谣成本，提升了谣言的数量级和传播力，造谣呈现出门槛低、批量化、识别难的特点。检索互联网，诸如“图文创作，AI自动写文章，单号轻松日产500+，可多号操作，小白轻松上手”“无需洗稿，AI一天100篇原创”之类的广告文章层出不穷，吸引别有用心者参与其中，也催生了灰色产业链加速形成。与此同时，为了核实真假难辨的信息，相关机构和个人不得不投入人力物力，消耗大量社会成本； 一些谣言不仅给受害方造成精神伤害，也对社会经济运行带来不小损失。以上种种，使我们必须高度重视AI技术的“双刃剑”特征，采取坚决行动，保持高压态势，最大程度地遏制不法行为。
要以更有力的手段去病除害。一些互联网内容平台奉行“流量至上”，放任假新闻、“标题党”、争议性话题传播，为AI谣言的大行其道提供了不良土壤。应该清醒看到，虚假信息传播带来的流量不可能长久，天下也绝不会有无本万利的生意。平台应首先压实主体责任，对包括AI造谣在内的虚假信息传播迅速识别并切断其传播链、利益链，进一步优化涉及AI内容的流量分发和收益分成机制，压缩别有用心者生产谣言的牟利空间。有关部门也要依法亮剑，猛药去疴，严厉打击制造虚假新闻的个人和机构，在网络空间架起禁止AI造谣的高压线。
要以更快捷的方式“跑赢”谣言。面对AI谣言的精准化传播、智能化扩散，不妨探索“用AI对抗AI”。近年来，部分互联网内容平台已建立辟谣机制，相关部门也协同联动，快速发布调查和处置结果，回应社会关切。未来还应对算法推荐、日常监测、线索收集等技术和机制进一步优化提升，从而更迅速、精准地推送辟谣信息，使更多真实、有价值的信息“跑”在谣言之前。
要健全法治引领技术向善。如何让人工智能循着以人为本和技术向善的方向发展，监管之外离不开法治的保障。目前，我国已颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律，但针对AI领域的司法治理仍有进一步细化空间。只有通过立法为AI开发和使用划定基本底线，明确各方权责，才能从源头防范风险，避免“先污染后治理”的被动局面。
◎据新华每日电讯
近期，多地公安机关公布多起利用AI 工具实施造谣的相关案件。6月20日，上海市公安局城市轨道和公交总队发布警情通报：有营销人员为博取关注，使用AI 软件生成“上海地铁行凶”虚假视频在网上发布，造成恶劣社会影响。此外，“西安突发爆炸”“济南一高层住宅楼起火，多人跳楼逃生”等耸人听闻又广泛传播的“新闻”，均被查实是AI软件炮制的谣言。造谣的动机主要是获取互联网内容平台给予创作者的点击量、阅读量奖励，以及为电商平台经营引流等。说到底，还是为了钱。
在不断迭代的生成式AI技术面前，“眼见为实”“有图有真相”正在被挑战。从相关案件看，不法分子利用最新AI技术生产的谣言，足可“以假乱真”，迷惑性极强。人工智能还能根据传播渠道特征，实施个性化的谣言生成，并面向特定受众快速、精准投放，由此造成针对个人或特定群体的诽谤中伤、信息泄露、危害人身安全等事件时有发生。
对网络谣言治理来说，更大的挑战在于便利的AI工具大大降低了造谣成本，提升了谣言的数量级和传播力，造谣呈现出门槛低、批量化、识别难的特点。检索互联网，诸如“图文创作，AI自动写文章，单号轻松日产500+，可多号操作，小白轻松上手”“无需洗稿，AI一天100篇原创”之类的广告文章层出不穷，吸引别有用心者参与其中，也催生了灰色产业链加速形成。与此同时，为了核实真假难辨的信息，相关机构和个人不得不投入人力物力，消耗大量社会成本； 一些谣言不仅给受害方造成精神伤害，也对社会经济运行带来不小损失。以上种种，使我们必须高度重视AI技术的“双刃剑”特征，采取坚决行动，保持高压态势，最大程度地遏制不法行为。
要以更有力的手段去病除害。一些互联网内容平台奉行“流量至上”，放任假新闻、“标题党”、争议性话题传播，为AI谣言的大行其道提供了不良土壤。应该清醒看到，虚假信息传播带来的流量不可能长久，天下也绝不会有无本万利的生意。平台应首先压实主体责任，对包括AI造谣在内的虚假信息传播迅速识别并切断其传播链、利益链，进一步优化涉及AI内容的流量分发和收益分成机制，压缩别有用心者生产谣言的牟利空间。有关部门也要依法亮剑，猛药去疴，严厉打击制造虚假新闻的个人和机构，在网络空间架起禁止AI造谣的高压线。
要以更快捷的方式“跑赢”谣言。面对AI谣言的精准化传播、智能化扩散，不妨探索“用AI对抗AI”。近年来，部分互联网内容平台已建立辟谣机制，相关部门也协同联动，快速发布调查和处置结果，回应社会关切。未来还应对算法推荐、日常监测、线索收集等技术和机制进一步优化提升，从而更迅速、精准地推送辟谣信息，使更多真实、有价值的信息“跑”在谣言之前。
要健全法治引领技术向善。如何让人工智能循着以人为本和技术向善的方向发展，监管之外离不开法治的保障。目前，我国已颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律，但针对AI领域的司法治理仍有进一步细化空间。只有通过立法为AI开发和使用划定基本底线，明确各方权责，才能从源头防范风险，避免“先污染后治理”的被动局面。
◎据新华每日电讯