中央网信办启动2个月专项行动:整治AI生成健康科普谣言等4类问题
IT之家 11 月 6 日消息,为进一步加强科普健康领域网络谣言突出问题整治,营造风清气正网络空间,近日,中央网信办印发通知,在全国范围内部署开展为期 2 个月的“清朗 · 整治科普健康类网络谣言”专项行动。 中央网信办有关负责同志表示,本次专项行动重点整治以下 4 方面突出问题: (一)编造民生健康网络谣言,借机误导
11月6日,IT之家消息,中央网信办近日印发通知,在全国范围内部署开展“清朗 · 整治科普健康类网络谣言”专项行动,为期2个月。行动指向科普健康领域网络谣言突出问题,目标是加强整治、营造风清气正的网络空间。
中央网信办有关负责同志介绍,这次专项行动盯住4方面突出问题:
(一)编造民生健康网络谣言,借机误导网民。
-
其一,打着关注公众健康的旗号,把普通食品、保健品说成“神药”,推销所谓“包治百病”的偏方,散布伪科普内容;还借审美焦虑炮制运动、减重类谣言,比如“黄连素是减肥神药”。
-
其二,故意放大食品、药品、生活用品的副作用,配上吓人的夸张标题,编出“长期服用降压药会使血管变脆”“献血会伤害身体”“味精加热有毒”“蜂蜜结晶不能吃”这类没有科学依据、断章取义的信息,搅动焦虑恐慌情绪。
-
其三,以“科学辟谣”“现代医学真相”为名,抛出“某类食物全是智商税”“某项常规检查完全没必要”“肯定致癌”等绝对化、极端化说法,用“揭露被掩盖的真相”“医生不会告诉你的秘方”之类话术否定权威机构,甚至怂恿自我诊断、拒绝就医,把公众带偏。
-
其四,扛着“古法养生”“古法育儿”“国粹养生”的旗号,宣扬“胎里吃素”“中国人不需要蛋白质”,对传统文化做片面解读乃至恶意歪曲,再借“能量玄学”“命理疗疾”等路子散布封建迷信。
(二)冒用专业身份等,传播伪科学观点。
-
其一,假冒医疗卫生健康等领域专业人士或正规机构人员;离职人员继续沿用原单位和职务信息做认证,违规在网上搞健康科普。
-
其二,造出“国家一级保健师”“国家一级营养师”等头衔,或者穿上专业服装在医院、诊室等场景摆拍,传播毫无科学依据的“食疗”“偏方”。
-
其三,包装假专家、“先知”之类角色,编出“量子赋能”“宇宙能量”等伪科学概念,兜售假冒伪劣产品。
-
其四,借“网红大师”“得道高人”的名头,声称手里有“能量玄学密码”,能治病消灾,利用部分群体的焦虑心理非法牟利。
(三)滥用人工智能技术,生成健康科普谣言。
-
其一,用AI技术批量生产同质化的涉健康科普文案、图片、音视频,制造虚假舆论热点,借机推销产品。
-
其二,通过AI换脸、换声盗用知名专家的形象和声音,做虚假科普、带货。
-
其三,诱导AI大模型生成并扩散虚假“死亡率”“存活率”、不实科学数据等谣言,趁机售卖保健品。
-
其四,用AI伪造权威通报、官方健康提示以及夸大疗效的图片、视频信息,误导网民。
(四)虚构康复案例夸大疗效,通过私域等环节诱骗消费。
-
其一,拿“亲身经历”“患者康复故事”“祖传秘方”“专家私授”当幌子,编造假故事、假康复案例,声称“100% 有效”“永不复发”,再用所谓前后对比图、聊天截图放大功效,把网民引到私信、群聊等私域环节实施诈骗。
-
其二,过分渲染食品、保健养生品等的营养成分,夸大医疗设备的功能作用,借此营销带货。
-
其三,以“专家私域讲课”“会员专享”等作包装,在社群等私域场景里搞虚假宣传,靠送礼品领红包、情感诱导等手段欺骗老年消费者。
IT之家获悉,网信部门将采取以下治理措施:
-
一是加大违规账号和机构查处力度。对生成传播健康科普网络谣言、扰乱网络生态秩序的违法违规账号从严处置。医疗科普等账号的身份资质核验认证要强化,账号资质信息须清晰展示,不得在账号简介处标注“某医院医师”“某领域专家”之类做模糊暗示,医疗科普信息来源也要严格标注。
-
二是加强重点环节管理。科普健康类谣言信息严禁在榜单、推荐等位置推送。建立科普谣言信息关键词库和典型案例库,扩大权威科普内容池,及时打上辟谣标签,并通过弹窗、私信提醒等方式让辟谣信息更好触达用户。
-
专项行动的第三项安排落在平台侧,要求提升AI防治能力。具体做法是督促平台增强对AI生成合成涉科普健康谣言信息的发现、识别与处置能力,同时强化AI换脸、换声、虚拟人形象检测和深度合成鉴伪,让假冒专业领域人员的内容能够被自动化识别出来。
中央网信办有关负责同志要求,各地网信部门要真正把专项行动当回事,把属地管理责任扛起来,部门之间多协同、多联动,拧成一股劲来整治。同时要督促网站平台对照整治重点,盯住关键环节和重点版块,认真查摆自身问题,把漏洞摸清摸透,典型案例要定期向社会公布,用警示形成震慑,让广大网民更容易分辨科普健康领域的网络谣言,做到不造谣、不信谣、不传谣,推动专项行动落到实处、见到效果。