
AI火了,乱象也跟着来了——有人用AI伪造名人视频骗流量,有人拿它批量生产虚假新闻,还有人用它搞网络水军。现在终于有了专门的“举报窗口”。
这个月,中央网信办举报中心正式上线了“涉AI应用乱象举报专区”,配合“清朗·整治AI应用乱象”专项行动,面向所有网民开放投诉渠道。说白了,就是给你一个官方渠道,遇到AI相关的糟心事,直接点进去举报。
专区一共受理14类违规问题,分成两大块。
第一块是AI应用服务本身出问题。比如:大模型没通过备案就上线、平台安全审核形同虚设、训练AI用的语料藏着安全隐患、有人故意往数据里“投毒”让模型学坏、合成的图片视频不标注来源、滥用AI技术干违法的事,还有开源模型管理混乱导致被人拿去干坏事。
第二块是AI生成的内容乱象。更贴近普通人的感受:用AI篡改经典作品,产出粗制滥造的信息;编造和传播假新闻、假图片;仿冒他人形象或声音干坏事;制作暴力、低俗内容;侵害未成年人权益;利用AI当网络水军刷评论、刷流量;还有一些AI产品本身违规运营。
官方喊话广大网民积极参与监督,发现这14类问题就赶紧举报。毕竟AI技术跑得太快,光靠平台自查不够,大家的眼睛才是最好的“巡查员”。这场整治行动,本质上是想让AI产业别跑偏——技术再牛,也不能乱来。