在大多数AI聊天机器人程序中，内容审查和过滤机制相对滞后。其中一些程序甚至在这方面几乎空白，任由诸如色情、自杀等敏感话题泛滥 （本文首发于南方人物周刊）

“如果我身边的男性进了群，他们会用我的名字建一个‘张尼扬羞辱房’，在里面发布与我有关的‘深伪’照片和羞辱内容。”张尼扬告诉南方周末记者，很多女生的照片、信息是被身边的男友、男同事或男家属泄露的。 在那间22万群友的巨型“羞辱房”中，群主设定了一套盈利模式。所有人都成了大型羞辱房的合谋。“羞辱房内，获取色情内容的方式有两种，一是拿钱买，二是彼此分享。” 女权网络组织对法院的判决力度不满、厌倦了社会的不公正，决定在互联网上将韩国新一轮性剥削事件推广到全球。“我只允许生理性别为女性的人加入。” 截至2024年9月18日，韩国已接到八百多起与深伪相关性犯罪报警，警方已经逮捕387人，其中八成是青少年。过去三年的警方调查中，六成受害者是未成年人。

群聊消息每天更新上千条，内容多为女性的生活照、自拍、裸照等。不少上传者会炫耀自己与照片中女性的关系：“朋友”“表妹”“妻子”“女儿”……关系越亲密，他们收到的评论回复往往会更多。 林柔的遭遇引发关注后，李南发现“盯射Chat”群成员“一点没有感到害怕”。他猜测，群成员可能认为群内行为不算严重。他曾在群里见到有人讨论，说这“只会涉及肖像权而已”。 “类似色情网站、群组都比较隐蔽，反侦查能力比较强。”律师韩骁解释，这类网站会不定期更换网址，在举报后还是会有新网址出现，服务器也多设在国外，难以从根源进行铲除。

以所谓“酷”的名义输出涉及暴力、色情的内容，会对儿童的心理产生严重的负面影响，甚至有可能对儿童产生误导，引诱他们模仿。

互联网成为恋童内容的传播温床。在淫秽内容受到严厉打击的情况下，有一些人试图打擦边球，搞“软色情”。对于涉及儿童的“软色情”内容也必须严厉打击。

“上线10天，注册用户突破400万”、“上线7天，融资1.5亿”……由罗永浩的锤子科技投资的子弹短信APP来势汹汹，竞争对手直指微信。但一个月后，该APP却被网友举报不断被色情内容骚扰。

以网络游戏含有禁止内容、网络游戏宣传推广含有禁止内容等违规经营活动为监管执法重点，文化部近期指导北京、天津、安徽、湖南等地文化执法部门查办宣扬色情、赌博、违背社会公德等禁止内容类网络游戏案件20件。

近日，土豆、优酷、爱奇艺、乐视、搜狐、酷米、腾讯视频等多家动漫网站因提供涉嫌暴力色情等内容的网络动漫产品，乐视网也因此自2015年4月1日开市起停牌。

国家网信办负责人介绍，据群众举报并核实，迅雷弹窗服务传播色情低俗及虚假谣言信息，特别是“资讯”栏目中相关信息尤为集中，影响十分恶劣。为规范弹窗服务，遏制利用弹窗传播淫秽色情及低俗信息行为，目前，迅雷资讯弹窗服务已被关停。

近日，文化部通报了第二十二批违法违规互联网文化活动查处情况。“腾讯动漫”等21家网站，因宣扬色情暴力内容被查处，此外，针对某些动漫网站设置的“吐槽”功能，而没有对内容进行限制和过滤，将加大查处力度。