AI工具进军“杀猪盘”：要求对AI生成内容进行标注难在哪儿丨快评
在AI技术日新月异的今天，生成式内容“以假乱真”的范围势必更广，“效率”势必也更高。不妨做个简单的思想实验：如果高效高频的AI生成内容可以快速获取流量与关注，从而为平台方与从业者带来巨大利益的话，他们恐怕并没有多少意愿进行信息标注。而对那些并非大公司的“独狼式”AI模型而言，AI技术滥用乃至用于诈骗，其潜在破坏性是巨大的，监管也不能完全寄希望于自律。
责任编辑：陈斌
人工智能的飞速进步，继续引发争议与担忧。据媒体近期报道，东南亚犯罪集团已经在网络诈骗活动中开始使用生成式人工智能聊天机器人，有“换脸软件公司”甚至已经推出了“7天24小时支持、送货上门服务”，并声称已在一千多个区域安装了其产品。不过AI对诈骗业务似乎“还不大熟练”，在发送消息时不打自招说“我是一个语言模型，还不大擅长描绘情绪与感受”。
以“杀猪盘”为代表的诈骗活动早已有之，只不过载体时有变动，从短信诈骗到电话诈骗到社媒交友诈骗，不一而足。在以往的诈骗活动中，犯罪团伙需要雇用大量熟稔诈骗话术、洞察人性心理的“狗推”也就是人工从业者，以婚恋、投资、博彩等诱饵诱骗受害者一步步上当，榨取他们的巨额钱财。
而更为常见的诈骗场景源于信息泄露。一旦自然人的各项个人信息泄露，犯罪团伙就可以用这些信息打造一个“还原度”极高的数字人，模拟被
登录后获取更多权限
校对：胡晓
欢迎分享、点赞与留言。本作品的版权为南方周末或相关著作权人所有，任何第三方未经授权，不得转载，否则即为侵权。