给AI大模型“投毒”:“如果有人可以保证效果,那一定是在骗人”

让他万万没想到的是,来电话的并非要求退单的客户,而是一拨又一拨前来询问的新客户。

“这些临时拼凑的内容,按理搜索评分很低,不应进入答案,但却被选中。如果使用成熟的搜索引擎,会优先采信可信来源。”

“AI回答里加入广告让我感到特别不安,我认为广告是我们商业模式的最后手段”。

责任编辑:顾策

看完央视3·15”晚会后,欧博东方CEO陈峥一度担心会引发客户恐慌。

2026315日,央视3·15”晚会曝光了GEO行业,通过在网上系统性、定向投放大量虚假信息给大模型喂料投毒,从而操控大模型的答案。

所谓GEO,中文又称生成式引擎优化,通过技术手段,让某个品牌、产品或信息源更容易被写进大模型答案,从而获得流量和影响力。

陈峥连夜召集团队开会制定了应对方案。欧博东方在2024年从跨境电商转型进入GEO领域,是国内最早一批GEO公司之一。

316日这天,陈峥的电话从早响到晚。让他万万没想到的是,来电话的并不是要求退单的客户,而是一拨又一拨前来询问的新客户。

下午4点,接到南方周末记者电话时,陈峥掩饰不住好心情,没想到3·15晚会送了我们一个惊喜。随后,他发来了一张GEO概念股的股票走势图,今天GEO概念股全部上涨

过去很长一段时间,陈峥都要花费大量时间向企业解释GEO到底是什么,3·15晚会帮忙完成了一次全民科普

陈峥承认,行业确实有不少乱象,甚至有从业者的操作比节目中曝光的行为还要恶劣,“投毒”只是“一部分人念歪了经”。

GEO(生成式引擎优化)参考的是SEO(搜索引擎优化),在大模型逐渐取代搜索引擎成为新的流量入口,GEO通过让大模型的回答更加有利于自己的品牌来获取流量

GEO诞生至今,不过两年时间,广告主们大多处于观望中。陈峥和他的同行们都很苦恼,不知道该如何说服广告主们相信GEO操控大模型答案的魔法。3·15晚会曝光了行业“投毒”乱象的同时,也为“魔法”提供了真实案例。

可当下行业普遍情况是并没有这样的“魔法”当广告主花三五万年费包下一个GEO词条之后,最终得到的只有几张出现企业品牌名称的大模型回答截图。

当广告主再去向大模型询问同样的问题,类似的回答再也没有出现。GEO公司则会解释,“算法每天都在变”。

当所有人都开始拥抱AI时,这个新的流量入口就存在被商业利益侵蚀的可能。视觉中国 图

搜索引擎才是罪魁祸首

央视3·15 晚会中,一款虚构的Apollo-9智能手环竟出现在大模型推荐列表中,甚至复用了量子纠缠传感”“黑洞级续航等造假话术。

那么,这些虚假信息是怎样溜进大模型的回答里

202211月,OpenAI发布ChatGPT时,它还是一个离线模型,无法联网,知识截止于20219月。回答完全由训练数据决

登录后获取更多权限

立即登录

校对:星歌

欢迎分享、点赞与留言。本作品的版权为南方周末或相关著作权人所有,任何第三方未经授权,不得转载,否则即为侵权。

{{ isview_popup.firstLine }}{{ isview_popup.highlight }}

{{ isview_popup.secondLine }}

{{ isview_popup.buttonText }}