“3·15”曝光AI“投毒”背后:GEO是什么?对专业媒体是好消息?
几天前中央广播电视总台“3·15”晚会曝光了AI大模型“投毒”现象。
不法商家利用GEO(生成式引擎优化)方式,凭空虚构一款智能手环,并杜撰“量子纠缠传感”“黑洞级续航”等虚假参数,批量生成十几篇测评文章发布到自媒体。几小时后,多个主流AI大模型在回答相关问题时,将这些完全虚假的信息作为“标准答案”输出,不仅煞有介事地推荐该手环,还给出购买建议。
一款凭空捏造的商品,就这样被推向了消费者。
GEO到底是什么?大模型为何轻易被“投毒”?由AI大模型普及带来的内容生态变革,对主流媒体来说又意味着什么?
