违法与否——有时只隔着一句提示词。
很长一段时间里，大多数人都以为造假是一门“专业人士的游戏”。它需要小众的技术、昂贵的硬件，以及行业内部的人脉网络。造假者被想象成潜伏在灰色地带缝隙中的阴影人物——神秘、危险、似乎毫无道德底线；他们离普通人的生活很近，却又远到显得不真实。
但从今年开始，很多人明显感觉到了一种变化。
11 月，毛绒玩偶商家于瑾，第一次遭遇了“AI 假图仅退款”。在商品送达一周后，一名买家提交了仅退款申请，并附上了一张作为佐证的照片。店铺客服以“人为损坏”为由驳回了申请，买家随即申请平台介入，最终成功拿回了 50 元。
但那张照片里，有一个明显不合理的地方：在本该柔软的布料裙边上，出现了类似陶瓷裂纹一样的坚硬断裂痕迹——那种只会出现在瓷器上的裂缝，而不是布料上。于瑾几乎可以肯定，这是一张 AI 生成的假图。她把这件事发到社交平台吐槽。后来，在媒体介入后，平台选择自掏腰包，把这 50 元返还给了于瑾。而那位使用 AI 假图的买家，却悄然消失，没有任何后果。
也是在那一刻，于瑾意识到，真正发生变化的是什么：AI 极大地降低了恶意退款的成本。只需要一部手机、一句提示词，就能生成一张“以假乱真”的损坏照片，骗到退款，再把商品挂到二手平台转卖。“几乎不需要付出什么成本，”她说，“也基本不会受到惩罚。”
今年更早的时候，公关从业者齐云也遭遇了类似的冲击——只是发生在另一个战场。他所服务的一家上市公司，被一篇 AI 生成的黑稿攻击。文中的“细节”离谱到让他不敢相信竟然会有人当真。但受限于平台规则，他和同事仍然不得不花整整两天时间，对文章中的每一个细节逐条举证、盖章、申诉，最终才让这篇很可能只花了几十秒生成的内容被删除。
齐云在公关行业已经工作了十多年。过去，他说，争议至少是基于事实的，是一种智力层面的博弈。而现在，面对 AI 以及 AI 编造出来的谣言，他只感到被冒犯、愤怒，却又常常无可奈何。
这正是过去三年生成式 AI 爆发式增长中，较少被讨论的一面。AI 大模型在文字、图片、视频、音频生成上的能力突飞猛进，几乎任何人都可以零门槛、零成本地使用这些工具。使用者中，当然有 AIGC 艺术家和科技爱好者，但同样也包括羊毛党，以及靠流量吃饭的内容工厂。
结果并不意外：造假变得越来越便宜、越来越容易；参与其中的人越来越多——无论是有意还是无意；而平台的审核机制却依然滞后，仍然高度依赖简单的比对和标签。受害者被欺骗、被拖累，不仅要经历漫长的纠纷，还要付出比造假成本高出成千上万倍的代价来“自证清白”。当造假变成一件低成本、低风险、高回报的事情，越来越多的普通人就会被诱惑加入其中，共同塑造一个充斥着虚假信息的世界。
学会识别 AI 假图：从零到生存技能
最初，于瑾店里没有任何人怀疑过买家发来的那张照片。
11 月 17 日，在玩偶送达一周多之后，客服收到了仅退款申请和一张佐证图片。照片里，粉色的毛绒玩偶显得脏兮兮的，裙摆边缘像是被火灼烧过。客服把图片发到工作群里，大家一致认为这是人为损坏。“可能是掉进泥里了，或者掉进火里了。”于瑾回忆说。
于是，店铺按流程向买家解释：发货全程有监控录像，商品保证全新；收货后的损坏不属于质量问题，因此不支持仅退款。买家并不接受，直接申请平台介入，并在当天就拿到了 50 元赔偿。
于瑾认定，这是一次恶意退款。几乎所有电商商家都遇到过类似情况。通常，买家给出的理由是开线、勾丝等问题，而这次显然不同。被扣款后，于瑾立刻准备申诉材料。这时，一位同事随口的一句话提醒了她——这张图越看越不对劲，像是 AI 做的。
为了确认，她找了从事 AI 相关工作的朋友帮忙鉴定，结果显示存在 AI 痕迹；她又询问了 AI 助手，对方同样提示图片经过 AI 修改，并指出“裂纹纹理过于规整，缺乏真实材质的物理逻辑”。
这是她第一次遇到这种情况。她整理好证据再次申诉，但平台并未采纳，驳回了请求，50 元依旧退到了买家账户。对商家来说，这意味着几乎唯一的维权通道失效了。
无计可施之下，于瑾把经历发到了社交平台，希望提醒同行。也正因此，媒体找到了她，协助平台最终将款项返还。
但她并不开心。“这种造假根本没什么技术含量，”她说，“任何一张图给 AI，它都能帮你改。作恶的成本太低了，就算被发现，也不会有什么后果。”
她很清楚，这次平台垫付退款，并不意味着买家的钱被追回。折腾一圈下来，她作为商家耗费了大量精力，只换来一肚子不快；而造假者则实际支付了 167 元，拿回了 50 元，还到手了一个标价 179 元的玩偶。
“双 11”期间，类似案例被密集报道，“AI 假图”“仅退款”等关键词频繁登上热搜，刺激着商家的神经。但即便如此，仍然有人选择铤而走险。
11 月 21 日，键盘商家柑橘收到了一位买家的仅退款申请，对方同样上传了“佐证图片”。此时，距离商品签收已经过去了半个月。柑橘一眼就看出，这张图是 AI 生成的——构图、背景、光影，和买家在签收第三天发布的评价图一模一样，只是键帽被“加工”成了开裂、污渍、变形的状态，夸张到离谱。
她将对比证据提交给平台。这一次，平台没有草率处理，而是驳回了买家的申请，关闭了退款通道。
通过收件人信息，柑橘很清楚，自己面对的并不是一个老练的羊毛党，而是一名普通大学生。使用 AI 假图仅退款的人，第一次具象化了。
在许多老电商人心里，职业羊毛党至少还是一个有套路、有话术、有明确牟利目标的群体。而现在，一个原本和灰产毫无关系的普通人，只需要一个免费应用、几句提示词，就能生成一整套足以骗过平台审核的“证据链”；退款成功后，再把商品挂到二手平台卖掉，顺手再赚一笔。
对商家来说，这种变化带来的不仅是损失，更是一种陌生的无力感——你根本来不及防。
AI 正在突破造谣的想象力
电商平台上的 AI 假图仅退款，只是冰山一角。
随着 AI 大模型在生文、生图、生视频、生音频四个方向逐渐成熟并普及，过去只有专业团队才能完成的造假行为，如今被压缩成任何人都能上手的简单操作。一个普通用户，可以用文生图生成“商品损坏照”，也可以用文生视频合成“目击现场”；生成只需几秒钟，但在平台上的可信度却几乎不输真实内容。
这不是某一个技术漏洞，而是一整套由无数轻量化工具构成的造假矩阵。就像电商商家正在经历的那样，内容行业也在承受类似冲击：名人被 AI 换脸带货却投诉无门，MCN 机构用 AI 批量造谣，企业被源源不断的 AI 黑稿攻击……
“以前造谣要靠人的想象力，一个人一天最多编一两个。”齐云说，“AI 可以几秒钟，在一篇文章里编十个。”
大约半年前，在一次日常舆情监控中，他发现了一篇公众号文章。乍一看像是正经新闻，读下来却荒谬至极。文章写道，他所服务公司的董事长办公室墙上挂着 K 线图，还捏造了财务总监的发言。
“离谱得很。”齐云说，“我们董事长办公室根本没有图，财务总监也不是那个人。”但文章依然被堂而皇之地发布，并引发了不少讨论。
在他看来，典型的 AI 黑稿有一个特征：细节丰富，却完全虚构，相对容易识别。更危险的是那些真假混杂、人机共写的内容。对黑稿生产者来说，AI 只是工具——过去靠人工，写财经稿至少要懂点东西，一天只能产出一两篇；现在有了 AI，成本更低、效率更高，但人还是那批人。
这些灰产正在把 AI 嵌入商业模式，形成更顺滑的利益链条。一条链路，用 AI 黑稿倒逼企业投广告：黑稿越多、越难辟谣，企业越焦虑，就越容易花钱“消灾”。
另一条链路，用 AI 黑稿给投资群引流、卖课。标题越耸动，内容越“像内幕”，越容易吸引想抓风口的人。AI 可以瞬间生成一批“重大利好 / 利空”的假截图、假分析，塑造出几个“股神”人设，把流量从公域导入私域，再通过卖课、咨询变现。
类似的模式还有很多。2024 年 6 月，央视新闻报道，一家 MCN 机构利用 AI 自动抓取信息、生成图文，并包装成博眼球的“假新闻”进行流量变现，日均生成 4000–7000 篇内容，每天收入超过 1 万元。
甚至在商业灰产之外，AI 造假也开始向“随手试试”的方向扩散。上个月底，小鹏汽车就遭遇了一起典型案例：一段以广州车展小鹏展台为背景的低俗视频在网络传播，画面中的人物服装、光影与展台几乎无缝衔接，不少网友信以为真。最终警方确认，该视频由一名男子利用 AI 技术生成，仅仅是“为了炫耀个人技术”，并非真实事件。
这正是让人不安的地方：AI 已经把造假的门槛，降到了几乎与好奇心齐平的位置。只需要一次尝试、几句提示词，每个人都可能成为“造假者”——不一定出于恶意，而是因为太容易、太便利、几乎没有成本，也因为“反正不会怎样”的心理。
平台机制，跟不上 AI 灰产的节奏
生成式 AI 的普及，正在把造假变成一种零门槛、近乎零成本的日常行为。
对大多数 AI 助手来说，它并不“认为”自己在协助造假。如果你问一句：“能不能让这张照片里的橙子看起来像坏了一样？”它可能会很贴心地给橙子加上霉斑，甚至主动问你要不要再生成一段配套视频。
与这种轻松制造虚假的能力形成鲜明对比的，是平台审核机制的滞后。
为了处理那篇离谱的 AI 黑稿，齐云和同事前后忙了整整两天。第一次，他们提交了加盖公章的投诉函，失败；第二次，他们针对文中每一条虚假信息逐条反驳、举证。仅仅说“我们公司的财务总监不是这个人”还不够，还必须写清楚真正的财务总监是谁，并附上交易所公告的签名截图。
整个过程既繁琐又令人崩溃。“你造我的谣，我还得给你举证。”齐云愤懑地说，“我没说过这句话，我要怎么证明我没说过？董事长办公室没有那张图，难道我要进去拍一张？就算我拍了，你又怎么证明那真的是董事长办公室？”
报警或起诉则更不现实。他直言，一家上市公司的法务团队可能只有六七个人，AI 黑稿铺天盖地，逐条走法律流程，根本不可能。对绝大多数企业来说，诉讼并不是可行选项。
在这种失控感中，齐云意识到，平台并没有跟上 AI 灰产的节奏。“我不懂技术，”他说，“但我觉得技术公司应该有能力判断什么是 AI 生成的内容。”
目前，各大平台对 AI 生成内容的管理，主要还是“打标签”：对用户上传的 AI 图片、视频，在角落标注“AI 生成”；但对文字内容，除平台自带的 AI 总结、AI 搜索工具外，用户自行发布的文字，几乎不会被标识是否由 AI 生成。
AI 生成文本，成了平台治理的真空地带，也更难识别。即便是在学术领域，用于检测“AI 率”的工具，今年毕业季也引发巨大争议，被质疑误判严重、并不可靠。
当 AI 批量生产内容，信息生态的失衡愈发明显。“高质量内容被淹没了。”齐云说。在专业圈层，人们还能手动筛选；但在大众信息池里，算法更容易推送那些低成本、高刺激、可复制的 AI 内容。大量低质 AI 内容，正在把真实信息挤进越来越狭窄的缝隙。
齐云坦言，自己曾经喜欢和人基于事实讨论。哪怕是负面稿件，也是一种智力较量。但现在，面对 AI 编造的谣言，他只觉得智商被侮辱——你甚至不知道该怎么反驳，怎么证明它就是胡说八道。“你不会把它当成一个合格的对手，只会很生气。”
最终，齐云选择了转岗。他说，现在一个公关，整天琢磨的是怎么跟平台打交道，怎么写投诉最有效，怎么利用算法限制传播，这已经完全不是他当初入行时的工作。
但不是每个人都能转身离开。更多的受害者，生活还要继续，工作流程无法暂停。一边是随手就能生成的虚假内容，一边是日复一日的自证与申诉。原本该由技术解决的问题，被悄然转嫁给了个体。
当 AI 把造假的成本压到历史最低，又反向把维权成本推到新高，中间的缝隙，成了个体的犹豫与试探。造假开始与每个人的选择纠缠在一起。当一张假图、一段假视频、一篇假文章都能被轻易生成，当违法与不违法之间只剩下一句提示词的距离，“能不能”与“该不该”开始混在一起。
真与假的界限，不再只由事实决定。
而是，由人决定。
