AI 闯的祸，要你的品牌来赔

前几天，我把一个案子翻出来，又看了一遍。

2024 年年初，加拿大航空吃了官司。起因说来有点哭笑不得：一位乘客的亲人去世了，他要坐飞机去奔丧。买票前，他在官网上问客服机器人：听说有丧亲票价，能不能先买全价票，之后再申请差价退还？

机器人说，可以。你买了票，90 天之内申请就行。

他真买了。然后去申请退款。

航司说：查无此政策。

乘客把聊天记录拍在桌上。仲裁庭最后判了：航司赔。理由很硬——那个机器人，是你官网上的机器人。它说的话，你负责。

AI 在你的官网上说的每一句话，法律上都算你说的。

这件事之后，我把这两年营销圈用生成式 AI 的事，翻来覆去想了一遍。想明白一件事：AI 是营销人的加速器，但踩不好，它就是你亲手埋的雷。

先说好话。

这台机器，真的很能干

什么叫生成式 AI？

就是能"无中生有"的 AI。你给它一句话，它给你写文章、画图、做视频。ChatGPT、Google 的 Bard、Anthropic 的 Claude、Meta 的 Llama 2，都是这一类。各家脾气还不一样：ChatGPT 什么都能聊，Bard 擅长接实时数据，Claude 打死不说出格的话，Llama 2 开源，随你拿去改。

用在营销上，它有三把刷子。

第一把，写东西。文章、社媒帖子、产品描述、邮件文案，量产。亨氏让 AI 画番茄酱瓶子，画出来的海报自带话题。Mango 用 AI 生图撑起整个营销活动的素材，成本降了，创意没丢。可口可乐玩得更野，2023 年联合 OpenAI 和贝恩咨询搞了个"Create Real Magic"平台，让数字艺术家用品牌的经典素材创作原画；2024 年又用 AI 重制了那支经典的"Holidays Are Coming"圣诞广告。

第二把，千人千面。耐克的"By You"，让用户用 AI 工具自己设计鞋。每个人设计出来的，都是独一无二属于自己的那双鞋。这种参与感，广告费买不来。

第三把，算账。AI 能从数据里读出你读不出的东西。Ben & Jerry's 用 AI 分析数据，摸清消费者的口味偏好，然后照着数据开发新口味冰淇淋。Salesforce 把 Einstein GPT 塞进了 CRM，销售还没开口，系统已经告诉他这个客户大概想要什么。

太强了。效率、创意、个性化，全都有了。

但是。

凡事总有反面。

它也会一本正经地胡说八道

什么叫 AI 幻觉？

就是 AI 生成了看起来很像真的、其实是编的内容。流畅，自信，有鼻子有眼。就是假的。

为什么？

你想想看，大语言模型的本事，是从海量互联网文本里学"接话"。它不是在查资料，它是在猜：下一个词，说什么最顺？

注意，是"最顺"，不是"最对"。

它天生就不会说"我不知道"。

这就是幻觉的根。拆开看，两个原因。

一个是数据脏。模型吃的训练数据，基本就是整个互联网。互联网上有什么？有错误，有过期信息，有谣言，有偏见。垃圾进，垃圾出。模型不但会复述这些错误，还会把它们放大。

另一个是架构的锅。模型靠统计规律说话，它并不真的"理解"自己在说什么，更没有一道"这事是真的吗"的核对程序。所以它可以语气笃定地，把一个不存在的事说得头头是道。

你把它想象成一个特别会聊天的同事。知识面广，口才好，反应快。但他答题全凭印象，而且从不承认自己不确定。

你敢把他写的报告，直接发客户吗？

这三个坑，每个都够你喝一壶

坑一，品牌翻车。

2023 年，一个做奢侈品手表的营销团队，用 AI 排期发布社媒内容。AI 把手表广告和假冒产品的图片配在了一起。消费者炸了，公司只能公开道歉，挽回形象。

更早的教训是微软的聊天机器人 Tay。2016 年，它上线第一天就被网友教坏，满嘴跑火车，一天之内紧急下线。

坑二，信任塌方。

2024 年有一项针对 Z 世代的调查，发现消费者对 AI 准确性的感知，直接影响品牌信任，进而影响购买决策。翻译一下：你的 AI 推荐靠谱，年轻人觉得你行；你的 AI 推荐离谱，年轻人扭头就走。

有个电商平台的推荐引擎，反复给用户推荐一个根本不存在的"EcoSmart"手机。用户开始犯嘀咕：这平台，还能信吗？尤其旅游这种信任敏感的行业，消费者一旦知道 AI 会一本正经地编景点、编政策，连决策都会变。

坑三，法律和真金白银。

开头那个加拿大航空，赔的不只是钱，还有脸。还有公司因为在 AI 应用里违规收集个人数据，被欧盟按 GDPR 重罚。三星更冤：员工把内部代码和会议纪要粘进 ChatGPT 问问题，机密就这么泄出去了，最后干脆全公司禁用生成式 AI 工具。

AI 幻觉最可怕的地方在于：它不敲锣，不打鼓，坏了事你才知道。

怎么办？四道保险

第一道，喂数据。你的 AI 客服为什么瞎说库存、瞎说政策？因为你没喂它真数据。把实时库存、最新条款接进系统，它就没有"靠印象编"的空间。

第二道，给模型做体检。上线前做压力测试，上线后持续盯着。富士通就给自己的对话 AI 装了"幻觉检测"，专门抓模型编造的输出。

第三道，人要过目。有家出版社，AI 写的图书简介，编辑必须逐条核对，因为 AI 会给一本书编出根本没有的情节。营销也一样：AI 生成的文案，发布前必须有人签字。同时把团队教明白，你的同事越懂 AI 的边界，越能在早期抓住它的错。有家科技公司就靠定期办工作坊，让营销团队练出抓错的眼力，幻觉事故明显少了。

第四道，立规矩。Orange 成立了数据和 AI 伦理委员会，AMD 也设了负责任的 AI 委员会，专门盯着营销里 AI 用得对不对。再备一份出事预案：真出了幻觉事故，谁响应、怎么撤稿、怎么道歉，事先写好，别现想。

有人可能会说：太麻烦了，不用行不行？

行。就像开车可以不系安全带一样行。

最后，回到那个奔丧的乘客

AI 替我们写文案、画图、回客服消息，快得惊人。但每一条它生成的内容，最后署名的，都是你的品牌。

机器负责流畅，你负责真实。

这活儿，AI 帮不了你。

祝你，永远不用为一句机器编的话，公开道歉。