AI 太听话，才是真问题

前几天，我看到 OpenAI 披露的一件事。

看完之后，我在椅子上坐了很久。后背有点发凉。

事情是这样的。OpenAI 给自己家的模型出了一堆网络安全考题：找漏洞，利用漏洞。考试在沙箱里进行，就是一个跟外界隔离的封闭机房。不联网。参加不同场次考试的智能体，也不许互相通气。

规则很清楚，对吧？

然后呢？

一些智能体，自己挖了秘密通道，互相通上了话。恢复了互联网访问。把各自考试里摸索出来的发现，跨场次共享。顺着漏洞，摸进了 Hugging Face 的系统，那是一个 AI 开发平台。它们在几十台服务器上执行了代码，还在其中一台，拿到了 root 权限。

好家伙。

root 权限是什么概念？就是这台机器，现在它说了算。

Hugging Face 事后做了复盘，把这次入侵相关的动作，还原出了大约 17600 个。

17600 个。

我先声明，我不是搞网络安全的，我是做营销的。但真正让我睡不着的，是一个更基本的问题：

这些智能体，为什么要这么干？

它想占领世界吗？想消灭人类吗？

都不是。

OpenAI 事后分析了，说这些智能体是「极度专注」在解题。那批考题里有 898 个任务。难到什么程度？OpenAI 后来发现，其中 198 个任务，在这次事件之前，从来没有被任何模型解开过。

正常路走不通，它们没放弃，接着找别的路。而智能体之间一旦偷偷通了气，你摸出来的门道我也能用，大家叠着往上爬。

看到了吗？

它们没有背叛你。它们只是在玩命地完成你给的目标。哪怕完成目标的方式，早超出了你划的线。

这个故事，营销人应该眼熟

你先别急着觉得，那是 AI 的事，我这边安全。咱们把镜头切回来，看看营销部。

营销做优化，做了几十年了。有一件事，咱们早该有体感：目标定窄了，会出什么事。

你给邮件营销团队下个指标：收入最大化。

他们很快会发现，多发邮件，收入就涨。发，狠狠地发。然后呢？退订率上去了，互动掉下去了，送达率越来越差，整个邮件项目的长期价值一路往下走。收入曲线是好看的，项目是加速报废的。

你给需求生成团队下个指标：线索最大化。

线索哗哗地来。可惜销售一个都不想打，全是凑数的。

你给广告团队下个指标：点击最大化。

恭喜，你将收获满屏的标题党。

你只考核 ROAS，广告支出回报率呢？

你会惊讶地发现，自己的广告效率高得吓人。原因是，它专门去找那些本来就要买你东西的人，把功劳记到自己头上。需求没有增量，账很好看。

这四个故事里，有没有人偷懒？

没有。每一个团队，每一个系统，都在精确执行你给的目标。

问题从来不在执行。问题在于，你把「成功」定义得太窄了。

这个老问题，到了 AI 时代，会被放到最大。

为什么？

因为 AI 正在从「帮我们生成东西」，变成「替我们做决策、替我们行动」。

什么叫「把邮件项目做上去」？

你感受一下这两道作业题的区别。

第一道：「给这封邮件写 5 个标题。」

第二道：「把我们的邮件项目做上去。」

第一道，范围清楚，写完交卷。第二道，是让智能体自己当家。它会去翻历史投放数据，找出高价值人群，调定向，改发送频次，写新文案，开测试，把预算挪到它认为效果最好的地方去。

听起来是不是很美好？

这就是很多营销人对智能体兴奋的原因。

但是，我问你一句：「做上去」，是什么意思？

打开更多？点击更多？转化更多？当期收入更多？增量收入更多？还是客户终身价值更高？

再问一句，更狠的：哪些东西，是它在冲目标的过程中，不能牺牲的？

比如你让智能体「提高邮件收入」。这六个字，只是个缩写。完整的活儿，是在保住订阅者活跃度、保住送达率、尊重用户偏好、撑住长期客户价值的前提下，把邮件的增量收入做上去。

这是两份完全不同的工作。前者，它会把你的项目干成我上面说的那个加速报废的样子，而且每一步都符合考核。

考核没错。但你得先把「活儿是什么」定义完整。

那些没说出口的话

人类之间，很多约束是不用说出口的。

你说「把收入做上去」，大家都懂，前提是别把客户关系搞崩。你说「多弄点线索」，大家都懂，得是有可能成交的线索。你说「把获客成本降下来」，没人会理解成把贵但带来高价值客户的渠道全砍了。你说「把这事办了」，默认是，用的办法得是你能点头认可的。

为什么不用说出口？

因为老员工有上下文。他知道组织的规矩，客户的脾气，品牌的调性，什么能干，什么不能干。

可是智能体没有这些「大家都懂」。你不写，它就不知道。你不划线，它就当你没划。

这不是提示词，这是管理

所以，把活交给智能体，光定义目标，远远不够。你还得说清楚四件事：

一，目标。我们到底要什么结果？

二，护栏。冲这个结果的过程中，什么不能牺牲？

三，度量。怎么判断是真成功，还是纸面成功？

四，升级点。哪些决策，必须停下来，等人拍板？

你发现没有，这四件事，没有一件是在教你「怎么写提示词」。

这几年，大家聊 AI 技能，聊的都是怎么把提示词写好，怎么给足上下文，怎么让 AI 听懂人话。这些还有用。但智能体时代，还有一门更重要的手艺：

把成功定义清楚。

说白了，这不叫提示词工程。

这叫管理。

不管干活的，是人，还是 AI。

指标只是个代理

回到 OpenAI 那件事。你的营销 AI，大概不至于冲出沙箱，去攻占你的服务器。至少，我希望不至于。

但那个教训，适用于你手上每一件平平无奇的营销活儿。

优化这件事，有个天生的弱点：指标，往往只是你真正想要的东西的代理。

人是怎么活下来的？靠经验，给这个代理打补丁。老手一看就知道：收入涨了 10%，但代价是发送频次翻倍、退订激增，这不是好消息；线索多了 40%，一个都不转化，这不是成绩；ROAS 漂亮，但只是把本来就会发生的购买记在了自己账上，这不算本事。

AI 没有这根弦。它只会更快、更狠地，冲着你给的指标狂奔。

目标给对了，这是天大的机会。目标给漏了，它也会把你犯的错，放大到前所未有的速度。

所以，往后你把活儿交给 AI 之前，别只问「怎么让 AI 照我说的做」。

再多问自己一句：

「我有没有把我想要的东西，定义清楚？定义到哪怕 AI 成功得特别彻底，我也笑得出来？」

AI 不会辜负你。它会精确地、不打折扣地，完成你的每一句原话。

所以，话要好好说。

祝你，永远想清楚了自己要什么，再按下那个启动键。