Skip to content
全部文字

管 AI 的专家陷阱

越懂业务,越容易掉进管 AI 的第一个坑。一段关于专家陷阱与三阶管理的笔记。

何鸿恺 9 min read
  • #AI
  • #管理
  • #组织
  • #Causally

最近团队一直在讨论”和 AI 合作写程序”应该怎么走。

过去两周,我们走的是一条精细化管理的路径——保证 AI 每一步都无错。也看到有一些完全不会代码的人,完全不看代码、只检验功能,搭出了能跑的大系统——it just works。我们自己也尝试过另一条路,但没完全跑通。

会议结束时,大家处在思考但尚无定论的状态。

后来一直在琢磨这条路的问题。我觉得,只要我们拨开了这一重所知障,可能一开始不一定走得最快,但能走得更远。

我们当下的思维定式可能是:正因为懂业务(会写码),所以总会不自觉地插手 AI 员工的具体工作,做 micromanagement,反而忽视了组织 / 机制——怎么通过管理学和方法论让 AI 把事做成。

那些完全不懂编程的人,没办法 micromanage,只能想其他办法。

这就好比传统企业管理里:不懂业务的老板,反而在用人上更加有一套(比如刘备、Sam Altman);而懂业务的老板,如果意识到不能凡事都亲自抓,学会了用人和组织建设,那一定是更厉害的(张一鸣、雷军、马化腾)。

那些完全不懂写代码的人,已经用他们的结果证明:或许不用代码层面的 micromanage,也有其他办法保证 AI 的产出。

那我们也得找出来——这些方法是什么。

在这点上,我们从”不知道自己不知道”,走到了”知道自己不知道”。掌握了,工具箱里又多了一种工具,认知里又多了一种选择。

专家陷阱(Expert Trap / Competency Trap)

懂业务的人,最容易过度干预执行层,从而阻碍系统规模化。

  • 专家对”正确性”高度敏感
  • AI 每一步都”可能错”,会天然触发我们去纠正
  • 结果:局部最优 + 全局次优

这正是 Expert Trap 在 AI 时代的实例。

不懂代码的人为何能成事

那些不会写代码的人,因为能力上无法逐行控制,被迫:

  • 用目标约束
  • 用验收标准
  • 设计互相纠错的系统
  • 用失败容忍

他们是被逼着站在第二 / 三控制层级。

当我们”逐行管 AI 写代码”,我们其实是在用人的带宽去压制一个高并行系统,必然很快遇到天花板。

懂业务 vs 不懂业务

不懂业务的老板,往往只能擅长用人和组织(比如刘备、Sam Altman、Jack Welch)。

懂业务的老板,如果凡事亲自抓,很容易被细节拖住。

但真正厉害的,是既懂业务、又能克制自己不用业务能力的人——他们把精力用在:

  • 机制
  • 结构
  • 节奏
  • 边界条件

这不是否定”懂技术”的价值,而是承认:懂技术的人更容易自困在第一层级,但一旦跃迁,天花板更高——张一鸣 / 雷军 / 马化腾就是”懂业务 + 克制”的典型。

思维转变

在 AI 协作这件事上,我们需要逐步从:

“确保 AI 每一步都不犯错”

转向:

“接受 AI 一定会犯错,设计一个即便个体 AI 会犯错,依然能跑的系统结构。”

这意味着:

  • 把”正确性”从过程要求升级为结果约束
  • 把”安全感”从人盯着转移到机制兜底
  • 把”能力发挥”从人 + AI 协同操作转为人设计规则、AI 执行与探索

只要意识到这一点,我们现在的路径就没有问题。

第一阶管理只要有条件,还是一段不可跳过的经历。只有经历过一阶,才对 AI 的能力有细粒度的一手感知,才知道什么是风险、什么是边界、什么是质量、什么是不可妥协。这会成为我们未来”放权给 AI”时仍然能保持高标准的底气。

觉知(Awareness)

只要意识到这个陷阱,专业水平就不再构成所知障,而是升级的基本功。真正的路径是”升级”:一阶走扎实,然后一步一步升级到二阶、三阶。

  1. 一阶管理:管行为(必要且宝贵)

    • 关注:怎么做、做得对不对
    • 产物:高质量、可解释的实现经验与工程直觉
    • 价值:打地基、建立标准、识别风险
  2. 二阶管理:管规则(下一阶段的核心)

    • 关注:输入约束、验收标准、测试、边界条件
    • 产物:可复制的方法、可扩展的流程
    • 价值:让产出不再依赖个人盯细节
  3. 三阶管理:管系统自演化(长期方向)

    • 关注:模块自治、自动修复、持续重构、组织结构与系统结构对齐
    • 产物:越做越快、越跑越稳的系统
    • 价值:规模化与长期复利

我想强调的是:一阶 → 二阶 → 三阶不是”二选一”,而是成长路径

一阶不是要被否定,而是要被继承、抽象、再升级。

走得远的人,往往不是跳过一阶的人,而是愿意不断升级层级的人。

下一阶段

可以尝试的方向是:

  1. 摸清哪些模块 / 任务必须一阶管理(高风险、核心基础设施、不可回滚的部分)
  2. 把更多精力从”逐步纠错”转到”定义验收与自动校验”、“多 Agent 分工、配合、监督、纠错”
  3. 允许个体 / 过程不完美,但要有明确的目标约束、验收标准,且可验证、可回滚、可迭代
  4. 沉淀可复制的协作套路:Prompt 结构、skills、接口契约、测试模板、review checklist

目标不是”少看代码”,而是:把人从细节中逐渐解放出来,用更高层的机制去守住质量

结语

我们自身的能力和现在的方式,是一段非常宝贵的经历——它让我们建立了标准与底线。

我感到很幸运:在团队开始运作的两周时间里,我们就意识到了这个问题并进行了讨论。这让我们在 Causally 的两核心使命之一——“探索 AI 原生的组织形态”——迈出了实在的一步。

只要保持思想开放,不被”我已经知道怎么做”限制,从一阶走到二阶、再到三阶,我们一定会走得更扎实、更远。