每日自问自答:既然大语言模型的知识储备远大于任何一个人,为什么我们依然无法直接用模型简单的替代纯脑力劳动者?
模型缺的不是能力,而是“经验积累”的回路:真正的瓶颈在管理者还没有学会怎么把 AI 培养成一名合格的员工。
- #daily-qna
- #ai
- #llm
- #management
早在两年前 GPT 3.5 横空出世的时候就有各种媒体鼓吹 AGI(通用人工智能)时代即将到来,AI 将导致十分恐怖的大规模失业,不过现在看来,这个进程还没那么快。
究其根本,没有快速发生这样变革的原因可以归纳到一个核心点:AI 还无法有效的模拟脑力劳动者的“经验积累”的过程。
与体力劳动者不同,脑力劳动者大多需要有一个适应工作的过程,这包括必须理解一些仅在这个工作场所里有效的知识、一些工作流程、与其他脑力劳动者沟通交流、各种禁忌与规范等,如果不了解这些信息是不能胜任这项工作的。现在已经有一些技术方案(例如 Chain Of Thought 和其他类似方案)来为 AI 提供各种规则,一定程度能让 AI 输出符合工作需要的结果,但问题出在人与 AI 的磨合上面。
合格的脑力劳动者会自动的根据现有的公司规则(称作 A),根据自己的理解和其他人的反馈在脑内生成一份新的规则(称作 A’)并不断微调,劳动者实际是根据 A’ 来开展工作而不是原始的 A,而且 A’ 的详尽程度会远高于 A,这个 A’ 就是我们常说的“经验”,不断完善 A’ 的过程就是积累的过程。
纯从技术实现的角度来说,只要用正确的技术,AI 现在已经可以很大程度上模拟这种经验积累的过程,例如不断根据每次输出和其他人的反馈来完善自己内部的规则,这就是 SFT、RLHF 等技术名词背后的思路,但关键问题不在于 AI 的能力,而在于公司的管理者,他们还没有明白怎么将 AI 培养成合格的员工。如果没有人类的主动和持续的干预,AI 当前还没法完全自驱的实现这种经验积累,如何去干预就成了一种面向 AI 的管理能力。
管理 AI 跟管理人的差别非常大,以前管理学所用到的“人治”手段对 AI 是一点都起不了作用,管理 AI 是个技术活,门槛着实有点高。当下对 AI 用的最好人群其实正是程序员群体,各种辅助写代码的工具逐步成为大家的工作伴侣,程序员也知道怎么去制定规则来让 AI 提升输出代码的质量。
不过各位还不会管理 AI 的管理者们也不用担心,当今世界最根本的驱动力还是商业价值,能抓住商机的人才是最不容易被淘汰的人。未来自然会有程序员主动“自掘坟墓”,将管理 AI 这件事情给工具化、傻瓜化,到那天到来的时候管理者就能开除各种脑力劳动者,也包括那些还没有危机感的程序员们。