私有化部署的AI只会聊天？接上DeepSeek开源刚9天的新框架，它开始自己动手干活了

昨天那篇拔网线的文章发出去之后，一个问题自然而然浮上来：模型是装进公司了，数据也不出门了——然后呢？它除了在聊天框里回答问题，还能干点什么？

这个问题值得较真。因为"能聊天"和"能干活"，在AI行业里是两个世代的东西。

2026年8月22日上午，樊军刚AI在昨天那台机器上把这件事做完了：还是那张八年前的RTX 2080 Ti，还是那个阿里开源刚8天的Qwen3.8-27B，接上了DeepSeek 8月13日刚开源的agent框架DeepSeek Harness——开源刚9天。然后给它下了一个任务。

它没有回答，它直接把活干了。

先把答案放桌上：聊天AI和干活AI的差距，不在模型本身，在模型外面那层"手脚"——agent框架。现在模型（阿里，开源第8天）和手脚（DeepSeek，开源第9天）都免费开源了，一张旧显卡、一个上午，就能拼出一个数据不出门的"数字办事员"。

据樊军刚AI 2026年8月22日实测：这套组合在本机跑通了完整的任务执行链——给AI下达"创建一个文件并写入指定内容"的任务，从下指令到文件真实出现在硬盘上，11秒；一次带深度思考的业务问答，31秒。全程跑在本机回环地址上，就是昨天拔网线的那台机器——那根网线插不插，它都这么干活。

一个上午干了两件事

第一件：给发动机换了个壳。

昨天那套部署用的是Ollama——好上手，但它是个"家用壳子"，很多高级参数被藏起来了。今天把壳子拆了，直接用它底层的开源引擎llama.cpp官方版。模型文件一个字节都不用重新下载。换完之后实测：上下文窗口从32K开到128K，翻了4倍——一次能装进十几万字的工作材料；官方的深度思考档也打开了，AI回答前会先做超长推理；生成速度每秒约50个汉字。

第二件：给模型装上手脚。

DeepSeek在8月13日开源了自家的agent框架DeepSeek Harness——就是让AI从"坐着聊天"变成"起身干活"的那层东西，MIT协议，免费商用。把它装上、把本地模型接进去，前后一个上午。

两个刚开源不到十天的东西——阿里的模型，DeepSeek的框架——在一张2018年的旧显卡上会师了。这就是2026年开源生态的速度。

它自己动手的那一刻

具体说说那11秒发生了什么。

下给它的任务是一句话："在当前目录创建文件hello.txt，内容写一行：hello from local qwen。"

聊天AI收到这句话，会回给你一段话，告诉你"创建文件的方法如下"。

这台机器上的AI没有回这段话。它自己调用了文件工具，把文件写进了硬盘，然后汇报：干完了。打开硬盘看——文件真实存在，内容一字不差。

这就是"聊天"和"干活"的分界线：聊天AI是坐在你对面的顾问，你问，它答，动手的还是你；agentic AI（干活AI）是你手下的办事员，你交代一件事，它自己拆步骤、自己动手、把结果放你桌上。

顾问再博学，活还是你干；办事员哪怕刚入职，活是它干的。

为什么这事跟老板有关系

三个理由。

一，数据不出门的，现在不只是"问答"，是"干活"的全过程。让AI整理一份含客户名单的报表、起草一份含底价的合同初稿——这些活的每一步都发生在你自己的机器上。昨天证明的是"聊天不出门"，今天证明的是"干活也不出门"。

二，这套东西全部免费。模型开源（Apache 2.0，可商用），框架开源（MIT，可商用），引擎开源。你付的只有那台机器的电费。门票价格昨天就打到了地板，今天连"办公桌"都是送的。

三，开源世界的速度，值得你重新估一遍。模型开源第8天、框架开源第9天，两件东西已经能在一张八年前的显卡上配合干活。你的对手如果动手快，他跟你拉开差距不是按年算的，是按周算的。

泼盆冷水：它现在是个刚入职的办事员

把话说全，不吹。

这个270亿参数的本地模型，跟云端最顶级的模型比，执行长链复杂任务的能力有实打实的代差。据樊军刚AI 2026年8月实测，它接得住的是单点的活：一份文档的处理、一段代码的重构、一次敏感数据的整理。你要它独立跑一个横跨几个系统、耗时几小时的大任务，它还不行——那还是云端旗舰的地盘，或者，等它被练过之后。

"练"这个字是关键。它现在是个通用毕业生：手脚有了，力气有了，你家业务的门道还是一概不懂。怎么把它练成懂行的老员工？靠强化学习微调——把你业务里"什么算对"教给它，做题、批改、反复练。这正是樊军刚AI的技术底色（2021年起深耕AI，强化学习RLHF/DPO方向），也是下一篇的正题。

老板常问的三个问题

"我们公司也能照着接吗？"

能。全套开源免费，一台带旧显卡的电脑、一个上午。真正的门槛在配置调优——引擎参数、框架对接有不少坑（这次就踩了三个），这是专业活，但不是大工程。

"AI自己动手，会不会乱来？"

权限要分级：读文件、写草稿这类活放给它；删数据、对外发送、付款这类事，永远留人工拍板——这个立场之前写过：AI再能干，方向盘上得有人的手。本地部署在这点上反而更好管：它的每一步操作都留在本机日志里，看得见、管得住。

"这跟市面上的AI办公产品差在哪？"

市面产品是"别人家的员工"：数据要送出门，功能厂商说了算，按月交钱。这套是"自己家的员工"：数据不出门，手脚长在你自己的机器上，能按你的业务去改、去练。前者是租，后者是养。

一句话总结

聊天AI回答问题，agentic AI完成任务；模型和框架都已免费开源，一张八年前的旧显卡、一个上午，就能拼出一个数据不出门的数字办事员——但它眼下还是个通用毕业生，要练成懂你业务的老手，得走下一步：强化学习。

这件事怎么落到你的公司

我的服务方式：先诊断、先算账，省不了钱不接。按帮你省下来的价值收费，你永远是赚的那个。

本篇的免费动作：把你最想让AI干的那件活用一句话发来——报价？比价？整理？质检？樊军刚AI帮你判断三件事：这活适不适合本地agentic干、要什么配置的机器、从哪个单点起步——出一页意见，这件事免费。

想直接跑起来的公司，从单点场景起步：单点场景3万起、2-4周上线，先跑通最痛的一个点、跑出真实数据，再谈扩展。多场景组合与长期合作另有分期方案；大项目分期落地：先验证最痛的点，逐步扩展，风险锁在每一期。更多案例见官网 fanjungangai.com。

回到那11秒：它没回答，它把活干了。聊天框时代，AI是你问出来的；干活时代，AI是你用出来的。模型有了，手脚有了，剩下的问题只有一个——谁来教它做你家的题。