
买卡还是调API?五个问题,把这个决策一次做完
买卡还是调API,不用吵,用问:一问数据(哪条法规禁止出域)、二问负载(量大且全天候稳定吗)、三问能力(32B开源模型够不够用)、四问组织(养得起GPU运维团队吗)、五问问责(出事要不要“数据一直在自己机房”这句话)。判定规则:数据题答得出法规条款号,一票定向私有化;其余四题,答“是”越多越靠自建。
目录
会议室里,这场架很多公司都吵过:IT负责人说,数据是命根子,必须买卡自己搞;财务负责人说,一年跑不了几回大模型,调API按次付费多划算。吵到第三轮,谁也说服不了谁——两边都在讲道理,没人过流程。这是"算力决策"系列的最后一篇,AI工程师樊军刚把前面五篇算过的账,收成一张通关卡:这个决策不用吵,用问。
先把答案放桌上:买卡还是调API?五个问题定路线:一问数据,哪条法规禁止你的数据出域;二问负载,量大且全天候稳定吗;三问能力,32B开源模型够不够用;四问组织,养得起GPU运维团队吗;五问问责,出事时要不要"数据一直在自己机房"这句话。
判定规则一句话版:数据题答得出法规条款号,一票定向私有化;其余四题,答"是"越多越靠自建。下面一道关一道关地过。
第一关·数据关:哪条法规禁止你的数据出域?
第一关只问一件事:你的数据"不能出去",是写在法规里的,还是写在心里的?
说得出一部法规、一个条款、一份监管文件——政务、军工、金融核心业务、医疗原始数据,这类硬约束场景没什么好算的,照办,走私有化。第51篇讲过,这叫监管硬约束:没得谈,也轮不到算账。
说不出来,只有一个"总觉得不放心"——那是第二种"不能":心理软约束。它不是不作数的顾虑,但可以算账:企业级API的数据不用于训练承诺、合规认证、专有云接入,对绝大多数企业够用。还是不放心的,回头看第51篇——控制感和安全性是两样东西,经常被混为一谈。
没被一票定向的,进第二关。
第二关·负载关:量大,而且全天候稳定吗?
买卡回本的唯一引擎是负载。卡买回来,跑就是产出,闲就是折旧。
这一关看负载曲线:日均调用量大吗?是全天候稳定地跑,还是上班高峰一阵、下班归零?前者——报价系统每天几千单自动核价、质检产线二十四小时过图——卡在满负荷挣钱;后者才是多数企业的真实形状:采购那天画的满负荷曲线,一年也出现不了几天。负载撑不起来,回本就是空话;反过来,开源模型够用加上负载大且稳定,推理卡仍可能12个月内回本。这一关别拍脑袋——真实数据怎么来,后面"先租后买"专门讲。
第三关·能力关:32B开源模型,够不够用?
这一关问的是你的任务需要多大的"智商"。
要的是旗舰模型的能力上限——复杂推理、长链条决策、高质量生成——那自建跑开源模型,能力上先打了折扣,这一关过不去,老实走API。但如果是报价摘要、客服问答、单据抽取、质检初筛这一类——边界清楚、有标准答案可校验——开源模型完全够用。而且在中国语境下,这一关比海外好过得多:DeepSeek、Qwen、GLM这一档开源模型本身就是第一梯队,私有化的能力折扣远小于海外(这是第54篇讲的中国变量之一)。
第四关·组织关:养得起GPU运维团队吗?
硬件只是入场券。自建算力真正贵的是后面:机房、电力、散热、坏卡率、推理框架调优、随叫随到的运维——业内通行的经验估算,总拥有成本要按硬件采购价的2-3倍来预估。多数企业算了第一本账(采购价),踩的是后面几本。
所以这一关就问一件事:公司里有没有人能接住这些活?有,或者养得起,过;没有——卡一坏就是业务停摆,买卡等于添了一个不许宕机的亲儿子,全年得养着。
第五关·问责关:出事时,你要不要那句话?
最后一关最不技术,却往往最真实:真出了数据事故,你需要对董事会、对监管、对客户说出"数据一直在我们自己机房"这句话吗?
要——那这一关你过得很正当。问责是真实需求,不是矫情。协议是纸,机房是铁:数据放自己机房出了事,采购的人尽到了审慎义务;放在别人云上出了事,要背"为什么图便宜用外部服务"的锅。政企场景里,这一关常常就是决定性的——第52篇把这本账拆开算过:很多一体机卖的不是算力,是这份问责保险。
不要——民企老板,没人问责你为什么用API,这一关就是虚晃一枪,别为一句用不上的台词付保费。
闯完五关,三条路线怎么判
买卡还是调API怎么选?五关过完,判定规则一分钟出结果:
第一,数据关一票定向。只要说得出禁止数据出域的法规条款号,后面不用数了,直接进私有化路线——这是一票定向权,别的关否决不了。
第二,其余四关,数一数答"是"的个数:
答"是"0到1个——调API。默认路线,也是多数企业的落点:先跑场景,按量付费,随时换供应商。
答"是"2个——从租GPU云起步。中间态的好处:数据放在你指定的地方,团队不用自己养,会折旧的资产不落在你账上。提醒一句:行情之下租赁市场也在长约化,第53篇算过这笔账。
答"是"3个以上——认真评估自建。到这一步才谈"买"。且记住第54篇的教训:推理规格起步,不上训练集群——按训练集群的规格采购、实际只拿来跑推理,是真金白银的大坑。
想再校验一遍的,对号入座:你是第54篇五类企业里的哪一类。两套问法,一本账。
先租后买:没跑过,就别下单
五关都过了、确定要自建的,也别今天就签采购合同。最稳的路径是先租后买:先用API把场景跑通,跑出三个月的真实负载曲线,再拿这条曲线去算第二关的回本、去定采购的规格。上线前的测算都是估计,跑出来的负载才是真的——用它下单,规格不会错配。
这个顺序,跟转型系列说的是同一个道理:先用起来,再想明白,最后改组织。算力决策一模一样:先跑通,再算账,最后下单。
收官:回到手术室那句话
六篇算完,回到系列的出发点。算力像电,大多数企业不需要自建电厂。医院的柴油发电机是为手术室准备的,不是为了省电费——你的场景是手术室吗?想三秒以上,就调API。
而无论你闯到哪一关,记住这个系列唯一的灵魂句:恐慌性囤卡是情绪,教条式不买卡也是情绪——后者只是听起来更理性。行情会涨会跌,模型会快会慢,唯一普适的,是按自己的需求算账,而不是按别人的恐慌或教条做决策。
已经买了卡的老板,同样拿这五关复盘:落在私有化路线的,把配置用满;落在API路线的,下一笔预算就知道该花在哪。把立场摆正:这个系列反对的不是私有化,是不算账的私有化——樊军刚AI自己就承接私有化部署项目:该买的帮你把配置选对,不该买的劝你把钱省下来花在场景上。能这么说话,恰恰因为两头都不赚认知差的钱,只按你自己的账推荐路线。
这张清单怎么落到你的公司
最后说服务。"算力决策"系列六篇,入口是同一个免费动作:算力路线诊断。把你的业务情况(脱敏后)发过来,樊军刚AI把你的场景放进五维清单——数据、负载、能力、组织、问责——逐关过一遍,出一页"买、租还是调API"的路线意见。这件事免费,五关自己闯不明白的,找人陪闯。
想直接跑起来的公司,从单点场景起步:樊军刚AI的单点场景3万起、2-4周上线,以调API交付为主——先跑通场景、跑出真实负载,再决定要不要自建,先租后买,账越算越准。多场景组合与长期合作另有分期方案;私有化部署与大项目分期落地:先验证最痛的点,逐步扩展,风险锁在每一期。更多案例见官网 fanjungangai.com。
到这一篇,"算力决策"系列六篇收官:三本账算清了买卡的隐性成本(第50篇)、两种"不能"分清了安全焦虑(第51篇)、问责保险拆开了一体机的价签(第52篇)、散户与机构看清了涨价行情的底牌(第53篇)、五类矩阵修正了"别买"的边界(第54篇)、五个问题把决策一次做完(本篇)。三本账、两个反直觉、一张矩阵、一份清单——往回翻,都在。回到开头会议室里那场架:现在不用吵了——把五道关卡摆到桌上,一道一道过,答案自己会出来。过完五关,就回到真正值钱的事上:把场景一个一个跑起来。
想把文章里的方法用到你的业务上?


