小团队的 AI 技术栈:两个人如何维护 AI 产品
最小可维护的 AI 技术栈:网关、评测、观测三件套加一个好用的推理框架。
最小技术栈
模型网关(路由与限流)、评测集(回归护航)、观测看板(成本与质量)。三件套之外都是锦上添花。
选型的原则
托管服务优先于自建(省运维);开源工具优先于自研(省开发);简单方案优先于复杂架构(省调试)。
时间的分配
两成人力维护基础设施,八成投入产品迭代。AI 产品的竞争在产品端,不在基建端。
DISCUSSION
文章讨论
0 条评论
最小可维护的 AI 技术栈:网关、评测、观测三件套加一个好用的推理框架。
模型网关(路由与限流)、评测集(回归护航)、观测看板(成本与质量)。三件套之外都是锦上添花。
托管服务优先于自建(省运维);开源工具优先于自研(省开发);简单方案优先于复杂架构(省调试)。
两成人力维护基础设施,八成投入产品迭代。AI 产品的竞争在产品端,不在基建端。
0 条评论