技术与工程已解决
多租户场景的隔离与计费怎么做?
从 Key 管理到用量核算到数据隔离,多租户 AI 应用的架构清单。
问题正文
三层隔离
配额隔离:每个租户独立的 Key、限流、并发上限,一个租户打满不影响他人。数据隔离:提示词与结果按租户隔离存储,日志脱敏后才能跨租户分析。模型隔离:强合规租户要求专属实例,成本高,按需提供。
计费模型
按 Token 计费是基础,但上游价格波动要有传导机制。建议内部核算价与外部售价分离,加一层缓冲。预付费与后付费并存。
滥用防护
单租户异常用量告警、内容安全审核、Key 泄露检测(同一 Key 多 IP 异常调用)。
