企业内部大模型统一管理怎么做？从各自买模型到统一网关、Token管控与MaaS治理

企业内部存在很多的部门，尤其是大型企业存在采购部、市场部、客服部、财务部等等。不同部门之间职能权限不同，但为了各自的业务目标达成，去选择不同的AI，也就是采购不同的模型，每个部门都认为自己有特殊的需求点，所以很多企业到年度计算成本时，管理层会看到不同的账单，花费非常多，但真正带来的能效并不高。企业大模型管理是一个非常真实存在的企业痛点，各自为政会产生重复采购，成本增加，但人之间需求不同，可能也无法短时间内达成统一，到底怎么才能统一企业内部大模型管理呢？

我们得助MaaS平台，你辅助做企业内部AI统一管理，不是要各部门舍弃自己的需求，是要通过三个层面统一解决路径。首先要统一API解决接进来的问题，统一网关解决“接进来”的问题，Token OM解决“管得住”的问题，MaaS平台解决“可持续运营”的问题。

一、得助MaaS平台提供统一API网关，一个入口对接所有模型

1.统一API网关，兼容各类模型

我们得助MaaS平台提供兼容主流模型的统一API网关，各部门的系统只需对接这一套接口，在业务处理过程中，可以通过统一入口调用不同模型，当前主流AI，例如豆包、DK、通义等等，都是可以兼容的，大家完全可以放心。

2.得助MaaS平台统一API网关的好处

中大型企业内部有很多部门，大家都认为自己需要契合自己实际需求的模型，对这种统一大模型存疑。实际上，它完全可以兼容，不影响企业各部门调用各自的轻量级模型。统一大模型，就意味着可以解放研发部门。迁移模型时通常只需修改base_url和API Key，业务代码不需要重写，不需要一个个对接需求，一个个开发。其次，统一大模型不只是统一接口，而是真正做到统一模型管理，管理层拥有鉴权、限流、路由和日志记录能力权限，可以在后台查看实时的Token消耗，并且直观看到哪个部门哪个环节消耗了多少Token。

3.减少重复Token消耗，节约成本

以前部门各自为政时候，每一次业务对接都需要调用一次模型，因为各部门之间的数据并不互通，所以传输量庞大，且存在大量重复性调用情况。这就导致Token消耗过度。我们得助MaaS帮助企业企业内部大模型统一管理，并非是要各部门舍弃自己的实际需求，而是从企业高层开始，统一管理，接入同一个大模型，只需要在内部设置层级跟权限，各部门自行使用跟查阅即可，各类数据是互通的，大家都能看到，就不需要重复传输，不需要重复调用大模型，消耗过多Token，从源头杜绝浪费，降低成本，这就是生成式AI统一管理的优势。

二、Token OM：让成本“实时可控”

1.用前、用中、用后三层管控

各部门自行采购大模型，自己使用倒是方便，但不同业务部门之间数据不流通，成本只有自己知道，到年底报账的时候，老板才看到企业成本如此之高。我们得助MaaS帮助企业内部AI统一管理，接入同一个API，得助MaaS的Token OM模块把成本管控拆解为前中后三个环节，可以做到三层管控。使用前有预算，从企业管理层入手，开始统一做年度成本预算，各部门有自己的预算配额，甚至具体到某些重要业务线到底用多少额度，从企业层面可预见。其次，在实际业务推进过程中，管理界面可以看到实时的Token消耗，Token OM可以辅助做阈值上限设置，消耗达到阈值自动告警，超额可触发熔断或降级，防止某一业务线的异常调用拖垮整体预算。使用后有账目明细可以导出，从多维度分析实际的Token消耗与所产生的业绩是否成正比。

2.可持续运营

企业内部大模型统一管理，我们得助MaaS不仅能帮助节省成本，更重要的是要持续性，要可持续性运营。当业务部门要新增一个AI应用时，不需要重新走采购流程对接新模型，而是在已有网关和预算体系内申请额度即可上线，这就是可持续运营。

企业内部大模型统一管理与各部门业务高速发展并不冲突，甚至能帮助各部门达成更高能效，统一管理不是限制各部门使用，而是为了各部门的AI使用更高效。我们得助MaaS平台最终的目的也是为了让AI用得更顺畅、更可控、更可持续。