MaaS平台部署全攻略：从模型选型到API接入的实战指南

在目前行业内，MaaS平台部署主要有两种形式，其一就是云上托管，也就是云端MaaS平台，其二就是本地私有化部署，根据企业的实际需求进行私有化部署在，在自有服务器上私有化部署开源框架。我们得助MaaS平台部署基本也是这两种方式，‌SaaS版（Token Hub）以及‌私有化部署（Token OM）‌。那么，这两种MaaS平台部署方式到底有什么特点，分别适合什么行业或者企业呢？

一、得助MaaS平台部署方式有哪些？

1.Token Hub

Token Hub是得助MaaS平台技术架构中的其中一个重要产品，也是得助MaaS平台部署方式之一。这个大模型AI聚合平台，主要面向开发者和中小企业，做的更多的是模型API聚合以及轻量级配合治理，提供统一的接口模型服务以及团队配合与计量。得助MaaS平台部署方式提供按需分配和服务保障。这些都能够帮助企业统一模型，Token Hub帮助企业从模型接入走向模型运营。

2.Token OM

Token OM（Token运营管理平台），所谓私有化部署在得助MaaS平台也是一样。Token OM主要是基于企业的实际需求转变而存在的，以往的企业需要接入模型，但现在的企业大部分都有多个模型，需要统一模型接入，需要路由策略以及成本治理跟管控，这些实际需求的转变，就让企业不得不选择Mars平台进行本地私有化部署。

二、本地私有化部署流程

1.部署前需评估

得助MaaS平台部署方式之本地私有化部署，能够更好地保障数据安全，也能更加契合企业的实际需求，但并非所有企业都需要私有化，如果是AI应用以及企业所需模型数量非常少的企业，就不需要进行本地私有化部署，直接调用官方API就可以了，简单、省时省钱。一般来说，大中型企业拥有多款模型，在实际AI应用过程中，会产生了多次调用模型的情况，而且多部门之间想要对接数据，共享AI资源需要保障安全性，所以才适合本机私有化部署。

2.环境准备

登录得助平台下载部署包（支持Windows/Linux），一键安装Docker环境，自动检测GPU驱动。

3.模型加载

私有化部署第三步就是模型加载，在可视化界面当中选择得助大模型，还可以自动完成模型下载与融化器封装。

4.资源配置

资源配置就是通过系统智能推荐最优配置方案。这一步需要拖动滑块分配CPU、显存，并且设置存储路径，然后系统就能推荐优选配置方案。

5.服务部署

接下来一步就是在工作流Agent的快捷添加企业知识库，点击一键部署按钮，就可以查看实时的进度，得助平台私有化部署大概3分钟内就能完成API服务端口映射。

三、得助MaaS平台部署之本地化有什么优势

1.数据安全可控

得助MaaS平台部署之本地化核心优势之一就是数据安全可控，尤其是面对金融、医疗等强监管行业，信息数据安全非常重要。得助MaaS平台部署之本地化，就可以将所用的业务数据模型调用记录留存在本地机房或者私有化云端。这样就能够通过物理隔离和加密技术从根源上杜绝数据泄露风险。对于强监管要求的医疗、金融等企业来说是非常有帮助的。私有化部署可以让企业保留数据主权，保障数据信息安全，本地化价值还是非常大的。

2.合规审计能力

金融、医疗等行业监管要求比较高，得助MaaS平台部署本地化之后，就可以通过平台提供多级组织账号，不同部门之间设置不同权限，同时通过我们得助MaaS平台可以调用审计、预算、配额等能力，整个模型调用过程可追溯、可审计，这样就可以满足行业监管要求，而且通过权限隔离，保障数据安全不泄漏。

3.Token消耗监控与成本治理

以前企业只有在年终的时候才能看到年终账单，各部门的报账是比较多的，管理层无法看到每一个环节，以及具体的每一笔都可以消耗。这样就会导致最终出现烂账单。得助MaaS平台本地私有化部署之后，得助MaaS平台可以实时管控token消耗，而且能够拥有一套效率比较高，而且列入完整的成本治理服务方案，帮助企业降本增效，实现Token消耗实时管控与成本可视化。

得助MaaS平台部署方案主要就是这两种，‌SaaS版以及私有化部署。这两种部署方案各有优势，企业及采购者需要根据其实实际情况选择适合企业的部署方式。