AISE服务基座
AISE服务基座为企业引入AI大模型能力提供一系列基础能力,包括模多模型适配器、提示词仓库、向量引擎和向量数据库、AI代理(Agent)编排和运行引擎等。通过AISE服务基座,企业可以快速引入AI大模型能力,实现业务场景的智能化升级。
本文档提供AISE产品的各项功能的详细说明,产品手册按特性组织,针对每个特性进行说明。如果希望通过使用场景来了解产品,可以参考 动手实验。
AISE (AI Powered Software Engineering) 系统定位于企业AI应用基座,为企业引入大模型能力并在各业务环境引入AI赋能场景提供基础支撑。通过提供一系列企业AI应用必须的基础设施,AISE可以降低企业引入大模型的技术门槛和运维复杂度。
AISE提供企业引入大模型能力的 产品+培训+咨询服务 的 一体化解决方案,提供从产品实施、推广运营、大模型训练和微调、大模型应用开发的一系列定制化解决方案,确保企业可以真正将大模型的能力应用到各个业务环节。
AISE的AI基座内置 多模型适配、提示工程、知识库和应用市场 等模块,为企业接入大模型并向各个组织单位输出模型能力提供了完整的基础支撑能力。我们同时对所有的大模型调用提供全链路的监控和审计能力,所有模型请求均在后台记录并持久化存储,可以用于生成效能看板、实施安全审计或者其他数据分析,帮助企业把控大模型实施效果,准确客观评价投资收益。最后,AI基座层的所有能力均提供标准化的接口(API),方便企业在AISE的基础上开发各类AI应用,将大模型能力引入到企业各个环节。
基于以上设计,AISE系统从架构上不同于市场上的AI编码助手类工具,提供了企业落地AI应用的各项基础能力、以及更好的扩展性和开放性。
# | 能力 | 说明 |
---|---|---|
1 | 多模型适配 | 企业的大模型战略需要适应市场的快速变化,确保引入到企业的模型可以灵活的适配各种场景,并且可以满足企业内部复杂组织架构、权限、安全性、审计等要求。同时,企业还需要根据内部的个性化需求对模型本身进行适配和调整,因此需要平台具备模型训练,微调以及对模型资产进行版本管理和变更管理的能力。 |
2 | 提示工程支持 | 提示工程是企业构建AI应用的核心实践,提示词是AI驱动下企业的核心资产。本模块通过多层提示词的设计以及对提示词的访问控制、以及灵活的提示词组织和调用能力为企业提供简单易用的自助化提示工程能力。 |
3 | 应用市场 | 为承载企业多样的AI应用并为这些应用提供基础的版本分发、升级和场景化管理,AISE内置了应用市场管理。 |
4 | 数据持久化和审计 | 用户通过AISE系统与大模型的对话操作均会通过会话数据持久化继续保存,并允许管理员对这些数据的保存周期进行设置。满足企业的数据安全和审计要求。 |
5 | 数据遥测和效能仪表盘 | AISE内置数据遥测接口,并允许应用开发者对数据埋点进行自定义操作,而无需对遥测接口进行变更;基于这些数据AISE内置效能仪表盘,并提供按组织单位进行数据维度切分展示的能力。内置的指标包括:活跃用户、代码生成次数、对话次数、模型接入数量、模型调用次数、知识库文档数量、代码生成行数、代码接受行数和代码接受率等指标。 |
6 | 用户和角色管理 | 内置用户和角色管理能力,并支持用户的部门分配和角色分配。 |
7 | 统一身份认证系统 | 将AISE门户登录页面用作所有AISE应用程序和插件的中央身份验证点,为用户提供熟悉且简化的登录体验,消除了需要为每个单独的应用程序重复输入密码的需求;通过标准化OAuth2集成企业现有身份认证系统。 |
8 | 知识库基础支撑系统 | AISE内置向量数据库和知识库管理组件,支持企业通过集成多种数据源构建私有知识库,并允许用户对多个知识库的数据源进行组合查询和内容生成。 |
9 | 特性开关和灰度发布 | AISE内置特性开关管理,并允许管理员根据用户或者组织单位开放,部分开放和全部开放某些特性。特性开关能力方便企业在尝试新的AI应用/场景过程中保持成熟应用的正常运营。 |
AISE内置一系列开箱即用的AI应用,为企业提供立竿见影的大模型应用效果。当前内置的应用包括:
AISE服务基座为企业引入AI大模型能力提供一系列基础能力,包括模多模型适配器、提示词仓库、向量引擎和向量数据库、AI代理(Agent)编排和运行引擎等。通过AISE服务基座,企业可以快速引入AI大模型能力,实现业务场景的智能化升级。
SmartCode AI编码助手是一款基于人工智能的编码助手,能够帮助开发者提高编码效率,减少重复劳动,提升代码质量。
SmartChat 为企业用户提供了一个基于浏览器的ChatGPT聊天工具,用户可以通过这个工具与各种AI模型进行智能对话,并且支持自定义AI助理、自定义提示词、多模态图片识别、文档对话和知识库对话等特性。
代码评审智能体(Code Review Agent)是利用生成式AI技术实现的自动化代码评审功能,它可以自动扫描用户提交的代码变更,生成概要性描述或者评审意见,也可以接收用户的提问并根据代码变更内容给出答案。代码评审智能体旨在为参与代码评审的团队成员提高工作效率,特别是在面对改动量比较大的评审任务时,使用代码评审智能体可以大幅节省评审者用来阅读代码/理解代码的时间,同时也可以帮助被评审者提供可能的修复建议。
SmartAnswer 企业知识库为企业用户提供了智能知识库服务,支持自动索引文件、信息管理系统,比如:Jira, Confluence, GitHub Issue 等内容,自动构建向量化知识库,提供智能搜索、智能问答等功能,帮助企业用户快速构建知识库,提升知识管理效率。