GitLab Duo 自托管
- 级别: Premium, Ultimate
- 附加组件: GitLab Duo Enterprise
- 提供方案: GitLab Self-Managed
为了对您的数据隐私、安全以及大语言模型 (LLM) 在您自身基础设施中的部署保持完全控制，请使用 GitLab Duo 自托管。
通过部署 GitLab Duo 自托管，您可以管理发往 GitLab Duo 功能的 LLM 后端请求的整个生命周期，确保所有请求都保留在您的企业网络内，并避免外部依赖。
如需交互式演示，请参阅 GitLab Duo 自托管产品导览。
如需概述，请参阅 GitLab Duo 自托管：在您的私有环境中使用 AI。
为何使用 GitLab Duo 自托管
使用 GitLab Duo 自托管，您可以：
- 选择任何 GitLab 支持的 LLM。
- 通过将所有请求/响应日志保留在您的域中，保留对数据的完全控制权，确保完全的隐私和安全，且无外部 API 调用。
- 在您自己的环境中隔离 GitLab 实例、AI 网关和模型。
- 选择为您的用户量身定制的特定 GitLab Duo 功能。
- 消除对共享 GitLab AI 网关的依赖。
此设置确保了企业级的隐私和灵活性，允许您的 LLM 与 GitLab Duo 功能无缝集成。
支持的 GitLab Duo 功能
下表说明：
- GitLab Duo 功能以及这些功能在 GitLab Duo 自托管上是否可用。
- 在 GitLab Duo 自托管上使用这些功能需要哪个版本的 GitLab。
- 这些功能的状态。某功能在 GitLab Duo 自托管上的状态可能与该功能在 GitLab 托管时的状态不同。
要将这些功能与 GitLab Duo 自托管结合使用，您必须拥有 Duo Enterprise 附加组件。无论您是否可以在GitLab 托管模型并通过基于云的 AI 网关连接到这些模型时将这些功能与 Duo Core 或 Duo Pro 结合使用，此规定均适用。
代码建议
| 功能 | 在 GitLab Duo 自托管上可用 | GitLab 版本 | 状态 |
|---|---|---|---|
| 代码建议 | 是 | GitLab 17.9 及更高版本 | 正式发布 |
聊天
| 功能 | 在 GitLab Duo 自托管上可用 | GitLab 版本 | 状态 |
|---|---|---|---|
| 通用 | 是 | GitLab 17.9 及更高版本 | 正式发布 |
| 代码解释 | 是 | GitLab 17.9 及更高版本 | 正式发布 |
| 测试生成 | 是 | GitLab 17.9 及更高版本 | 正式发布 |
| 重构代码 | 是 | GitLab 17.9 及更高版本 | 正式发布 |
| 修复代码 | 是 | GitLab 17.9 及更高版本 | 正式发布 |
| 根本原因分析 | 是 | GitLab 17.10 及更高版本 | 测试版 |
| 漏洞解释 | 是 | GitLab 18.1.2 及更高版本 | 测试版 |
有关您可以提问的更多示例，请参阅 询问关于 GitLab 的问题。
合并请求中的 GitLab Duo
| 功能 | 在 GitLab Duo 自托管上可用 | GitLab 版本 | 状态 |
|---|---|---|---|
| 合并提交消息生成 | 是 | GitLab 18.1.2 及更高版本 | 测试版 |
| 合并请求摘要 | 是 | GitLab 18.1.2 及更高版本 | 测试版 |
| 代码审查 | 是 | GitLab 18.3 及更高版本 | 测试版 |
| 代码审查摘要 | 是 | GitLab 18.1.2 及更高版本 | 实验性功能 |
议题中的 GitLab Duo
| 功能 | 在 GitLab Duo 自托管上可用 | GitLab 版本 | 状态 |
|---|---|---|---|
| 议题描述生成 | 否 | 不适用 | 不适用 |
| 讨论摘要 | 是 | GitLab 18.1.2 及更高版本 | 测试版 |
其他功能
| 功能 | 在 GitLab Duo 自托管上可用 | GitLab 版本 | 状态 |
|---|---|---|---|
| CLI 版 GitLab Duo | 是 | GitLab 18.1.2 及更高版本 | 测试版 |
| GitLab Duo 代理平台 | 否 | 不适用 | 不适用 |
| 漏洞解决 | 是 | GitLab 18.1.2 及更高版本 | 测试版 |
| AI 影响仪表板 | 是 | GitLab 17.9 及更高版本 | 测试版 |
先决条件
在设置 GitLab Duo 自托管基础设施之前，您必须具备：
- 一个受支持的模型（基于云或本地部署）。
- 一个受支持的服务平台（基于云或本地部署）。
- 一个本地托管的 AI 网关。
- 包含 GitLab Duo Enterprise 的 Premium 或 Ultimate 版本。
- GitLab 17.9 或更高版本。
确定您的配置类型
GitLab 自管理版客户可以使用以下任一选项来实现 AI 原生功能：
- 自托管 AI 网关和 LLM：对您的 AI 基础设施拥有完全控制权。
- 使用默认 GitLab 外部供应商 LLM 的 GitLab.com AI 网关：使用 GitLab 管理的 AI 基础设施。
这些选项之间的区别如下：
| 功能 | 自托管 AI 网关 | GitLab.com AI 网关 |
|---|---|---|
| 基础设施要求 | 需要您自己托管 AI 网关和模型 | 无需额外的基础设施 |
| 模型选项 | 从受支持的模型中选择 | 使用默认的 GitLab 外部供应商 LLM |
| 网络要求 | 可在完全隔离的网络中运行 | 需要互联网连接 |
| 责任方 | 您负责设置基础设施和进行维护 | GitLab 负责设置和维护 |
自托管 AI 网关和 LLM
在完全自托管的配置中，您将部署自己的 AI 网关，并在您的基础设施中使用任何受支持的 LLM，而无需依赖外部公共服务。这使您能够完全控制自己的数据和安全性。
虽然此配置是完全自托管的，您可以使用托管在自己基础设施上的 Mistral 等模型，但您仍然可以使用像 AWS Bedrock 或 Azure OpenAI 这样的基于云的 LLM 服务作为您的模型后端。
如果您的离线环境存在物理隔离或限制互联网访问的安全策略，并且需要全面的 LLM 控制，您可以使用 GitLab Duo 自托管。
在许可方面，您必须拥有 GitLab Premium 或 Ultimate 订阅，以及 GitLab Duo Enterprise。对于拥有完全隔离离线环境的客户，我们提供离线企业版许可证。要获取您购买的订阅，请通过客户门户申请许可证。
更多信息，请参见：
使用默认 GitLab 外部供应商 LLM 的 GitLab.com AI 网关
如果您不符合 GitLab Duo 自托管的使用场景标准，则可以使用带有默认 GitLab 外部供应商 LLM 的 GitLab.com AI 网关。
GitLab.com AI 网关是默认的企业版产品，并非自托管。在此配置中，您将您的实例连接到 GitLab 托管的 AI 网关，该网关与外部供应商 LLM 提供商集成，包括：
这些 LLM 通过 GitLab Cloud Connector 进行通信，提供无需本地基础设施即可使用的现成 AI 解决方案。
在许可方面，您必须拥有 GitLab Premium 或 Ultimate 订阅，以及 GitLab Duo Enterprise。要获取您购买的订阅，请通过客户门户申请许可证。
更多信息，请参见 GitLab.com AI 网关配置图。
要设置此基础设施，请参见如何在 GitLab 自管理版实例上配置 GitLab Duo。
设置 GitLab Duo 自托管基础设施
要设置完全隔离的 GitLab Duo 自托管基础设施：
-
安装大语言模型 (LLM) 服务基础设施
-
我们支持多种用于服务和托管您 LLM 的平台，例如 vLLM、AWS Bedrock 和 Azure OpenAI。为帮助您选择最合适的选项以有效部署您的模型，请参阅受支持的 LLM 平台文档，了解每个平台功能的更多信息。
-
我们提供了受支持模型的全面对照表，其中包含其特定功能和硬件要求。为帮助您选择最能满足您基础设施需求以实现最佳性能的模型，请参阅受支持的模型和硬件要求文档。
-
-
安装 GitLab AI 网关 安装 AI 网关 以高效配置您的 AI 基础设施。
-
配置 GitLab Duo 功能 请参阅配置 GitLab Duo 功能文档，了解如何自定义您的环境以有效满足您的运营需求。
-
启用日志记录 您可以在您的环境中找到启用日志记录的配置详细信息。有关如何使用日志来有效跟踪和管理系统性能的帮助，请参阅日志记录文档。