AI Agent本地化部署(FastGPT)5分钟教会你!
00 min
2024-10-31
2024-11-7
type
status
date
summary
tags
category
slug
icon
password
公众号
关键词
小宇宙播客
小红书
数字人视频号
笔记

AI Agent本地化部署(FastGPT)5分钟教会你!

在本教程中,我们将使用 Sealos 进行 FastGPT 的快速一键部署。无需服务器或域名配置,轻松实现高并发和动态伸缩。本教程将详细介绍部署架构、配置参数以及如何访问 FastGPT 服务。

快速链接


一键部署 FastGPT

部署架构图

使用 Sealos 部署 FastGPT 的架构如下图所示:
notion image

多模型支持

FastGPT 采用 one-api 项目来管理模型池,兼容 OpenAI、Azure、国内主流模型和本地模型等,为用户提供多种模型选择。

一键部署 Sealos 服务

Sealos 提供新加坡区和北京区两种部署方案,用户可根据需求选择。

新加坡区

  • 优点:支持直接访问 OpenAI
  • 缺点:国内用户需要梯子,价格稍高
  • 部署
    • notion image

北京区

  • 优点:火山云提供的国内稳定访问
  • 缺点:无法访问 OpenAI 服务,价格为新加坡区的 1/4
  • 部署
    • notion image

开始部署

部署完成后,需要等待 2~4 分钟以便数据库初始化,首次访问可能较慢。根据提示输入 root_password 以及 openai/oneapi 的地址和密钥信息,完成基本配置。
notion image
点击部署后会跳转到应用管理页面,选择 fastgpt 主应用,查看详情即可访问。
notion image

访问 FastGPT 服务

在部署管理页面点击外网访问地址的链接,即可直接打开 FastGPT 服务。
如需绑定自定义域名或修改部署参数,请点击右上角变更,按照 Sealos 的指引完成相关配置。

访问和管理

登录

  • 用户名root
  • 密码:您在一键部署时设置的 root_password

修改配置文件和环境变量

在 Sealos 中打开 应用管理 可以查看 FastGPT 的配置文件和数据库信息。
应用管理 选中 FastGPT,点击变更,查看并编辑环境变量和配置文件。
notion image

更新 FastGPT 服务

更新/升级步骤
  1. 打开 升级文档,选择合适版本,避免跨版本升级。
  1. 在 Sealos 应用管理界面中找到 FastGPT,点击右上角的变更,更新镜像版本号。
  1. 修改镜像版本后点击变更/重启,自动拉取最新镜像更新。
notion image

自定义 FastGPT 配置

自定义域名

在应用管理界面中选择变更->自定义域名,填写域名并配置 Cname。

修改站点名称和 favicon

可通过环境变量调整站点名称、描述、favicon 等。

高级功能和运维

配置 logo

目前支持 SVG 格式的 logo 替换。在 应用管理 中新增挂载文件 /app/projects/app/public/icon/logo.svg

运行与暂停

在 Sealos 上,FastGPT 包含一个服务和两个数据库实例。您可以在 应用管理 中手动控制服务和数据库的运行与暂停,方便在不同时间灵活管理资源。

商业版管理后台

FastGPT 商业版提供增强的管理后台,您可以在 plus 中管理项目。
商业版包含两个应用 (fastgpt, fastgpt-plus) 和两个数据库,同时支持多 API Key 使用,适合复杂业务需求。

镜像配置文件

可在 Sealos 配置文件中自定义设置:

常见问题和支持

  • 按量计费:Sealos 按 CPU、内存和磁盘资源计费,您可以在 费用中心 中查看具体费用。

通过本教程,您现在可以快速在 Sealos 上部署 FastGPT 服务,享受高效的 AI 应用体验!如有更多问题欢迎加入我们的粉丝群。
上一篇
GPT-SoVITS:小白也能上手!支持零样本微调的高质量语音合成模型
下一篇
Mochi:可商用!迄今最大开源视频生成模型来了!