FastGPT | 3分钟构建属于自己的AI智能助手

这是一篇使用指南！！！

FastGPT是什么？

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！

fastgpt其实就是使用了chatgpt的api（或者其他的大模型），构建自己的AI知识库

chatgpt是没办法获取到你自己的信息的

如果你想部署属于自己的gpt，或者是公司内部使用的

你可以选择fastgpt

适用人群：

  • chatgpt爱好者
  • chatgpt深度使用者
  • 想要构建自己的AI知识库
  • 想要给其他人提供gpt服务
  • 公司/组织 私有化

功能介绍

目前我觉得比较好用的3个功能

构建自己的知识库

通过导入文档或已有问答对进行训练，让 AI 模型能根据你的文档以交互式对话方式回答问题。 alt

数据预处理

提供手动输入、直接分段、LLM 自动处理和 CSV 等多种数据导入途径，其中“直接分段”支持通过 PDF、WORD、Markdown 和 CSV 文档内容作为上下文。FastGPT 会自动对文本数据进行预处理、向量化和 QA 分割，节省手动训练时间，提升效能。 alt

高级编排

基于 Flow 模块的工作流编排，可以帮助你设计更加复杂的问答流程。例如查询数据库、查询库存、预约实验室等

不过这个功能比较复杂，需要一定的学习成本

alt

在线使用

  • 🌐 国内版：ai.fastgpt.in
  • 🌍 海外版：fastgpt.run

环境需要

  • 系统：windows or linux
  • docker环境
  • chatgpt账号，并有api

项目仓库地址

https://github.com/labring/FastGPT

安装指南

安装指引

  1. 获取API keys
  2. 在sealos上搭建nginx
  3. 安装fastgpt
获取API keys

这个很简单

打开网址：https://platform.openai.com/account/api-keys

登录你的gpt账号 （你得会魔法）

创建一个keys即可

alt
搭建nginx

这里是在sealos上搭建的nginx，因为sealos是国外服务器，可以直接代理openai

不过它是收费的

搭建nginx的话，一天大概2毛钱

初次注册送5块钱

当然你也可以用其他方式

我们来开始搭建nginx

使用 Sealos 部署 Nginx 实现中转

登录 Sealos

Sealos

创建应用

打开 「应用管理」，点击「新建应用」：

alt
alt
填写基本配置

务必开启外网访问，复制外网访问提供的地址。

alt
添加配置文件

  1. 复制下面这段配置文件，注意 server_name 后面的内容替换成第二步的外网访问地址。

    user nginx;
    worker_processes auto;
    worker_rlimit_nofile 51200;

    events {
        worker_connections 1024;
    }

    http {
        resolver 8.8.8.8;
        proxy_ssl_server_name on;

        access_log off;
        server_names_hash_bucket_size 512;
        client_header_buffer_size 64k;
        large_client_header_buffers 4 64k;
        client_max_body_size 50M;

        proxy_connect_timeout       240s;
        proxy_read_timeout          240s;
        proxy_buffer_size 128k;
        proxy_buffers 4 256k;

        server {
            listen 80;
            server_name tgohwtdlrmer.cloud.sealos.io; # 这个地方替换成 Sealos 提供的外网地址

            location ~ /openai/(.*) {
                proxy_pass https://api.openai.com/$1$is_args$args;
                proxy_set_header Host api.openai.com;
                proxy_set_header X-Real-IP $remote_addr;
                proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
                # 如果响应是流式的
                proxy_set_header Connection '';
                proxy_http_version 1.1;
                chunked_transfer_encoding off;
                proxy_buffering off;
                proxy_cache off;
                # 如果响应是一般的
                proxy_buffer_size 128k;
                proxy_buffers 4 256k;
                proxy_busy_buffers_size 256k;
            }
        }
    }

  2. 点开高级配置。

  3. 点击「新增配置文件」。

  4. 文件名写: /etc/nginx/nginx.conf。

  5. 文件值为刚刚复制的那段代码。

  6. 点击确认。

    alt
部署应用

填写完毕后，点击右上角的「部署」，即可完成部署。

修改 FastGPT 环境变量

  1. 进入刚刚部署应用的详情，复制外网地址

    注意：这是个 API 地址，点击打开是无效的。如需验证，可以访问: *.cloud.sealos.io/openai/api，如果提示 Invalid URL (GET /api) 则代表成功。

  2. 修改环境变量（是 FastGPT 的环境变量，不是 Sealos 的）：

   OPENAI_BASE_URL=https://tgohwtdlrmer.cloud.sealos.io/openai/v1

Done!

本文由 mdnice 多平台发布