在云服务器上搭建个人版chatGPT及后端Spring Boot集成chat GPT教程

sockstack / 313 / 2023-11-14 11:44:55

ChatGPT 可用网址，仅供交流学习使用，如对您有所帮助，请收藏并推荐给需要的朋友。
https://ckai.xyz

总结/朱季谦

本文分成两部分，包括【国内服务器上搭建chat GPT】和【后端Spring Boot集成chat GPT】。

无论是在【国内服务器上搭建chat GPT】和【后端Spring Boot集成chat GPT】，两个方式都需要魔法访问，否则是无法正常使用的，即需要具备正常访问谷歌或者 api.openai.com的能力。

至于什么是魔法访问，以及如何搭建魔法访问，请自行研究哈。

下面就开始讲解两部分的教程。


一、国内服务器上搭建chat GPT

首先，你需要准备以下东西：

1、一台可以访问公网的Linux云服务器，最低配置1核2G即可（当然，有钱可以任性，买最高配置）

2、chatGPT的密钥

3、开源的仿chatGPT的Docker镜像





1.1、准备一台云服务器

可以是腾讯云、阿里云或者华为云等，我分别在阿里云和华为云上都能正常搭建。


1.2、设置网络代理

在部署魔法访问的服务器上，需要在/etc/profile增加代理，确保通过密钥方式的chatGPT接口调用能正常访问：

export all_proxy=http://127.0.0.1:8889

export http_proxy=http://127.0.0.1:8889

export https_proxy=https://127.0.0.1:8889

export all_proxy=socks5://127.0.0.1:1080

这里的8889和1080需要根据你的魔法访问里的config.json来相应设置。

配置完成后，执行source /etc/profile，检验一下curl https://api.openai.com/

可以访问即没问题。可以继续往下走。


1.3、安装Docker

可以按照我以前记录的一篇关于搭建Docker的方式进行命令行按照CentOS7安装Docker遇到的问题笔记

搭建完成后，因为Docker的对外访问若需要走所在宿主的代理话，还需要设置以下操作——

创建一个~/.docker/目录，然后在该目录下新建一个config.json文件，在该文件里添加以下命令——

  1. {
       “default”:
       {
         “httpProxy”: “http://127.0.0.1:8889“,
         “httpsProxy”: “http://127.0.0.1:8889“,
         “noProxy”: “*.test.example.com,.example2.com,127.0.0.0/8”
       }
     }
    }


1.4、Docker镜像

目前网上GitHub已经开源了许多优秀的仿写chatGPT 页面的应用，我们无需再额外造轮子，只需要挑选其中一款用来打包部署成Docker容器运行即可。

我使用的是chatgpt-mirror这个开源项目。

直接克隆项目到对应的Linux服务器——

  1. git clone https://github.com/yuezk/chatgpt-mirror.git

在基于该开源项目以Dockerfile形式打包前，需要执行以下被依赖到的镜像——

  1. docker pull node:18-alpine
    docker pull node:18-slim

接下来，就可以执行以下操作来创建一个Docker镜像了——

  1. cd chatgpt-mirror
  2. —network host表示与宿主公用网络，即走代理，然后留意下最后有一个 .
    docker build —network host  -t chatgpt-mirror . 
  3. 正常执行成功后，通过该指令能看到一个新镜像
    docker images

具体情况如下：




image.png

然后需要在cd chatgpt-mirror环境里新增一个文件env，该文件里写入chatGPT密钥与宿主机器的代理：

  1. OPENAI_API_KEY=你的chatGPT密钥
    HTTP_PROXY=http://127.0.0.1:8889

完成以上操作后，最后在该目录chatgpt-mirror里执行——

docker run -itd —net host -p 3000:3000 -v /app/config.json:/app/config/app.config —env-file env chatgpt-mirror

正常执行完成后，即可在浏览上输入http://你的服务器ip:3000，就能出来一个外表仿chatGPT但内在是调用真实chatGPT接口的应用。

重点是，如此一来，你的电脑、平台、手机等终端都无需魔法访问，就能直接使用chatGPT了，而且响应速度比直连官网快一倍左右速度，无比丝滑！而且，没有像chatGPT官网直连那样经常出现响应异常以及断开的问题，协助效率大大增加。

以下就是访问搭建在我自己服务器上的chatGPT页面，是不是跟真实的很像。


image.png


二、后端Spring Boot集成chat GPT

注意，该方式同样需要魔法访问。

首先，在maven依赖引入以下配置——

  1. <dependency>
        <groupId>com.theokanning.openai-gpt3-java</groupId>
        <artifactId>service</artifactId>
        <version>0.11.1</version>
    </dependency>

编写以下代码——

  1. @GetMapping(“/ai”)
    public void sendMsg() throws InterruptedException {
        System.out.println(“开始提问题～”);
        System.out.println(“你是一个工作助手，情帮忙设计一份活动策划书” );
      //GPT_TOKEN即你的代码密钥
        OpenAiService service = new OpenAiService(GPT_TOKEN,Duration.ofSeconds(10000));
        CompletionRequest completionRequest = CompletionRequest.builder()
                    //使用的模型
                .model(“text-davinci-003”)
                //输入提示语
                .prompt(“设计一份活动策划书”)
                //该值越大每次返回的结果越随机，即相似度越小，可选参数，默认值为 1，取值 0-2
                .temperature(0.5)
                //返回结果最大分词数
                .maxTokens(2048)
                //与temperature类似
                .topP(1D)
                .build();
        service.createCompletion(completionRequest).getChoices().forEach(System.out::println);
        Thread.sleep(6000);
    }

CompletionRequest的属性文档介绍在这里——

https://platform.openai.com/docs/api-reference/completions/create

启动，调用该接口，即可正常使用chat GPT集成到SpringBoot后端代码里——




image.png

需要注意的是，若是部署在有魔法访问的Linux云服务，代码需要相应做一下调整，否则是无法访问到chatGPT的，会出现以下异常提示：java.net.ConnectException:Failed to connect to api.openai.com/2a03:2880:f10c:283:face:b00c:0:25de:443]

故而，需要做以下调整：

  1. public void send1Msg() throws InterruptedException {
  2.     <span class="token class-name">System</span><span class="token punctuation">.</span>out<span class="token punctuation">.</span><span class="token function">println</span><span class="token punctuation">(</span><span class="token string">"开始提问题～"</span><span class="token punctuation">)</span><span class="token punctuation">;</span>
  3.     <span class="token class-name">System</span><span class="token punctuation">.</span>out<span class="token punctuation">.</span><span class="token function">println</span><span class="token punctuation">(</span><span class="token string">"你是一个工作助手，情帮忙设计一份活动策划书"</span> <span class="token punctuation">)</span><span class="token punctuation">;</span>
  4.     <span class="token comment">//需要额外设置一个能访问chatGPT的魔法访问代理</span>
  5.     <span class="token class-name">ObjectMapper</span> mapper <span class="token operator">=</span> <span class="token function">defaultObjectMapper</span><span class="token punctuation">(</span><span class="token punctuation">)</span><span class="token punctuation">;</span>
  6.     <span class="token class-name">Proxy</span> proxy <span class="token operator">=</span> <span class="token keyword">new</span> <span class="token class-name">Proxy</span><span class="token punctuation">(</span><span class="token class-name">Proxy</span><span class="token punctuation">.</span><span class="token class-name">Type</span><span class="token punctuation">.</span>HTTP<span class="token punctuation">,</span> <span class="token keyword">new</span> <span class="token class-name">InetSocketAddress</span><span class="token punctuation">(</span><span class="token string">"127.0.0.1"</span><span class="token punctuation">,</span> <span class="token number">8889</span><span class="token punctuation">)</span><span class="token punctuation">)</span><span class="token punctuation">;</span>
  7.     <span class="token class-name">OkHttpClient</span> client <span class="token operator">=</span>  <span class="token function">defaultClient</span><span class="token punctuation">(</span>GPT_TOKEN<span class="token punctuation">,</span><span class="token class-name">Duration</span><span class="token punctuation">.</span><span class="token function">ofSeconds</span><span class="token punctuation">(</span><span class="token number">10000</span><span class="token punctuation">)</span><span class="token punctuation">)</span>
  8.             <span class="token punctuation">.</span><span class="token function">newBuilder</span><span class="token punctuation">(</span><span class="token punctuation">)</span>
  9.             <span class="token punctuation">.</span><span class="token function">proxy</span><span class="token punctuation">(</span>proxy<span class="token punctuation">)</span>
  10.             <span class="token punctuation">.</span><span class="token function">build</span><span class="token punctuation">(</span><span class="token punctuation">)</span><span class="token punctuation">;</span>
  11.     <span class="token class-name">Retrofit</span> retrofit <span class="token operator">=</span> <span class="token function">defaultRetrofit</span><span class="token punctuation">(</span>client<span class="token punctuation">,</span> mapper<span class="token punctuation">)</span><span class="token punctuation">;</span>
  12.     <span class="token class-name">OpenAiApi</span> api <span class="token operator">=</span> retrofit<span class="token punctuation">.</span><span class="token function">create</span><span class="token punctuation">(</span><span class="token class-name">OpenAiApi</span><span class="token punctuation">.</span><span class="token keyword">class</span><span class="token punctuation">)</span><span class="token punctuation">;</span>
  14.             <span class="token comment">//将设置的代理传给OpenAiService即可</span>
  15.     <span class="token class-name">OpenAiService</span> service <span class="token operator">=</span> <span class="token keyword">new</span> <span class="token class-name">OpenAiService</span><span class="token punctuation">(</span>api<span class="token punctuation">)</span><span class="token punctuation">;</span>
  16.     <span class="token class-name">CompletionRequest</span> completionRequest <span class="token operator">=</span> <span class="token class-name">CompletionRequest</span><span class="token punctuation">.</span><span class="token function">builder</span><span class="token punctuation">(</span><span class="token punctuation">)</span>
  17.             <span class="token punctuation">.</span><span class="token function">model</span><span class="token punctuation">(</span><span class="token string">"text-davinci-003"</span><span class="token punctuation">)</span>
  18.             <span class="token punctuation">.</span><span class="token function">prompt</span><span class="token punctuation">(</span><span class="token string">"设计一份活动策划书"</span><span class="token punctuation">)</span>
  19.             <span class="token punctuation">.</span><span class="token function">temperature</span><span class="token punctuation">(</span><span class="token number">0.5</span><span class="token punctuation">)</span>
  20.             <span class="token punctuation">.</span><span class="token function">maxTokens</span><span class="token punctuation">(</span><span class="token number">2048</span><span class="token punctuation">)</span>
  21.             <span class="token punctuation">.</span><span class="token function">topP</span><span class="token punctuation">(</span><span class="token number">1D</span><span class="token punctuation">)</span>
  22.             <span class="token punctuation">.</span><span class="token function">build</span><span class="token punctuation">(</span><span class="token punctuation">)</span><span class="token punctuation">;</span>
  23.     service<span class="token punctuation">.</span><span class="token function">createCompletion</span><span class="token punctuation">(</span>completionRequest<span class="token punctuation">)</span><span class="token punctuation">.</span><span class="token function">getChoices</span><span class="token punctuation">(</span><span class="token punctuation">)</span><span class="token punctuation">.</span><span class="token function">forEach</span><span class="token punctuation">(</span><span class="token class-name">System</span><span class="token punctuation">.</span>out<span class="token operator">:</span><span class="token operator">:</span><span class="token function">println</span><span class="token punctuation">)</span><span class="token punctuation">;</span>
  24.     <span class="token class-name">Thread</span><span class="token punctuation">.</span><span class="token function">sleep</span><span class="token punctuation">(</span><span class="token number">6000</span><span class="token punctuation">)</span><span class="token punctuation">;</span>
  25. }

部署在Linux云服务上的聊天返回打印效果——




image.png

以上就是关于【国内服务器上搭建chat GPT】和【后端Spring Boot集成chat GPT】教程，更多好玩的关于chat GPT相关的内容，可以关注我，因为我对这块很感兴趣，接下来会分享更多相关内容。有不懂的也可以后台问我。
在云服务器上搭建个人版chatGPT及后端Spring Boot集成chat GPT教程
https://sockstack.cn/archives/6552ed378d582
作者
sockstack
许可协议
CC BY 4.0
发布于
2023-11-14
修改于
2025-03-09
上一篇：软件：常用 Linux 软件汇总，值得收藏 下一篇：《花雕学AI》06：抢先体验ChatGPT的九个国内镜像站之试用与综合评测
Bonnie image
尚未登录
登录 / 注册

文章分类

标签列表

springboot

hyperf

swoole

webman

php

多线程

数据结构

docker

k8s

thinkphp

mysql

tailwindcss

flowbite

css

前端