ChatGPT API接口使用+fine tune微调+prompt介绍

sockstack / 259 / 2023-11-19 12:00:31

ChatGPT 可用网址，仅供交流学习使用，如对您有所帮助，请收藏并推荐给需要的朋友。 <a href="https://ckai.xyz/?sockstack&section=detail" target="__blank">https://ckai.xyz</a> <article class="baidu_pl"><div id="article_content" class="article_content clearfix">
<link rel="stylesheet" href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/editerView/kdoc_html_views-1a98987dfd.css">
<link rel="stylesheet" href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/editerView/ck_htmledit_views-25cebea3f9.css">
<div id="content_views" class="markdown_views prism-tomorrow-night">
<svg xmlns="http://www.w3.org/2000/svg" style="display: none;"><path stroke-linecap="round" d="M5,0 0,2.5 5,5z" id="raphael-marker-block" style="-webkit-tap-highlight-color: rgba(0, 0, 0, 0);"></path></svg>
<div class="toc">
<h3>目录</h3>
<ul>
<li>1 接口调用</li>
<li><ul>
<li>1.1 生成key</li>
<li>1.2 接口功能</li>
<li><ul>
<li>1.2.1 图片生成 (image generation)</li>
<li>1.2.2 对话(chat)</li>
<li>1.2.3 中文纠错 (Chinese Spelling Correct)</li>
<li>1.2.4 关键词提取 （keyword extract)</li>
<li>1.2.5 抽取文本向量 (Embedding)</li>
<li>1.2.6 微调 (fine tune)</li>
</ul></li>
</ul></li>
<li>2 如何写好prompt</li>
<li><ul>
<li>2.1分类任务</li>
<li>2.2 归纳总结</li>
<li>3.3 翻译</li>
<li>2.4 API接口多样性控制</li>
</ul></li>
<li>3 实用资料</li>
</ul>
</div>
 
<h1>
<a id="1__2"></a>1 接口调用</h1> 
我们可以用OpenAI 提供的API接口实现很多NLP的任务，还可以支持生成图像，提取embedding以及finetune的功能。接下来我们来看下具体怎么调用接口。 
<h2>
<a id="11_key_4"></a>1.1 生成key</h2> 
首先需要从网址：https://platform.openai.com/account/api-keys，生成我们的API key： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/07d7a491b5404e2486f723aa8bb435ae.png" alt="在这里插入图片描述"> 获得key后我们就可以调用API接口了。目前OpenAI 的 API 服务提供了一个免费的 API 计算单元 (ACU) 的额度，该额度可以用于测试和试用 OpenAI 提供的服务。免费的额度用完后，需要购买额外的 ACU 才能继续使用 OpenAI 的 API 服务。我们可以从Usage和Billing：https://platform.openai.com/account/usage 里去查看我们的免费额度以及进行额度充值： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/273df3ccb1fb4e929a41ea47a216323c.png" alt="在这里插入图片描述"> 
<h2>
<a id="12__9"></a>1.2 接口功能</h2> 
首先我们需要安装openai 
<pre><code class="prism language-bash">pip install openai
</code></pre> 
安装好openai以及获得API key后，我们就可以调用接口了，首先我们来看下openai能够提供的模型有什么： 
<pre><code class="prism language-python">import openai
openai.api_key = "sk-Wljk3BVhN0VieGCwAzEXT3BlbkFJ*******"models = openai.Model.list()for model in models['data']:print(model['id'])
</code></pre> 
我们可以看出，目前提供的模型有如下： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/84753f154f2f400ab674fc70664e4947.png" alt="在这里插入图片描述"> 接下来大概介绍一下我们应该怎样去调用接口，获取我们想要的结果。 
<h3>
<a id="121__image_generation_29"></a>1.2.1 图片生成 (image generation)</h3> 
<pre><code class="prism language-python">import openai
import json# 设置API密钥
openai.api_key = "sk-Wljk3BVhN0VieGCwAzEXT3BlbkFJ*******"def image_genaration(prompt):response = openai.Image.create(prompt=prompt,n=1,size="1024x1024")image_url = response['data'][0]['url']return image_urlif __name__=='__main__':prompt='a delicious dessert'result = image_genaration(prompt)print(result)</code></pre> 
prompt=‘a delicious dessert’, 其中返回url地址，我们将地址复制到浏览器中，打开看到如下图： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/c7766b55102e485baafd5c3cbfba1757.png" alt="在这里插入图片描述"> 当prompt=‘母亲在厨房忙碌着’，OpenAI返回的效果图如下： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/2e42e3c9341c4d55b0f9471e1e050058.png" alt="在这里插入图片描述"> 人物画像细节生成还不够逼真。来试一试中国的古诗词效果， prompt=‘踏花归去马蹄香’ <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/a6d1aac549f2425cba8799950b579d66.png" alt=""> 马蹄上应该画出一些蝴蝶🦋来表达马蹄的花香味啊，不太满意~😞 
<h3>
<a id="122_chat_62"></a>1.2.2 对话(chat)</h3> 
api接口调用代码如下所示： 
<pre><code class="prism language-python">import openai
import json# 设置API密钥
openai.api_key = "sk-Wljk3BVhN0VieGCwAzEXT3BlbkFJ*******"
def chat(prompt):response = openai.ChatCompletion.create(model="gpt-3.5-turbo",messages=[{"role": "user", "content":prompt}]
)answer = response.choices[0].message.contentreturn answerif __name__=='__main__':prompt='人口最多的国家'result = chat(prompt)print(result)
</code></pre> 
结果如下： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/d785ae08114a42378ac5f00c6701224c.png" alt="在这里插入图片描述"> 
<h3>
<a id="123__Chinese_Spelling_Correct_89"></a>1.2.3 中文纠错 (Chinese Spelling Correct)</h3> 
我们可以通过合理的写prompt，基于问答形式，让gpt-3.5做NLP任务。比如对中文纠错，我们可以这样写prompt，让chagpt能够做纠错NLP任务。如下所示： 
<pre><code class="prism language-python">def correct():prompt="改正错词输出正确句子:\n\n我在京东电商平台买了苹果耳几和华为体脂称" #建议prompt: 改正错词输出正确句子:\n\n input_sentenceresponse = openai.ChatCompletion.create(model="gpt-3.5-turbo",messages=[{"role": "user", "content":prompt}]
)answer = response.choices[0].message.contentreturn answerif __name__=='__main__':result = correct()print(result)
</code></pre> 
结果如下： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/33298cec47894126bb0d2cfc7b2e7801.png" alt="在这里插入图片描述"> 
<h3>
<a id="124__keyword_extract_110"></a>1.2.4 关键词提取 （keyword extract)</h3> 
<pre><code class="prism language-python">def keyword():prompt="对下面内容识别2个关键词，每个词字数不超过3个字:\n\n齐选汽车挂件车内挂饰车载后视镜吊坠高档实心黄铜玉石出入平安保男女 红流苏-玉髓平安扣" #建议prompt: 对下面内容识别n个关键词，每个词字数不超过m个字:\n\n input dataresponse = openai.ChatCompletion.create(model="gpt-3.5-turbo",messages=[{"role": "user", "content":prompt}]
)answer = response.choices[0].message.contentreturn answerif __name__=='__main__':result = keyword()print(result)
</code></pre> 
<img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/dc573ba3c41242cbb05f3fab9e7e6473.png" alt="在这里插入图片描述"> 对于不同的prompt，输出的结果差异也较大。所以对于具体的任务场景，我们需要尝试不同的prompt, 根据结果的反馈，不断的调整和优化prompt，从而得到更加准确的结果。 
<h3>
<a id="125__Embedding_130"></a>1.2.5 抽取文本向量 (Embedding)</h3> 
<pre><code class="prism language-python">def embedding():content = '苹果手机'response = openai.Embedding.create(model="text-embedding-ada-002",input=content
)answer = response.data[0].embeddingreturn answerif __name__=='__main__':result = embedding()print(len(result))print(result)
</code></pre> 
得到结果如下： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/a7429435c32c48af9f0898e234bf107c.png" alt="在这里插入图片描述"> 是一个1536维度的向量，我们可以基于文本的向量去做很多任务，比如计算两个向量的余弦值，计算相似性分值等。 
<h3>
<a id="126__fine_tune_151"></a>1.2.6 微调 (fine tune)</h3> 
openAI提供了接口可以用我们自己的数据进行fine tune，得到适应我们自己业务场景的新模型。假如我们需要训练一个适应我们自己领域知识的聊天机器人，我们可以按照下面流程来做fine tune。 
<ul><li>数据准备</li></ul> 
我们可以先把数据转成csv格式，需提供prompt列和对应的completion列，其中prompt相当于问题，completion就是对应的答案，如下是我们要用来fine tune模型的result.csv训练样本内容显示： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/07c3b81b84434c52abdeb35db6b362b1.png" alt="在这里插入图片描述"> 然后我们可以用openAI提供的数据处理工具对数据转成json格式的文件 
<pre><code class="prism language-powershell">openai tools fine_tunes.prepare_data -f result.csv
</code></pre> 
执行完后，我们会得到一个对应的json文件：result_prepared.jsonl 
<ul><li>
模型微调训练 接下来我们就可以用已有的模型 (ada, babbage, curie, davinci) 进行fine tune，官方给出的具体可以用来做微调的模型主要如下： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/b3fae9c1e7234cf3999531ff310259e2.png" alt="在这里插入图片描述"> 首先需要指定我们自己的API key：</li></ul> 
<pre><code class="prism language-powershell">export OPENAI_API_KEY="sk-Wljk3BVhN0VieGCwAzEX*********"
</code></pre> 
然后开始训练： 
<pre><code class="prism language-powershell">openai api fine_tunes.create -t result_prepared.jsonl -m ada
</code></pre> 
在这里用我们自己的数据result_prepared.jsonl，基于base model： ada模型提交fine tune任务。提交后会返回给我们一个JOB ID，通过这个job id我们可以跟进模型在远程服务器训练情况： 
<pre><code class="prism language-powershell"> openai api fine_tunes.follow -i ft-sWKDNnTmUyOGEdpvbAOvEaZt
</code></pre> 
我们可以看到结果如下： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/6eac7070d5b64c6cb64266b55631166a.png" alt="在这里插入图片描述"> 可以看到我们的模型训练好了模型名称叫做：ada:ft-personal-2023-03-27-03-24-09，然后我们就可以试用我们训练好的模型看效果了，测试如下： 
<pre><code class="prism language-powershell">openai api completions.create -m ada:ft-personal-2023-03-27-03-24-09 -p &lt;YOUR_PROMPT&gt;
</code></pre> 
其中&lt;YOUR_PROMPT&gt;写入我们要测试的问题就好。 
现在我们可以去远程服务器上查看下我们fine tune好的模型是否已经有了： 
<pre><code class="prism language-powershell">models = openai.Model.list()
</code></pre> 
发现有了刚刚fine tune的模型： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/c1ae2b5a7dd34f6b8f4359ca78d3d47f.png" alt="在这里插入图片描述"> 对于分类，实体识别等任务，OPNAI官网也提供了如何做处理数据，让模型做fine tune，详情可以参考官网https://platform.openai.com/docs/introduction/overview 
<h1>
<a id="2_prompt_200"></a>2 如何写好prompt</h1> 
prompt如何表达，对于chatgpt返回的答案会差异很大，通过prompt正确的表达问题，chatgpt才会返回更合适的结果。通过自己这些天的尝试以及官网给的提示，感受就是在写prompt时候，可以通过说明，例子，限制条件，修饰词等具体表达问题，这样chatgpt会给出更加精准的答案。接下来，我们对几种常见的任务，prompt应用如何写。 
<h2>
<a id="21_203"></a>2.1分类任务</h2> 
我们可以对prompt这么构造： 判断content属于A,B,C,D哪一种分类 content: detail 分类: 
对应的查询结果如下： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/512a5868a57f4076b4649a4843a0d4ad.png" alt="在这里插入图片描述"> 
<h2>
<a id="22__211"></a>2.2 归纳总结</h2> 
提供了非常强大能力，能够基于学到的广泛知识，给出问题解决方案，合理的建议，实施步骤，商业计划，人物描写等等。所以我们可以合理写prompt，更有意思的答案。 <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/3e89d064e71c4b4aa8e602e5532e1024.png" alt="在这里插入图片描述"> 
哈哈，看起来不够大胆，于是进一步发问： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/f6f572100ed74889bdad8178574f3752.png" alt="在这里插入图片描述"> 给出的这些答案果然更加激动人心。 
<h2>
<a id="33__219"></a>3.3 翻译</h2> 
我们可以将一种语言翻译成我们大多数其他语言。对于翻译任务，我们只需要写prompt表达我们的意愿就是： 将下面内容翻译成英语，日语，德语 content <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/3ac5f613a44c4fa3b327fc673e8e0085.png" alt="在这里插入图片描述"> 
<h2>
<a id="24_API_224"></a>2.4 API接口多样性控制</h2> 
在调用API接口的时候，我们可以通过设置两个参数=='temperature’和’top_p’来控制生成文本的多样性和可控度==。当temperature较高时，生成的文本会更加随机和多样化，而当temperature较低时，生成的文本会更加保守和可控。top_p参数用于控制生成文本的可控度，它会限制模型生成文本时可以选择的token的数量。具体来说，当top_p越低时，模型只考虑概率分布中累计概率最高的一部分token，而忽略其他低概率的token。这样一来，生成的文本就更加可控，因为只有那些最可能的token才会被考虑。而当top_p越高的时候，生成的文本可能会更加灵活和多样，因为模型会考虑更多的低概率token。每次调用的时候，我们可以设置这两个参数： <img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/62f782da9cd44e8da7d3d17f86d3c2c3.png" alt="在这里插入图片描述"> 
<h1>
<a id="3__227"></a>3 实用资料</h1> 
大模型训练平台：https://github.com/hpcaitech/ColossalAI 相关资料：中文精选资源清单
</div>
<link href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/editerView/markdown_views-0407448025.css" rel="stylesheet">
<link href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/style-c216769e99.css" rel="stylesheet">
</div>
<div id="treeSkill"></div>
</article>

作者

sockstack

许可协议

CC BY 4.0

发布于

2023-11-19

修改于

2024-12-21

上一篇：软件：常用 Linux 软件汇总，值得收藏下一篇：一文谈谈文心一言对比ChatGPT4.0的差距

尚未登录

ChatGPT API接口使用+fine tune微调+prompt介绍

文章分类

博客重构之路

Spring Boot简单入门

k8s 入门教程

MySQL 知识

NSQ 消息队列

ThinkPHP5 源码分析

使用 Docker 从零开始搭建私人代码仓库

日常开发汇总

标签列表

springboot

hyperf

swoole

webman

php

多线程

数据结构

docker

k8s

thinkphp

mysql

tailwindcss

flowbite

css

前端