GPT Demo 分享｜日不落直播间接入虚拟人AI互动

sockstack / 158 / 2023-11-06 23:54:33

ChatGPT 可用网址，仅供交流学习使用，如对您有所帮助，请收藏并推荐给需要的朋友。 <a href="https://ckai.xyz/?sockstack&section=detail" target="__blank">https://ckai.xyz</a> <article class="baidu_pl"><div id="article_content" class="article_content clearfix">
<link rel="stylesheet" href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/editerView/kdoc_html_views-1a98987dfd.css">
<link rel="stylesheet" href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/editerView/ck_htmledit_views-25cebea3f9.css">
<div id="content_views" class="markdown_views prism-atom-one-dark">
<svg xmlns="http://www.w3.org/2000/svg" style="display: none;"><path stroke-linecap="round" d="M5,0 0,2.5 5,5z" id="raphael-marker-block" style="-webkit-tap-highlight-color: rgba(0, 0, 0, 0);"></path></svg><h1>
<a id="_0"></a>摘要</h1> 
虚拟人和数字人是人工智能技术在现实生活中的具体应用，它们可以为人们的生活和工作带来便利和创新。在直播间场景里，虚拟人和数字人可用于直播主播、智能客服、营销推广等。接入GPT的虚拟人像是加了超强buff，具备更强大的自然语言处理能力和智能对话能力，可以实现更加智能化、自然化的人机交互。 
<ul>
<li>直播主播：虚拟人可以作为直播间的主播角色，通过与粉丝的对话和互动，提高粉丝的互动效果和兴趣</li>
<li>代替客服：数字人可以作为客服角色，通通过自然语言处理和智能对话，解决客户的问题，并提高客户满意度。</li>
<li>营销推广：虚拟人可以作为品牌形象进行推广，数字人可以通过客观数据进行精准营销，提高粉丝的黏性和忠诚度。</li>
</ul> 
<h1>
<a id="_8"></a>前言</h1> 
续上一篇文章《「GPT实战」GPT接入直播间实现虚拟人互动》 ，我们实现了ChatGPT与ZIM的对接。使得加入聊天群组就相当于加入了直播间，实时与ChatGPT文字互动。但还缺了点什么：直播间可不是只有文字，还有主播！接下来进入本文主题：如何接入虚拟人直播。 
虚拟主播我们可以通过即构Avatar进行个人化定制，之前在他们《官网》体验过Avatar Demo,一键可以打造多元化风格，支持Q版、二次元、动漫、拟人等多种风格，即构自研虚拟形象引擎强大AI驱动能力，四种驱动方式：表情驱动、声音驱动、文本驱动、肢体驱动。根据本期Demo需求定制了拟人版本的主播小姐姐。即构AvatarQ版形象软萌可爱含丰富的服饰和妆容素材库，推荐大家去体验。即构Avatar的文本驱动方式刚好符合咱们的业务需求。 
<img referrerpolicy="no-referrer" src="https://img-blog.csdnimg.cn/img_convert/ccd2d4c07d37642a281330abc20a90d6.png" alt="微信图片_20230529131522.png"> 
<h1>
<a id="1_ZIM_17"></a>1 加入ZIM房间，实时收发消息</h1> 
加入ZIM房间跟上一篇文章介绍的nodejs版原理一致： 
<blockquote> <ol>
<li>先登录ZIM</li>
<li>加入房间或创建房间</li>
<li>发送弹幕</li>
<li>监听房间消息，如果来自ChatGPT则朗读</li>
</ol> 
</blockquote> 
<h2>
<a id="11_ZIM_24"></a>1.1 创建ZIM对象</h2> 
首先引入ZIM库后，可以调用ZIM的create函数创建ZIM对象，然后调用ZIM对象的setEventHandler函数，将ZIMEventHandler对象传入。ZIMEventHandler主要用于处理一些回调事件如用户上线等回调事件。 
<pre><code class="prism language-java">public class ZIMMngr {/*** 创建ZIM对象*/private ZIM createZIM(Application app, ZIMEventHandler handler) {// 创建 ZIM 对象，传入 APPID 与 Android 中的 ApplicationZIM zim = ZIM.create(KeyCenter.APP_ID, app);zim.setEventHandler(handler);return zim;}//其他代码略...
}
</code></pre> 
<h2>
<a id="12__41"></a>1.2 群聊-登录、创建房间、加入房间</h2> 
登录即构服务首选需要token，生成token算法在附件源码已经给出，直接调用即可。但是需要注意，在这个Demo中直接在客户端上生成了，这是非常危险的操作，因为你的密钥和appid暴露出来了，黑客可以通过密钥和appid蹭你的额度费用。因此，建议把token计算放在服务器端生成。 
ZIM的createRoom函数用于创建房间，需要提供房间号；joinRoom函数用于加入房间，同样也需要提供房间号。具体代码如下所示： 
<pre><code class="prism language-java">public class ZIMMngr {//其他代码略..../*** 登录zim*/public void login(String userId, CB cb) {String token = ZIMMngr.getToken(userId);ZIMMngr.login(zim, token, userId, new ZIMLoggedInCallback() {@Overridepublic void onLoggedIn(ZIMError errorInfo) {if (errorInfo.getCode() != ZIMErrorCode.SUCCESS) {Log.e(TAG, "login error:" + errorInfo.getMessage());cb.complete(false, "登录失败");} else {cb.complete(true, null);}}});}/*** 加入房间*/public void joinRoom(String roomId, CB cb) {zim.joinRoom(roomId, new ZIMRoomJoinedCallback() {@Overridepublic void onRoomJoined(ZIMRoomFullInfo roomInfo, ZIMError errorInfo) {Log.e(TAG, "&gt;&gt;" + errorInfo.code);if (errorInfo.code == ZIMErrorCode.ROOM_DOES_NOT_EXIST) {cb.complete(false, "房间不存在！");} else if (errorInfo.code == ZIMErrorCode.SUCCESS || errorInfo.code == ZIMErrorCode.THE_ROOM_ALREADY_EXISTS) {cb.complete(true, roomInfo.baseInfo.roomName);}}});}/*** 创建房间*/public void createRoom(String masterId, String roomId, String roomName, CB cb) {ZIMRoomInfo groupInfo = new ZIMRoomInfo();groupInfo.roomID = roomId;groupInfo.roomName = roomName;zim.createRoom(groupInfo, new ZIMRoomCreatedCallback() {@Overridepublic void onRoomCreated(ZIMRoomFullInfo roomInfo, ZIMError errorInfo) {if (errorInfo.code == ZIMErrorCode.SUCCESS) {inviteJoinRoom(masterId, roomId, CHATGPT_ID, cb);//这里把chagpt的用户id硬编码} else {Log.e(TAG, "创建房间失败：" + errorInfo.message);cb.complete(false, "房号已存在，请更换一个房间号！");}}});}
}</code></pre> 
<h2>
<a id="13__110"></a>1.3 即时通讯实现收发消息</h2> 
接下来实现消息收发，主动发送消息与监听接收消息。注意，这里因为我们只关注弹幕消息，因此非弹幕消息过滤。发送消息封装两类： 
<ul>
<li>P2P</li>
<li>ROOM</li>
</ul> 
注意，因为我们这里只用弹幕消息，因此ROOM消息只表示弹幕消息。 
<pre><code class="prism language-java">public class ZIMMngr {//定义属性略..../*** 收到房间消息*/private void onRcvMsg(ArrayList&lt;ZIMMessage&gt; messageList) {if (mListener == null) return;for (ZIMMessage zimMessage : messageList) {if (zimMessage instanceof ZIMBarrageMessage) {//只看弹幕消息ZIMBarrageMessage zimTextMessage = (ZIMBarrageMessage) zimMessage;if (zimMessage.getTimestamp() &lt; this.startTime)continue;String fromUID = zimTextMessage.getSenderUserID();ZIMConversationType ztype = zimTextMessage.getConversationType();String toUID = zimTextMessage.getConversationID();Msg.MsgType type = Msg.MsgType.P2P; String data = zimTextMessage.message; Msg msg = Msg.parseMsg(data, fromUID, toUID, ztype == ZIMConversationType.ROOM);mListener.onRcvMsg(msg);}}} /*** 发送zim消息* */public void sendMsg(Msg msg, CB cb) {//p2p消息则发送Text，room发送弹幕类型消息ZIMMessage zimMsg = null;ZIMConversationType type;if (msg.type == Msg.MsgType.P2P) {ZIMTextMessage m = new ZIMTextMessage();m.message = msg.msg;zimMsg = m;type = ZIMConversationType.PEER;} else {ZIMBarrageMessage m = new ZIMBarrageMessage();m.message = msg.msg;zimMsg = m;type = ZIMConversationType.ROOM;}ZIMMessageSendConfig config = new ZIMMessageSendConfig();// 消息优先级，取值为 低:1 默认,中:2,高:3config.priority = ZIMMessagePriority.LOW;// 设置消息的离线推送配置ZIMPushConfig pushConfig = new ZIMPushConfig();pushConfig.title = "离线推送的标题";pushConfig.content = "离线推送的内容";config.pushConfig = pushConfig; zim.sendMessage(zimMsg, msg.toUID, type, config, new ZIMMessageSentCallback() {@Overridepublic void onMessageAttached(ZIMMessage message) {} @Overridepublic void onMessageSent(ZIMMessage message, ZIMError errorInfo) { cb.complete(errorInfo.code == ZIMErrorCode.SUCCESS, errorInfo.message); }}); } // 其他代码略....
}
</code></pre> 
上面代码只挑选了关键函数, 更多关于即构ZIM接口与官方Demo可以点击参考这里，或者参考附录源码。 
<h1>
<a id="2_Avatar_186"></a>2 创建虚拟形象-即构Avatar</h1> 
接下来需要创建虚拟形象，读者可以参考官方文档获取更多详细信息。 
需要注意的是，通过官方封装的ZegoCharacterHelper可以非常简单的创建<code>Avatar</code>。创建虚拟形象封装到setCharacter函数中，在程序初始化期间，需要执行initRes函数，将资源拷贝到SDCard。作为演示，这里是将Assets里面的相关资源拷贝到SDCard。在实际项目中，建议将资源存放在服务器端，通过离线下载的方式存储到SDCard。这样既可以降低安装包的大小，也更灵活。 
<pre><code class="prism language-java">public class AvatarMngr implements ZegoAvatarServiceDelegate {//属性定义略.... /*** 设置虚拟形象如衣服、头发、性别等*/private void setCharacter(User user) { // 创建 helper 简化调用// base.bundle 是头模, human.bundle 是全身人模mCharacterHelper = new ZegoCharacterHelper(FileUtils.getPhonePath(mApp, "human.bundle", "assets"));mCharacterHelper.setExtendPackagePath(FileUtils.getPhonePath(mApp, "Packages", "assets"));// 设置形象配置mCharacterHelper.setDefaultAvatar(ZegoCharacterHelper.MODEL_ID_FEMALE);// 角色上屏, 必须在 UI 线程, 必须设置过avatar形象后才可调用(用 setDefaultAvatar 或者 setAvatarJson 都可以)mCharacterHelper.setCharacterView(user.avatarView, () -&gt; {});mCharacterHelper.setViewport(ZegoAvatarViewState.half);mCharacterHelper.setPackage("ZEGO_Girl_Hair_0001");mCharacterHelper.setPackage("ZEGO_Girl_Tshirt_0001_0002");mCharacterHelper.setPackage("facepaint5");mCharacterHelper.setPackage("irises2"); updateUser(user); } private void initRes(Application app) {// 先把资源拷贝到SD卡，注意：线上使用时，需要做一下判断，避免多次拷贝。资源也可以做成从网络下载。if (!FileUtils.checkFile(app, "AIModel.bundle", "assets"))FileUtils.copyAssetsDir2Phone(app, "AIModel.bundle", "assets");if (!FileUtils.checkFile(app, "base.bundle", "assets"))FileUtils.copyAssetsDir2Phone(app, "base.bundle", "assets");if (!FileUtils.checkFile(app, "human.bundle", "assets"))FileUtils.copyAssetsDir2Phone(app, "human.bundle", "assets");if (!FileUtils.checkFile(app, "Packages", "assets"))FileUtils.copyAssetsDir2Phone(app, "Packages", "assets");}//...//其他代码略....//...
}
</code></pre> 
除了衣服、首饰、发型等"装饰类"形象定义，还可以捏脸，这里不详细描述，建议读者前往官网查看。即构Avatar官网。 
<h1>
<a id="4__238"></a>4 直播间虚拟人与粉丝互动聊天</h1> 
创建完虚拟人后，接下来将收到的ChatGPT消息朗读出来，使虚拟主播嘴巴动起来，互动玩法更好。首先执行initTextApi函数，初始化本地文字驱动引擎。接下来就可以调用ZegoTextAPI的playTextExpression函数，驱动虚拟人语音播报文字内容。 
<pre><code class="prism language-java">/*** 朗读文字（嘴唇+语音）
*/
public void playText(String text) {if (mTextApi == null) return;mTextApi.playTextExpression(text);Log.e(TAG, "&gt;&gt;&gt;&gt;已播放" + text);
}
/*** 初始化文本驱动接口
*/
private void initTextApi() {mTextApi = new ZegoTextAPI(mCharacterHelper.getCharacter());mTextApi.setTextExpressionCallback(new ITextExpressionCallback() {/*** 文本驱动播放启动时，回调*/@Overridepublic void onStart() {Log.d(TAG, "text drive start");}/*** 文本驱动播放出错时，回调* @param errorCode 错误码，详情请参考 [常见错误码 - 文本驱动](https://doc-zh.zego.im/article/14884#2)。*/@Overridepublic void onError(int errorCode, String msg) {}/*** 文本驱动播放结束时，回调*/@Overridepublic void onEnd() {Log.d(TAG, "text drive end");}});
}
</code></pre> 
文本驱动部分代码比较简单，也反映了官方对这块封装的比较好。播报文字主要借助即构avatar的文本能力，读者可以查看官方文档描述：官方文档。仔细阅读可以发现，关键核心代码非常少，附件里面的其他代码主要是开发App非核心代码。 
本文演示了从0开发、无须服务端开发完成的基于ChatGPT的虚拟人直播，任何人下载该App即可加入直播间。一些小伙伴可能并不需要开发一个虚拟人直播平台，而是想着在抖音、快手、视频号等平台实现虚拟人直播。这里提供一个实现思路： 
<ol>
<li>复用本文代码，可以实现ChatGPT回复、并将回复的文字驱动虚拟人</li>
<li>使用直播伴侣等工具录制虚拟人，推流到抖音平台</li>
<li>去github找开源工具，实时爬取直播间的弹幕</li>
<li>读取到弹幕后，调用ChatGPT得到回复，再回到第1步。</li>
</ol> 
未来想象方面，虚拟人接入GPT可以实现更加智能化、个性化的服务，可以预见的是，未来的虚拟人将更加人性化，通过情感计算等技术，可以实现更加真实、自然的人机交互。虚拟人还可以与物理机器人结合，成为未来的机器人助手，为人们的生活和工作提供更加便利的服务。 
<h1>
<a id="5_Github_292"></a>5 Github源码</h1> 
供一个实现思路： 
<ol>
<li>复用本文代码，可以实现ChatGPT回复、并将回复的文字驱动虚拟人</li>
<li>使用直播伴侣等工具录制虚拟人，推流到抖音平台</li>
<li>去github找开源工具，实时爬取直播间的弹幕</li>
<li>读取到弹幕后，调用ChatGPT得到回复，再回到第1步。</li>
</ol> 
未来想象方面，虚拟人接入GPT可以实现更加智能化、个性化的服务，可以预见的是，未来的虚拟人将更加人性化，通过情感计算等技术，可以实现更加真实、自然的人机交互。虚拟人还可以与物理机器人结合，成为未来的机器人助手，为人们的生活和工作提供更加便利的服务。 
<h1>
<a id="5_Github_301"></a>5 Github源码</h1> 
<ol><li>ChatGPT虚拟直播源码</li></ol>
</div>
<link href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/editerView/markdown_views-98b95bb57c.css" rel="stylesheet">
<link href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/style-c216769e99.css" rel="stylesheet">
</div>
<div id="treeSkill"></div>
</article>

作者

sockstack

许可协议

CC BY 4.0

发布于

2023-11-06

修改于

2024-09-04

上一篇：软件：常用 Linux 软件汇总，值得收藏下一篇：chatgpt赋能python：如何在Python中创建模块：完整指南

尚未登录

GPT Demo 分享｜日不落直播间接入虚拟人AI互动

文章分类

博客重构之路

Spring Boot简单入门

k8s 入门教程

MySQL 知识

NSQ 消息队列

ThinkPHP5 源码分析

使用 Docker 从零开始搭建私人代码仓库

日常开发汇总

标签列表

springboot

hyperf

swoole

webman

php

多线程

数据结构

docker

k8s

thinkphp

mysql

tailwindcss

flowbite

css

前端