[AI角色对话]使用KoboldAI与AI猫娘无限制对话(数据私有化/可以NSFW)
本教程有两个前置条件
①可以使用Colab
②具备一定的英语对话能力
【资料图】
如果英语水平不足,可以使用翻译软件。或者,TavernAI有gpt3.5-turbo版,也就是说可以调用chatgpt的api,实现中文对话。
第一步——安装TavernAI并启动
①打开TavernAI的项目页面:https://github.com/TavernAI/TavernAI
下载后解压压缩包
②安装Node.js
https://nodejs.org/download/release/v19.1.0/
一路安装下去。
③安装环境依赖
来到刚刚解压的TavernAI文件夹,Shift+P,选择终端打开。
依次输入下方四个指令
需要注意的是,node server.js 是启动指令,以后要启动TavernAI,直接cd进去然后输入node server.js即可
当出现这个网页时,代表TavernAI已经成功安装。
第二步——使用Colab运行KoboldAI
打开KoboldAI的项目链接:https://github.com/KoboldAI/KoboldAI-Client
有TPU版本和GPU版本,我这里选择TPU版本。
点击左侧第一个按钮
然后出现个音乐播放,点击即可。
下方代码块,在Model处选择你要运行的模型。
KoboldAI的项目Readme里面有详细的模型介绍,大家可以看自己喜欢来选择。
我这里以默认的Nerys 13B V2为例子。点击左侧的按钮,代码块开始运行。如果你把use_google_drive 的勾打上了,那可能需要谷歌云盘授权。运行的时间大概在10分钟以内,大致流程是自动下载文件,安装依赖,下载模型,然后加载模型,耐心等待即可。
当出现类似于这种链接出现时,说明已经成功运行。打开此链接,检查能否访问。
成功访问
第三步——自定义AI角色人设
打开这个网站:https://zoltanai.github.io/character-editor/
选择右边的new character
开始你的自定义人设(请使用英文)
最后上传角色的头像
下方按钮导出
选择左侧下载角色卡片
请注意,这张png照片包含了你刚刚输入的所有人设信息。
第四步——导入角色设定并开始对话
回到之前的TavernAI页面,http://127.0.0.1:8000/
点击右上角的选项
点击Chaeacter→Import进行导入(UI作者内设了三个素晴世界的人设)
导入成功
选择该角色,会出现该角色的会话框,以及你设定的Greeting Message
最后打开Settings,复制刚刚的链接到api选项处,并点击connect
当出现绿色圆形并显示加载的模型名称时,代表TavernAI与KoboldAI连接成功。
至此,教程已结束。