NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

 1个月前     38  

文章目录

AstrBot:

一个松耦合、异步、支持多消息平台部署、具有易用的插件系统和完善的大语言模型(LLM)接入功能的聊天机器人及开发框架。

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

主要功能:

  • • 大语言模型对话。支持各种大语言模型,包括 OpenAI API、Google Gemini、Llama、Deepseek、ChatGLM 等,支持接入本地部署的大模型,通过 Ollama、LLMTuner。具有多轮对话、人格情境、多模态能力,支持图片理解、语音转文字(Whisper)。
  • • 多消息平台接入。支持接入 QQ(OneBot)、QQ 频道、微信(Gewechat)、飞书、Telegram。后续将支持钉钉、Discord、WhatsApp、小爱音响。支持速率限制、白名单、关键词过滤、百度内容审核。
  • • Agent。原生支持部分 Agent 能力,如代码执行器、自然语言待办、网页搜索。对接 Dify 平台,便捷接入 Dify 智能助手、知识库和 Dify 工作流。
  • • 插件扩展。深度优化的插件机制,支持开发插件扩展功能,极简开发。已支持安装多个插件。
  • • 可视化管理面板。支持可视化修改配置、插件管理、日志查看等功能,降低配置难度。集成 WebChat,可在面板上与大模型对话。
  • • 高稳定性、高模块化。基于事件总线和流水线的架构设计,高度模块化,低耦合。

消息平台支持情况:

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

提供商支持情况:

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

管理面板在线体验 Demo:

https://demo.astrbot.app

准备

因为我是连接微信的,所以这里需要先部署一个微信机器人框架 Gewechat

Gewechat:

个人微信免费开源框架,支持二次开发、任意语言都可接入,Restful API接入。

框架优势:

简单易用,无接入难度,区别于其它开源项目,本框架无需用户安装电脑微信,无需安装手机破解插件,只需扫码登录即可使用,操作简单,目前是大厂最稳定的主流使用方案。

主要能力:

  • • 消息自动化、给指定对象(好友、群组)发送文本、图片、文件、emoji表情、小程序、语音等消息
  • • 自定义消息处理、自动回复、自定义关键字回复、AI回复、各种自定义类型、RPA自动化业务交互
  • • 群管理及好友管理、设置好友备注、邀请好友统计、拉好友进群等
  • • 各种业务模型接入,例如chatgpt、sora、大数据及客服模型
  • • 基于框架您可以创造更多有趣的功能...

项目架构设计:

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

Docker Compose

services:
gewe:
image: xmoxmo/gewe:latest
container_name: gewe
ports:
   - 2531:2531
   - 2532:2532
volumes:
   - /vol1/1000/docker/gewe/temp:/root/temp
privileged: true
restart: always

浏览器中输入 http://NAS的IP:2531 就能看到界面,说明正常运行这样就行了

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

内存占用还是比较大的,基本快 1G 了

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

安装

Docker Compose

services:
astrbot:
image: soulter/astrbot:latest
container_name: astrbot
ports:
   - 6180-6200:6180-6200
   - 11451:11451
volumes:
   - /vol1/1000/docker/astrbot:/AstrBot/data
   - /etc/localtime:/etc/localtime
restart: always

端口映射说明(更多参数设置建议去看文档)

6185(必须):AstrBot WebUI 默认端口

6195(可选):企业微信默认端口

6199(可选):OneBot(aiocqhttp) 默认端口

6196(可选):QQ 官方 API(Webhook) HTTP callback server 默认端口

11451(可选):Gewechat callback HTTP server 默认端口

使用

浏览器中输入 http://NAS的IP:6185 就能看到界面

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

输入用户名和密码都是:astrbot

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

修改用户名和密码

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

成功进入仪表盘

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

服务提供商,添加大语言模型

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

这里我用的是 Ollama 本地模型,按要求填写即可

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

聊天,测试一下模型是否可以正常调用

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

消息平台,添加一个接入消息的平台

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

TIP:

这里我用的是 Gewechat 微信机器人框架

右侧有详细的介绍,有需要的可以看看,这里我只说要注意的几个地方

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

base_url 是连接到 Gewechat 后端的 API 地址

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

host 为回调地址主机,即 AstrBot 的地址(不需要前缀 http://)

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

port 为回调地址端口,可不修改

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

设置完成点击保存

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

启用适配器,打开下面日志,可以看到二维码链接,复制到浏览器用手机扫码即可

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

配置完成就可以去微信测试一下,不过效果并不好

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

来到日志查看,是因为 deepseek-r1 不支持函数工具调用导致的

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

这里我将服务商我换成 openai 测试

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

再次发送消息,回复就正常了

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

TIP:

可自定义功能还有很多,这里就不详细展开了。可以根据自己实际情况设置,下面简单看看截图

配置,这里可以进行更加自由设置

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

插件市场,支持有挺多插件的

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

总结

AstrBot 确实挺不错的,配置相对来说很简单,只需要接入模型和消息平台就好了,其他设置默认就可以用了。当然扩展性也不错,支持模型服务商挺多的,插件很丰富,可自定义设置项很详细。不管是小白还是大神都适用。

当然这里还是要强调,微信很容易封号,不要用大号去测试。

综合推荐:⭐⭐⭐⭐(确实不错,而且支持多平台)

使用体验:⭐⭐⭐⭐(既可以很简单,也可以很专业)

部署难易:⭐⭐⭐(需要相互联动)︎

资源占用,主要还是微信框架占用内存比较大,AstrBot 倒是还好

NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人

 

 

 

 

 

 

 

 

 

版权声明:ming 发表于 1个月前,共 2306 字。
转载请注明:NAS 部署 AstrBot:将大模型接入微信等平台,打造 AI 聊天机器人 | 开心啊

您可能感兴趣的

暂无评论

暂无评论...