Discord bot [ぷにら]
AI とおしゃべりできる Discord bot です。
AIVtuber とか AI キャラクタを見て、面白そうだし作ってみるかで始めたプロジェクト。
身内用の複数の Discord サーバに Bot を入れている。
- ignore config.dev.json by viasnake (2024/12/25 15:12)
- minor fix by viasnake (2024/12/25 15:12)
- minor fix by viasnake (2024/11/28 09:48)
- no check characters by viasnake (2024/11/28 09:47)
- minor fix by viasnake (2024/11/28 09:46)
- update message format by viasnake (2024/11/28 09:44)
- allow any channel by viasnake (2024/11/28 09:23)
- Add confirmation message for global command sync by viasnake (2024/11/23 12:13)
- Add error handling for response text and implement conversation ID de… by viasnake (2024/11/23 11:39)
- remove user_id by viasnake (2024/11/23 11:29)
- More check query & asnwer by viasnake (2024/11/23 11:24)
- parse message by viasnake (2024/11/23 11:15)
- minor fix by viasnake (2024/11/23 11:01)
- minor fix by viasnake (2024/11/23 10:59)
- correctly handle conversation id by viasnake (2024/11/23 10:52)
- punira by viasnake (2024/11/23 10:14)
- More debug by viasnake (2024/11/23 10:08)
- format message by viasnake (2024/11/23 10:01)
- cleanup by viasnake (2024/11/23 09:58)
- error handling by viasnake (2024/11/23 09:48)
コマンド
無し。
厳密には管理用のコマンドが多数存在する。
使い方
テキストチャンネル #punira
を作成し、そこで @ぷにら
でメンションすることで反応する。
例えば、@ぷにら こんにちは
というメッセージを送れば、こんにちは
に対するメッセージが返ってくる。
過去バージョンについて
今のバージョンは v3.2 となっているが、それ以前にも多数のバージョンがあった。
v3 までは基本的に背後にある LLM のモデルや学習状況に応じて、バージョンが変わっていた。
学習内容や性格設定が微妙に異なるので、ほぼ別物となっている。
技術背景
現状「ぷにら」は3段構成となっている。
- Discord bot
- Dify
- LLM
Discord bot
ここはオープンソースになっており、後述する Dify にメッセージを飛ばしたり、逆に返ってきたメッセージをよしなに解釈して送信する機能を備えている。
いわゆるフロントエンドに当たる部分。
Dify
LLM と Discord bot の橋渡しをしている API サーバのこと。
OSS の Dify を使っている。
いわゆるバックエンドに当たる部分。
ここで作業すれば、リアルタイムに会話状況や LLM の応答状況について詳しく知ることができる。
プロンプト周りの整形もこっちでやっている。
LLM
GPT, Gemini, Llama とか。
コスパの観点で容赦なく API を使っている。
現状、オンプレに GPU を置くほど使用率が高くない。
どの LLM を使うかはその時の利用料や性能、都合によって変わる。
Web UI
アクセス権限を持っている場合は ai.alflag.internal で会話が可能。