====== Discord bot [ぷにら] ====== AI とおしゃべりできる Discord bot です。 AIVtuber とか AI キャラクタを見て、面白そうだし作ってみるかで始めたプロジェクト。 身内用の複数の Discord サーバに Bot を入れている。 {{rss>https://github.com/viasnake/punira/commits/master.atom 30 date author}} ===== コマンド ===== 無し。 厳密には管理用のコマンドが多数存在する。 ===== 使い方 ===== テキストチャンネル ''#punira'' を作成し、そこで ''@ぷにら'' でメンションすることで反応する。 例えば、''@ぷにら こんにちは'' というメッセージを送れば、''こんにちは''に対するメッセージが返ってくる。 ===== 過去バージョンについて ===== 今のバージョンは v3.2 となっているが、それ以前にも多数のバージョンがあった。 v3 までは基本的に背後にある LLM のモデルや学習状況に応じて、バージョンが変わっていた。 学習内容や性格設定が微妙に異なるので、ほぼ別物となっている。 ===== 技術背景 ===== 現状「ぷにら」は3段構成となっている。 - Discord bot - Dify - LLM ==== Discord bot ==== ここはオープンソースになっており、後述する Dify にメッセージを飛ばしたり、逆に返ってきたメッセージをよしなに解釈して送信する機能を備えている。 いわゆるフロントエンドに当たる部分。 ==== Dify ==== LLM と Discord bot の橋渡しをしている API サーバのこと。 OSS の [[https://dify.ai/|Dify]] を使っている。 いわゆるバックエンドに当たる部分。 ここで作業すれば、リアルタイムに会話状況や LLM の応答状況について詳しく知ることができる。 プロンプト周りの整形もこっちでやっている。 ==== LLM ==== GPT, Gemini, Llama とか。 コスパの観点で容赦なく API を使っている。 現状、オンプレに GPU を置くほど使用率が高くない。 どの LLM を使うかはその時の利用料や性能、都合によって変わる。 ===== Web UI ===== アクセス権限を持っている場合は ai.alflag.internal で会話が可能。