診療所を東京で運営しています。LLMに業務の補助をしてもらうために、SSoTと人と対話して自律的に資料を集めるAIエージェントを作成してください。資料はLLM自身も読めるようにマ…
- User
診療所を東京で運営しています。LLMに業務の補助をしてもらうために、SSoTと人と対話して自律的に資料を集めるAIエージェントを作成してください。資料はLLM自身も読めるようにマークダウン形式で集めます。対話はslackを通して行います。できるだけ既存のパッケージを用いて作成してください。
Assistant
承知いたしました。東京の診療所向けに、SSoT (Single Source of Truth) を構築・維持し、Slack を通してスタッフと対話しながら自律的にマークダウン形式で情報を収集する AI エージェントを作成するプランをご提案します。既存のパッケージを最大限活用することを重視します。
システム構成案:
graph TD A[診療所スタッフ] -- 1. Slackでメンション/指示 --> B(Slack); B -- 2. イベント通知 --> C{Slack Bolt (Python)}; C -- 3. ユーザー入力処理 --> D{LangChain Agent}; D -- 4. LLMに指示/コンテキスト送信 --> E[LLM API (例: OpenAI GPT-4/3.5)]; E -- 5. 応答/質問生成 --> D; D -- 6. SSoT検索 (必要に応じて) --> F[情報ストア (Vector DB + Markdown)]; F -- 7. 検索結果 --> D; D -- 8. SSoT更新 (Markdown形式) --> F; D -- 9. Slackへ返信/質問 --> C; C -- 10. Slack API経由で送信 --> B; B -- 11. スタッフに応答表示 --> A; subgraph SSoT [情報ストア (SSoT)] direction TB F --> G[Vector Database (例: ChromaDB)]; F --> H[Markdownファイル (Git管理推奨)]; end style SSoT fill:#f9f,stroke:#333,stroke-width:2px style C fill:#ccf,stroke:#333,stroke-width:2px style D fill:#ffc,stroke:#333,stroke-width:2px利用する主要なパッケージ/サービス:
- LLM:
- OpenAI API (GPT-4 or GPT-3.5-turbo): 高性能で汎用性が高い。API が安定しており、LangChain との連携も容易。
- 代替: Anthropic Claude, Google Gemini なども検討可能ですが、ここでは OpenAI を前提に進めます。
- AIエージェントフレームワーク:
- LangChain (Python): LLM アプリケーション開発のデファクトスタンダード。エージェント機能、外部ツール連携、メモリ管理、プロンプトテンプレートなどが豊富。
- Slack連携:
- Slack Bolt for Python: Slack アプリ開発のための公式フレームワーク。イベントハンドリング、API 呼び出しが容易。
- 情報ストア (SSoT):
- Vector Database (ChromaDB): オープンソースでローカルでも実行可能。収集したマークダウン情報をベクトル化して保存し、意味的な検索 (RAG) を可能にする。LangChain との連携も容易。
- ファイルシステム + Git: 収集したマークダウンファイルの原本を保存。Git でバージョン管理を行うことで、変更履歴の追跡や復元が可能。
- その他:
python-dotenv: APIキーなどの機密情報を環境変数で管理。openai: OpenAI API を Python から利用。tiktoken: OpenAI のトークン数計算用。markdown: マークダウンのパースや処理が必要な場合。GitPython: Python から Git 操作を行う場合。
開発ステップ:
-
環境設定:
- Python 開発環境 (例: 3.10 以降) を準備。
- 必要なライブラリをインストール:
pip install langchain openai slack_bolt python-dotenv chromadb tiktoken GitPython markdown - OpenAI API キーを取得。
- Slack アプリを作成し、Bot Token を取得。必要な権限 (Scopes) を設定 (例:
app_mentions:read,chat:write,channels:history,users:read)。Socket Mode を有効にすると開発が容易です。App-Level Token も取得。 .envファイルを作成し、API キーやトークンを記述:OPENAI_API_KEY="sk-..." SLACK_BOT_TOKEN="xoxb-..." SLACK_APP_TOKEN="xapp-..." # Socket Mode用
-
SSoT (Markdown + ChromaDB) の準備:
- マークダウンファイルを保存するディレクトリを作成 (例:
clinic_docs)。このディレクトリを Git で管理することを推奨 (git init,.gitignore設定)。 - ChromaDB を初期化するコードを準備 (永続化設定を行う)。収集したドキュメントを後で追加・検索できるようにします。
- マークダウンファイルを保存するディレクトリを作成 (例:
-
Slack Bolt アプリの基本設定:
app.pyなどのファイルを作成し、Slack Bolt アプリを初期化。Socket Mode Handler を使用。- 環境変数からトークンを読み込む設定。
- Bot へのメンション (
@app_mention) をトリガーとするリスナーを設定。
import os from slack_bolt import App from slack_bolt.adapter.socket_mode import SocketModeHandler from dotenv import load_dotenv # LangChain関連のインポート (後述) load_dotenv() # Slack Bolt アプリの初期化 app = App(token=os.environ.get("SLACK_BOT_TOKEN")) # Botへのメンションを処理するリスナー @app.event("app_mention") def handle_mention(event, say): user_id = event["user"] text = event["text"] channel_id = event["channel"] thread_ts = event.get("thread_ts", event["ts"]) # スレッドで返信するためにtsを取得 # ここでLangChainエージェントを呼び出す (後述) # response = agent_executor.run(input=text) # 例 response = f"受け取りました: {text}\n<@{user_id}> さん、現在開発中です!" # 仮応答 say(text=response, thread_ts=thread_ts) # スレッドに返信 # アプリの起動 if __name__ == "__main__": handler = SocketModeHandler(app, os.environ["SLACK_APP_TOKEN"]) handler.start() -
LangChain エージェントの構築:
- LLM の設定: OpenAI モデルを LangChain で利用可能にする。
- ツールの定義:
- 情報検索ツール (RAG): ChromaDB から関連情報を検索するツール。
RetrievalQAチェーンなどを利用。 - 情報書き込みツール: ユーザーとの対話で得られた情報を解析し、適切なマークダウンファイルに追記・更新するカスタムツール。ファイルパスやファイル名を決定するロジックも含む。
- 質問ツール (Human-in-the-loop): エージェントが不明な点を Slack を通して人間に質問するためのツール。Slack Bolt の
say関数をラップして作成。
- 情報検索ツール (RAG): ChromaDB から関連情報を検索するツール。
- メモリの設定: 対話履歴を保持するためのメモリ (例:
ConversationBufferWindowMemory) を設定。スレッドごとにメモリを管理する工夫が必要になる場合があります。 - プロンプトの設計:
- エージェントの役割 (診療所業務補助、情報収集、マークダウン形式での記録)、SSoT の概念、利用可能なツール、応答形式などを指示するプロンプトを作成。
- 例: 「あなたは東京の診療所向けAIアシスタントです。スタッフとのSlackでの対話を通じて、診療所の情報を収集・整理し、マークダウンファイルとして
clinic_docsディレクトリに保存してください。情報は常に最新かつ正確であるべき(SSoT)です。不明点は必ず質問してください。まずは関連情報を検索し、なければ質問や情報更新を行います。」
- エージェントの初期化: 上記要素 (LLM, ツール, メモリ, プロンプト) を組み合わせて LangChain エージェント (例:
ConversationalChatAgentやOpenAIFunctionsAgent) を作成し、AgentExecutorで実行可能にする。
-
Slack Bolt と LangChain の連携:
handle_mention関数内で、受け取ったテキストを LangChain エージェントの入力として渡す。- エージェントの実行結果 (応答メッセージや、人間への質問) を
say関数で Slack に投稿する。 - スレッド (
thread_ts) を利用して、一連の対話を管理する。エージェントのメモリもスレッド ID に紐付けて管理できると良い。
-
情報書き込みロジックの実装:
- LangChain のカスタムツールとして実装。
- LLM が「この情報を
診療時間.mdに追記して」のような指示を出せるようにする。 - ツールは指示を受け取り、指定されたファイルパスにマークダウン形式で情報を書き込む。
- ファイルが存在しない場合は新規作成する。
- 重要: 書き込み前に内容を確認するステップを入れるか、あるいは Git で管理して後でレビューできるようにする。セキュリティと正確性を担保するため。
- 書き込み後、ChromaDB のベクトル情報も更新する(ファイルの内容を再読み込みしてベクトル化)。
-
デプロイと運用:
- 開発した Python アプリケーションをサーバー (例: EC2, Google Cloud Run, Heroku) や、常時稼働するマシンで実行する。
- Git リポジトリを設定し、
clinic_docsディレクトリの変更を定期的にコミット・プッシュする運用を検討。 - 定期的なメンテナンス、ライブラリのアップデート、ログ監視を行う。
- スタッフへの利用方法の説明とフィードバック収集。
注意点:
- 医療情報の取り扱い: 患者情報などの機密性の高い医療情報は、原則としてこのシステムでは扱わないように設計・運用してください。扱う場合は、 HIPAA や日本の関連法規・ガイドラインに準拠した厳格なセキュリティ対策とプライバシー保護が必要です。
- エラーハンドリング: Slack API や LLM API のエラー、ファイル書き込みエラーなど、適切なエラーハンドリングを実装してください。
- コスト管理: LLM API の利用料金に注意してください。利用頻度やコンテキスト長に応じてコストが変わります。
- SSoT の正確性: LLM が生成・整理した情報は必ずしも完璧ではありません。最終的には人間による確認・承認プロセスを設けることが重要です。Git の差分確認などが役立ちます。
このプランに基づき、まずは Slack Bolt での基本的なメッセージ送受信、次に LangChain で簡単な応答生成、そしてファイル書き込み・読み込み、最後に Vector DB 連携とエージェント化、という順序で段階的に開発を進めるのが良いでしょう。
- LLM: