AskDonaのRAGは、外部データを検索させるだけでなく、タスクを実行できるカスタムツールを連携させることが可能です。外部データとカスタムツールを同時にLLMに送信することで、より柔軟にユーザーの質問に対する適切な回答もしくはタスクの実行をすることができます。AskDonaでは、RAG技術に加えてカスタムツールを統合することで、さらに高度な情報検索と生成を実現しています。
AskDonaの仕組み
検索フェーズ(Retrieval-Augmented): ユーザーからの質問を受け取り、OCR技術により整理された関連する情報をデータベースや文書から高度検索します。この段階で、AskDona独自の高度検索を活用して、回答に対する関連情報の選抜を行い生成に備えます。
生成フェーズ(Generation): 選抜された情報+ユーザーの質問+事前指示+カスタムツールを組み合わせたプロンプトを大規模言語モデルに入力し、テキスト生成もしくはカスタムツールにより実行された回答の結果を返します。
タスク指向の技術にして詳細はこちらのブログをご覧ください「大規模言語モデルのFunctionCallingとは?」