DSPyを用いたローカルLLMのプロンプト最適化自動化の実験

Givery AI Labの村上氏が、DSPyを使ってローカルLLM (Gemma 4) による抽出タスクのプロンプト最適化を自動化した実験結果を報告しています。

• 抽出推論にはOllama経由のローカルLLM (Gemma 4) を、プロンプト改善にはAzure OpenAIのGPT系モデルと役割分担する構成を採用しました。
• DSPyフレームワークを活用することで、職務経歴書からの業界ラベル抽出タスクのプロンプト最適化を自動化できます。
• 推論と改善のモデルを使い分けることで、効率と精度のバランスを実現しています。

※ Claude Haiku 4.5 による自動要約です。原文を必ず確認してください。