Amazonは5月14日（現地時間）、Amazon Bedrockにおいて「高度なプロンプト最適化」機能の提供を開始したと発表した。
今回の新機能により、開発者はAmazon Bedrock上の任意のモデルに対するプロンプトを最適化でき、元のプロンプトと最適化後のプロンプトを最大5つのモデル間で同時に比較できるようになった。
「高度なプロンプト最適化」では、開発者が既存モデルから新しいモデルへの移行や、現行モデルの性能向上を容易に図れる。提示したプロンプトテンプレートや入力例、正解データ、評価指標を使って、プロンプト最適化ループを自動で実行し、最終的なプロンプトだけでなく、評価スコアやコスト見積もり、応答のレイテンシも出力する。
また、Lambda関数による独自指標、LLMジャッジによる評価基準、自然言語でのステアリング基準から選択できる。画像やPDF等のマルチモーダル入力（png, jpg, pdf）にも対応しており、ドキュメント・画像分析など幅広いプロンプトの最適化が行える。
手順としては、Amazon Bedrockコンソール上で最適化ジョブを作成し、最大5つの推論モデルを選択、JSONL形式でプロンプトテンプレートやデータを用意し、評価用のLambdaやルーブリックも指定できる。評価結果や最適化されたプロンプトは、指定したS3上に出力される。
高度なプロンプト最適化機能は、東京リージョンを含む複数の主要リージョンで利用可能だ。料金は最適化時に消費されたBedrock推論トークン数に基づく従量課金制になる。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です