著作一覧 |
- Bedrock Agentはシステムプロンプトに注意
これまでいろいろ試したが、Claude(3-sonnet)はシステムプロンプトの指示の比重が非常に大きい。
Bedrock AgentはシステムプロンプトはAgent Studioの設定が使いまわされるので、プロンプトで別系統の指示を出すと奇妙な結果となることがある。
単にAgent機能(API呼び出し)をしたいだけなら、直接BedrockRuntimeクラスを使ってtoolを設定するほうがはるかに良い結果を得られる(システムプロンプトを都度設定できるので)
おそらくBedrock Agentがバージョンごとにエイリアスを作れるのは、バージョンと考えるよりも、システムプロンプトを変えたエージェント(それ以外のたとえばナレッジベースは共通の場合など)を作成するための役割ではないか?
- BedrockRuntimeのconverseのtools機能は強力
BedrockAgentだとOpenAPI.ymlが必要だったり、エージェントを作ったリージョンにLambdaを配備したりする必要があるが、BedrockRuntimeでToolsを使う分にはそれらの考慮が不要。
・いずれにしろ、Claude-Lambda-実際のAPIと3段階が必要なのでToolsは一度呼び出し元に返ってもオーバーヘッドは変わらないのでは。
ジェズイットを見習え |