CrabTrap: 本番エージェントを守るLLM-as-a-judge HTTPプロキシ

記事

• Brexが開発したHTTPプロキシ。エージェントのトラフィックをセキュリティ審査のために傍受する
• LLMをジャッジとして使い、リクエスト・レスポンスを通過前に評価する
• 本番環境でのプロンプトインジェクションや悪意あるエージェント挙動の検出を目的とする

議論

• 同じ領域で競合するアプローチを開発中のコメント投稿者がいる
• 懐疑派は「LLMでLLMを守るのはリスクを減らすどころか増やす」と主張
• 全体的な合意：エージェントセキュリティは手薄な領域だが、LLMジャッジのアプローチには議論の余地あり

HN（Hacker News）で議論を読む

原文（英語）: CrabTrap: An LLM-as-a-judge HTTP proxy to secure agents in production