「エージェント型AI」に欠けている視点

要約

• AIのエージェント性に必要なのは安全性のガードレールだけではない。オンラインのやり取りは構造的に非対称な交渉であり、エージェント型システムには集団交渉の仕組みが組み込まれるべきだ。

ポイント

• 著者はオンラインのあらゆるインタラクションを「交渉」として捉え、現状ではユーザーがプラットフォームやサービスに対して構造的な交渉力をほとんど持てないと指摘する。
• 一般的に語られる「エージェント型AI」はタスク実行と安全性に焦点を当てており、「エージェントが実際に誰の利益のために動くのか」という問いを避けている。
• 真のユーザー・エージェンシーとは、敵対的・利害不一致な環境においてユーザーの利益を代弁するAIシステムであり、単にタスクをこなすアシスタントではない。
• 集団交渉をメタファーとして用いることで、解決策が個々のモデルのアライメントやプロンプト設計の問題ではなく、システム的・アーキテクチャ的な問題であることが示唆される。

Hacker News コメント

• 現時点では実質的な議論は見られない。

原文 | HNで議論する

英語版: What’s Missing in the ‘Agentic’ Story · Original source