2024/11/16

今日は私の誕生日でした笑 ついに、22歳です。これからもがんばります…！

Large Language Model Powered Agents for Information Retrieval

SIGIR 2024のチュートリアル論文

https://llmagenttutorial.github.io/sigir2024

あんまりスライドだけだと一連の内容を理解するのは厳しかったので最後の課題の部分だけまとめました with LLM

信頼性と倫理に関する課題

• 過信の問題：不確実な質問への高い自信
• 未知の質問への不適切な対応
• 個人的・機密情報の保護の難しさ
• 倫理的境界の維持

エージェントの能力に関する課題

• タスクの将来的影響の正確な予測
• 会話における適切な主導権の取り方
• ユーザーの感情状態の正確な理解
• 道徳的誠実性の確保

評価に関する課題

• エージェントのパフォーマンス評価の複雑さ
• 安全リスクの迅速かつ包括的な識別
• 人間の価値観との整合性の検証
• ツールの模倣と実行の正確性

技術的な課題

• 未知の質問への適切な対応方法
• セルフアライメントによる継続的な改善
• 複雑なタスクにおける推論能力の向上
• 外部ツールとの効果的な統合

リスク管理の課題

• プライベートデータの漏洩防止
• 潜在的な経済的損失の回避
• エージェントの複雑化に伴うテストコストの増大
• 長期的な安全性の確保