Generative Retrieval の実用例について 2024/11/13

Generative Retrieval の実用例について見る

Generative Retrievalのチュートリアル論文を読むの続きです。今回はトレーニング方法や推論方法などはスキップして実際にGenerative Retrievalがどんな用途に使えそうなのかみていきます。

Applications, challenges & opportunities

ターゲットとなるタスクとして、

• 知識集約的な言語タスク
  • Fact Verification
  • Open Domain QA
  • Entity Linking
• より高度な？検索タスク
  • Multi-hop retrieval
  • Recommendation
  • Code retrieval
• 業界検索タスク
  • Official site retrieval

があげられる。

• KILTというのがKnowledge-intensive language task（知識集約的な言語タスク）として有名ぽい
• Multi-hopな検索は何となく適してそうなイメージ
  • 連続して検索結果を返すことができるから、それをマルチホップ検索の連鎖的な検索と似ていそう（）
• Recommendationも適していそう
  • スライドで紹介していたのは時系列としてインプットさせる方法で、時系列で何を買ったかをみてうまく次に買いたいアイテムを推薦するというもの

パフォーマンスの表がスライドに添付されていて、それを見ると一般的な密検索モデルよりも大規模なコーパスに対して、少ないメモリコストかつ少ないレイテンシーで検索できているそう

Generative Retrieval面白いですね。学習にはコストがかかりそうですが。。

それでは