人類は、新しい引用APIを使用してClaudeモデルに直接RAGを構築します

Willisonは、ソースを引用している間、精度の検証に役立つが、それをうまく行うシステムを構築するのに「非常に難しい」ことがあるが、引用はモデルに直接ラグ機能を構築することで正しい方向への一歩のように思われると述べている。

どうやら、その機能は新しいものではありません。人類のアレックス・アルバート 書いた Xで、「フードの下で、クロードはソースを引用するように訓練されています。引用により、この能力を開発することができます。 APIを介して送信します。」

早期採用者は、有望な結果を報告しています

同社は、Claude 3.5 SonnetとClaude 3.5 HaikuモデルのCitationsを人類APIとGoogle CloudのVertex AIプラットフォームの両方を介してリリースしましたが、すでにこの分野で使用されているようです。

人類は、クロードを使用してその力を強化するトムソン・ロイターは cocounsel Legal AIリファレンスプラットフォームは、「幻覚リスクを最小限に抑え、AI生成コンテンツに対する信頼を強化するのに役立つ方法で引用を使用することを楽しみにしています。

さらに、Financial Technology CompanyのEndexは人類に、CEOのTarun Amasa氏によると、Reconse 1あたりの参照を20％増加させながら、引用が源泉徴収の補償を10％からゼロに減らしたと語った。

これらの主張にもかかわらず、リファレンス情報を正確に中継するためにLLMに依存することは、テクノロジーがより深く研究され、現場で証明されるまでリスクです。

人類はユーザーに標準のトークンベースの価格設定を請求しますが、応答の引用されたテキストは出力トークンコストにカウントされません。人類の標準API価格によると、100ページのドキュメントを参照として調達すると、Claude 3.5ソネットで約0.30ドル、Claude 3.5 Haikuで0.08ドルかかります。