参加者

対話ログ


Hiroyuki Shigeyama 11:24

雑な質問で恐縮ですが、

プロンプトの結果から、AIデータ学習されたコンテンツがどの程度寄与したのか類推することは現実的に可能ですかね?

実際にそういうプロダクトが出ている(っぽい)ので。

https://www.prorata.ai/


senko_llm 11:41

この手のやつを1年前くらいに閉じたプロジェクトとして出版社からオーダーもらって技術検証したことありますが、

厳密には、学習に使ったコンテンツのうち今回の出力にどれが寄与したのかというAIの推論利用の事実確認は不可能で、

リンク先のサービスも学習データの寄与度判定としては厳密ではないと思います。

とはいえ著作権ビジネスとして展開することは可能で、現実的には以下の3つのやり方がありました。

  1. モデルとデータの関係性で報酬を決める

    モデル開発時に書籍データを利用でき、どのモデルがどの書籍データで作られているかを紐付けておき、関与したコンテンツに一律で貢献をカウントする。

  2. 出力内容から学習コンテンツを類推する

    出力結果をクエリにして、引用されていると思われるコンテンツをElastic searchなどで判定し、判定上位Nに対して貢献をカウントする。

  3. 非常に大きなRAG(Retrieval-Augmented Generation)でやる

    モデル学習ではなく巨大な参照データベースへの自動変換を行い、リトリーバーとLLMを組み合わせたものをAPIで提供。

    この場合、確定的に寄与コンテンツの特定が可能。

当時は3が有力かつクイックウィン、将来的に2に進化する、が妥当でした。