AI・エージェント OpenAI Developer Community · 2024-07-30

この結論が本当にモデルの出力だと第三者に証明するには？

How do you prove to a third party that an API response really came from the model?

30秒でわかる要約

誰がOpenAI Developer Community · 2024-07-30 · 10 返信
何を求めているかこの結論が本当にモデルの出力だと第三者に証明するには？
何を作れるかAttestation for AI output: signed request/response pairs, timestamps and verifiable receipts.

元スレッドの発言

“3rd parties we're working with have no way of knowing if we generated those responses ourselves… there are implications.”
— OpenAI Developer Community · 2024-07-30 · community.openai.com/t/any-way-to-prove-api-returns-…

背景と課題

痛みのポイント

AIの結論が金融・医療・法務のフローに入ると、「誰が生成し、改ざんされていないか」を証明できなければなりません。

プロダクトの切り口

何を作れるか

Attestation for AI output: signed request/response pairs, timestamps and verifiable receipts.

検証のしかた

スレッドの返信をすべて読み、繰り返し出てくる具体的な場面を書き出します。繰り返しこそ需要の密度です。
「compliance / audit」関連の既存ツールを調べ、どの一部分しかカバーしていないかを確認します。
一言ランディングページを作り、OpenAI Developer Community に投稿して価格を聞く人が現れるか見ます。

既存の選択肢

模型厂商日志, 第三方审计平台

よくある質問

このニーズはどこから来たものですか？

OpenAI Developer Community の公開スレッド（2024-07-30 投稿、返信 10 件）から収録し、「AI・エージェント」分野に分類しています。全文脈はこちら：https://community.openai.com/t/any-way-to-prove-api-returns-to-3rd-parties/886785

世界のユーザーは具体的に何に不満を持っていますか？

3rd parties we're working with have no way of knowing if we generated those responses ourselves… there are implications. AIの結論が金融・医療・法務のフローに入ると、「誰が生成し、改ざんされていないか」を証明できなければなりません。

どんなプロダクトにできますか？

Attestation for AI output: signed request/response pairs, timestamps and verifiable receipts.

既存の代替案はありますか？

既存の選択肢：模型厂商日志, 第三方审计平台。ただし通常は一部の工程しかカバーしておらず、残りは手作業です。

同じ課題の他のスレッド

AIプラットフォームの弱点 (7)