創業者の視点
人工知能は答えるだけでなく、理解を助けるべき
説明は、その土台を確かめやすくするべきです。
著者：Brian Holman · Dezota LLC 創業者兼CEO
複雑に感じるテーマでは、明快な説明が大いに役立ちます。私が人工知能に興味を持つ理由の一つです。情報をより親しみやすく扱う支援の機会が生まれます。ただ、説明には影響力もあります。読みやすいほど、受け入れやすくなるかもしれません。金融ソフトウェアでは、読者が何に支えられた説明かを理解できるかも、その品質の一部であるべきだと考えます。
私の独立研究には、大規模言語モデル、検索拡張生成、コンテンツ変換、意味検索が含まれています。これらは、関連する資料を見つけ、より有用にするという重要な問題の異なる部分を探るものです。製品を使う人にとっては、専門用語より結果が重要です。探していたものを見つけられるか。説明は情報源の意味を保っているか。解釈を加えた場所を認識できるか。
検索拡張生成は、私が保ちたい区別の良い例です。選ばれた資料を、回答をつくる過程に取り入れます。そのため、資料の選択と解釈は設計の重要な一部です。それでも、その資料が関連し、問いをカバーし、答えが資料の範囲を越えていないかを問いたいと思います。説明に情報源を添えることは、そのつながりを確かめる招待であって、問いをやめる理由ではありません。
口座残高が変わった理由を問う仮の例を考えます。流暢な答えは、その変化を一般的な市場動向に結びつけるかもしれません。しかし記録には、入金、出金、異なる日付の情報も含まれ得ます。金融ツールには、そうした記録から出発し、計算と説明を分け、残る不確実性を明示してほしいのです。もっともらしい回答が、実際に何が起きたかの根拠をひそかに置き換えてはいけません。
これは評価の考え方にも影響します。役立つデモは出発点です。難しい問いは、情報が欠け、2つの資料が矛盾し、見慣れた文書に予想外のものが含まれるときに生まれます。システムが何を未回答にすべきか、いつ人が結果を詳しく調べるべきかを考える必要があります。開発の中で真剣に担いたい設計上の責任です。洗練された回答は、評価すべき体験の一部にすぎません。
すべての問いにAI生成の答えが必要だと思わなくても、ここには大きな可能性があります。明確な計算、適切なラベルの情報源、より簡単な画面が、よりよく役立つ場合もあります。WealthProofの設計者として、技術の選択はニーズに従ってほしいと考えます。AIが私たちの方向性に価値をもたらすのは、人が情報をより理解して見つけ、解釈し、問い直せるときです。目標は、よりよく判断できる人を支え、その責任を技術が助けることです。