创始人视角
人工智能应帮助我们理解，而不只是回答
解释应让其依据更容易接受检验。
作者：Brian Holman · Dezota LLC 创始人兼首席执行官
当一个主题显得复杂时，清晰的解释会非常有帮助。这也是人工智能吸引我的原因之一。它创造了机会，让人们能够以更易理解的方式处理信息。但解释也会产生影响：越容易阅读，可能就越容易被接受。对于财务软件，我认为解释的质量必须包括一个方面：读者能否理解支撑它的依据。
我的独立研究涉及大型语言模型、检索增强生成、内容转换和语义搜索。这些思路探索的是同一个重要问题的不同部分：找到相关材料，并使其更有用。对产品使用者而言，术语没有结果重要。他们能找到想找的内容吗？解释是否保留了来源的含义？他们能识别哪些地方加入了解读吗？
检索增强生成是说明我想保留的区别的一个好例子。它将选定的来源材料引入生成回答的过程。因此，来源的选择与解读成为设计的重要环节。我仍然会追问：材料是否相关，是否覆盖了问题，回答是否超出了材料范围。为解释附上来源，应该是邀请人们检查两者的联系，而不是让人们停止提问的理由。
设想有人询问账户余额为何发生变化。一个流畅的回答可能将变化与宏观市场叙事联系起来。但记录中也可能包含存款、取款，或不同日期的信息。我希望财务工具从这些记录出发，区分算术与解释，并明确剩余的不确定性。听起来合理的回答，不应悄悄取代证明实际发生情况的证据。
这也影响了我对评估的看法。一次有用的演示只是开始。当信息缺失、两个来源不一致，或看似熟悉的文件包含意料之外的内容时，更难的问题就会出现。我们需要考虑系统应该让哪些问题保持未解，以及何时需要由人更仔细地检查结果。随着工作推进，我希望我们认真对待这些设计责任。措辞精致的回答，只是我们应评估的体验的一部分。
我们可以抱有雄心，而不必假设每个问题都需要 AI 生成的回答。有时，一个清晰的计算、标注准确的来源或更简单的界面，可能做得更好。作为 WealthProof 的架构师，我希望技术选择服从需求。当 AI 能帮助人们更深入地查找、解读和质疑信息时，它才对我们的方向有价值。目标是让人更有能力作出判断，由技术支持这一责任。