PERSPECTIVA DEL FUNDADOR
La inteligencia artificial debería ayudarnos a comprender, no solo a responder
Una explicación debería facilitar el examen de sus fundamentos.
Por Brian Holman · Fundador y CEO, Dezota LLC
Una explicación clara puede ser de enorme ayuda cuando un tema parece complicado. Esa es parte de la razón por la que me interesa la inteligencia artificial. Abre oportunidades para ayudar a las personas a trabajar con información de formas más accesibles. Pero una explicación también influye: cuanto más fácil es leerla, más fácil puede ser aceptarla. En el software financiero, creo que la calidad de una explicación debe incluir la posibilidad de comprender qué la respalda.
Mi investigación independiente ha incluido trabajo con modelos de lenguaje de gran tamaño, generación aumentada por recuperación, transformación de contenido y búsqueda semántica. Estas ideas exploran distintas partes de un problema importante: encontrar material relevante y hacerlo más útil. A quien utiliza un producto le importa menos la terminología que el resultado. ¿Puede encontrar lo que buscaba? ¿Conserva la explicación el significado de la fuente? ¿Puede reconocer dónde se ha añadido una interpretación?
La generación aumentada por recuperación es un ejemplo útil de la distinción que quiero mantener. Incorpora material de fuentes seleccionadas al proceso de elaborar una respuesta. Por eso la selección y la interpretación de esas fuentes son partes importantes del diseño. Aun así, querría preguntar si el material es pertinente, si abarca la pregunta y si la respuesta va más allá de él. Vincular una fuente a una explicación debería invitar a examinar la conexión, en lugar de ser un motivo para dejar de preguntar.
Consideremos una pregunta hipotética sobre por qué cambió el saldo de una cuenta. Una respuesta fluida podría relacionar el movimiento con una noticia general del mercado. Pero los registros también podrían contener depósitos, retiros o información de fechas distintas. Querría que una herramienta financiera partiera de esos registros, distinguiera la aritmética de la explicación e hiciera visible la incertidumbre restante. Una respuesta que suena razonable no debería sustituir silenciosamente a la evidencia de lo que ocurrió.
Esto también determina cómo pienso sobre la evaluación. Una demostración útil es un comienzo. Las preguntas más difíciles aparecen cuando falta información, dos fuentes discrepan o un documento de apariencia familiar contiene algo inesperado. Necesitamos considerar qué debería dejar sin responder el sistema y cuándo debería una persona examinar el resultado más de cerca. Son responsabilidades de diseño que quiero que tomemos en serio a medida que avance el trabajo. Una respuesta pulida es solo una parte de la experiencia que deberíamos evaluar.
Hay espacio para la ambición sin suponer que cada pregunta necesita una respuesta generada por IA. Un cálculo claro, una fuente bien identificada o una pantalla más sencilla pueden resolver mejor algunas necesidades. Como arquitecto de WealthProof, quiero que la elección de tecnología siga a la necesidad. La IA aporta valor a nuestra dirección cuando ayuda a encontrar, interpretar y cuestionar información con mayor comprensión. El objetivo es una persona mejor preparada para ejercer su criterio, con la tecnología al servicio de esa responsabilidad.