POINT DE VUE DU FONDATEUR
L’intelligence artificielle devrait nous aider à comprendre, pas seulement à répondre
Une explication devrait faciliter l’examen de ses fondements.
Par Brian Holman · Fondateur et directeur général, Dezota LLC
Une explication claire peut être extrêmement utile lorsqu’un sujet paraît compliqué. C’est en partie ce qui rend l’intelligence artificielle intéressante à mes yeux. Elle offre des possibilités d’aider les personnes à aborder l’information de manière plus accessible. Mais une explication exerce aussi une influence : plus elle est facile à lire, plus elle peut être facile à accepter. Dans les logiciels financiers, je pense que la qualité d’une explication doit aussi se mesurer à la capacité du lecteur à comprendre ce qui la soutient.
Mes recherches indépendantes ont notamment porté sur les grands modèles de langage, la génération augmentée par récupération, la transformation de contenu et la recherche sémantique. Ces idées explorent différents aspects d’un problème important : trouver des éléments pertinents et les rendre plus utiles. Pour la personne qui utilise un produit, la terminologie compte moins que le résultat. Peut-elle trouver ce qu’elle cherchait ? L’explication conserve-t-elle le sens de la source ? Peut-elle reconnaître les endroits où une interprétation a été ajoutée ?
La génération augmentée par récupération illustre bien la distinction que je souhaite préserver. Elle intègre des sources sélectionnées au processus de production d’une réponse. Le choix et l’interprétation de ces sources deviennent ainsi des éléments importants de la conception. Je voudrais toujours demander si les documents sont pertinents, s’ils couvrent la question et si la réponse va au-delà. Associer une source à une explication devrait inviter à examiner ce lien, et non donner une raison de cesser de poser des questions.
Prenons une question hypothétique sur la raison pour laquelle le solde d’un compte a changé. Une réponse fluide pourrait relier ce mouvement à une tendance générale des marchés. Mais les documents pourraient aussi contenir des dépôts, des retraits ou des informations datant de moments différents. Je voudrais qu’un outil financier parte de ces documents, distingue l’arithmétique de l’explication et rende explicite toute incertitude restante. Une réponse qui paraît raisonnable ne devrait pas discrètement remplacer les éléments probants sur ce qui s’est réellement passé.
Cela façonne aussi ma façon de penser l’évaluation. Une démonstration utile n’est qu’un début. Les questions les plus difficiles apparaissent lorsqu’une information manque, que deux sources se contredisent ou qu’un document familier contient un élément inattendu. Nous devons réfléchir à ce que le système devrait laisser sans réponse et au moment où une personne devrait examiner le résultat de plus près. Ce sont des responsabilités de conception que je souhaite voir prises au sérieux à mesure que le travail progresse. Une réponse soignée n’est qu’une partie de l’expérience que nous devons évaluer.
Il y a de la place pour l’ambition sans supposer que chaque question appelle une réponse générée par l’IA. Un calcul clair, une source bien identifiée ou un écran plus simple peuvent parfois mieux convenir. En tant qu’architecte de WealthProof, je veux que le choix technologique découle du besoin. L’IA est précieuse pour notre orientation lorsqu’elle aide quelqu’un à trouver, interpréter et interroger l’information avec une meilleure compréhension. L’objectif est une personne mieux équipée pour exercer son jugement, avec une technologie qui soutient cette responsabilité.