LA PROSPETTIVA DEL FONDATORE
L’intelligenza artificiale dovrebbe aiutarci a capire, non solo a rispondere
Una spiegazione dovrebbe rendere più facile esaminare le proprie basi.
Di Brian Holman · Fondatore e CEO, Dezota LLC
Una spiegazione chiara può essere enormemente utile quando un argomento sembra complicato. È uno dei motivi per cui trovo interessante l’intelligenza artificiale. Crea opportunità per aiutare le persone a lavorare con le informazioni in modi più accessibili. Ma una spiegazione esercita anche un’influenza: più è facile da leggere, più può essere facile accettarla. Nel software finanziario, credo che la qualità di una spiegazione debba comprendere la possibilità per chi legge di capire che cosa la sostiene.
La mia ricerca indipendente ha incluso grandi modelli linguistici, generazione aumentata dal recupero di informazioni, trasformazione dei contenuti e ricerca semantica. Queste idee esplorano aspetti diversi di un problema importante: trovare materiale pertinente e renderlo più utile. Per chi usa un prodotto, la terminologia conta meno del risultato. Riesce a trovare ciò che cercava? La spiegazione preserva il significato della fonte? Può riconoscere dove è stata aggiunta un’interpretazione?
La generazione aumentata dal recupero di informazioni è un esempio utile della distinzione che voglio preservare. Introduce materiale selezionato dalle fonti nel processo di produzione di una risposta. La selezione e l’interpretazione di quelle fonti diventano quindi parti importanti del progetto. Vorrei comunque chiedere se il materiale è pertinente, se copre la domanda e se la risposta va oltre. Allegare una fonte a una spiegazione dovrebbe essere un invito a esaminare il collegamento, non un motivo per smettere di fare domande.
Consideriamo una domanda ipotetica sul perché sia cambiato il saldo di un conto. Una risposta scorrevole potrebbe collegare il movimento a un quadro generale del mercato. Ma i documenti potrebbero contenere anche versamenti, prelievi o informazioni riferite a date diverse. Vorrei che uno strumento finanziario partisse da quei documenti, distinguesse l’aritmetica dalla spiegazione e chiarisse le incertezze residue. Una risposta che sembra ragionevole non dovrebbe sostituire silenziosamente le evidenze di ciò che è realmente accaduto.
Questo influenza anche il mio modo di pensare alla valutazione. Una dimostrazione utile è un inizio. Le domande più difficili emergono quando mancano informazioni, due fonti non concordano o un documento apparentemente familiare contiene qualcosa di inatteso. Dobbiamo considerare che cosa il sistema dovrebbe lasciare senza risposta e quando una persona dovrebbe esaminare il risultato più attentamente. Sono responsabilità progettuali che voglio prendere sul serio man mano che il lavoro si sviluppa. Una risposta ben formulata è solo una parte dell’esperienza che dovremmo valutare.
Qui c’è spazio per l’ambizione senza presumere che ogni domanda richieda una risposta generata dall’IA. Un calcolo chiaro, una fonte ben etichettata o una schermata più semplice possono talvolta svolgere meglio il compito. Come architetto di WealthProof, voglio che la scelta della tecnologia segua il bisogno. L’IA è preziosa per la nostra direzione quando aiuta qualcuno a trovare, interpretare e mettere in discussione le informazioni con maggiore comprensione. L’obiettivo è una persona più preparata a esercitare il proprio giudizio, con la tecnologia a sostegno di questa responsabilità.