PERSPECTIEF VAN DE OPRICHTER
Kunstmatige intelligentie moet ons helpen begrijpen, niet alleen antwoorden
Een uitleg moet het makkelijker maken haar grondslagen te onderzoeken.
Door Brian Holman · Oprichter en CEO, Dezota LLC
Een duidelijke uitleg kan enorm helpen wanneer een onderwerp ingewikkeld aanvoelt. Dat maakt kunstmatige intelligentie voor mij mede interessant. Ze biedt kansen om mensen op toegankelijkere manieren met informatie te laten werken. Maar een uitleg heeft ook invloed: hoe makkelijker ze leest, hoe makkelijker ze kan worden aanvaard. Bij financiële software vind ik dat de kwaliteit van een uitleg ook afhangt van de vraag of de lezer kan begrijpen waarop ze berust.
Mijn onafhankelijke onderzoek omvat werk met grote taalmodellen, retrieval-augmented generation, inhoudstransformatie en semantisch zoeken. Deze ideeën verkennen verschillende delen van een belangrijk probleem: relevant materiaal vinden en bruikbaarder maken. Voor iemand die een product gebruikt, telt de terminologie minder dan het resultaat. Kan diegene vinden wat hij zoekt? Behoudt de uitleg de betekenis van de bron? Is herkenbaar waar een interpretatie is toegevoegd?
Retrieval-augmented generation is een nuttig voorbeeld van het onderscheid dat ik wil behouden. Het brengt geselecteerd bronmateriaal in het proces waarmee een antwoord ontstaat. Daardoor zijn de selectie en interpretatie van die bronnen belangrijke onderdelen van het ontwerp. Ik zou nog steeds willen vragen of het materiaal relevant is, of het de vraag dekt en of het antwoord verder gaat dan het materiaal. Een bron bij een uitleg moet uitnodigen om het verband te onderzoeken, niet om te stoppen met vragen stellen.
Neem een hypothetische vraag over waarom een rekeningsaldo veranderde. Een vloeiend antwoord kan de beweging verbinden aan een breed marktverhaal. Maar de gegevens kunnen ook stortingen, opnames of informatie van verschillende datums bevatten. Ik wil dat een financieel hulpmiddel vanuit die gegevens werkt, rekenwerk van uitleg onderscheidt en resterende onzekerheid duidelijk maakt. Een redelijk klinkend antwoord mag niet stilzwijgend bewijs vervangen over wat er werkelijk is gebeurd.
Dit bepaalt ook hoe ik over evaluatie denk. Een nuttige demonstratie is een begin. Moeilijkere vragen ontstaan wanneer informatie ontbreekt, twee bronnen het oneens zijn of een vertrouwd document iets onverwachts bevat. We moeten nadenken over wat het systeem onbeantwoord moet laten en wanneer een mens het resultaat nader moet onderzoeken. Dat zijn ontwerpverantwoordelijkheden die ik serieus wil nemen terwijl het werk zich ontwikkelt. Een verzorgd antwoord is maar één deel van de ervaring die we moeten beoordelen.
Er is ruimte voor ambitie zonder aan te nemen dat elke vraag een door AI gegenereerd antwoord nodig heeft. Een duidelijke berekening, een goed gelabelde bron of een eenvoudiger scherm kan soms beter werken. Als architect van WealthProof wil ik dat de technologiekeuze volgt uit de behoefte. AI is waardevol voor onze richting wanneer ze iemand helpt informatie met meer begrip te vinden, te interpreteren en te bevragen. Het doel is iemand die beter is toegerust om te oordelen, waarbij de technologie die verantwoordelijkheid ondersteunt.