GRÜNDERPERSPEKTIVE
Künstliche Intelligenz sollte beim Verstehen helfen, nicht nur antworten
Eine Erklärung sollte ihre Grundlagen leichter überprüfbar machen.
Von Brian Holman · Gründer und CEO, Dezota LLC
Eine klare Erklärung kann enorm helfen, wenn ein Thema kompliziert erscheint. Das macht künstliche Intelligenz für mich interessant. Sie eröffnet Möglichkeiten, Menschen einen zugänglicheren Umgang mit Informationen zu ermöglichen. Doch eine Erklärung übt auch Einfluss aus: Je leichter sie zu lesen ist, desto leichter wird sie womöglich akzeptiert. Bei Finanzsoftware gehört zur Qualität einer Erklärung meines Erachtens auch, ob ihre Leser verstehen können, worauf sie beruht.
Meine unabhängige Forschung umfasste große Sprachmodelle, Retrieval-Augmented Generation, Inhaltsumformung und semantische Suche. Diese Ideen erkunden verschiedene Teile eines wichtigen Problems: relevantes Material finden und nützlicher machen. Für Produktnutzer zählt die Terminologie weniger als das Ergebnis. Finden sie, wonach sie gesucht haben? Bewahrt die Erklärung die Bedeutung der Quelle? Erkennen sie, wo eine Interpretation hinzugefügt wurde?
Retrieval-Augmented Generation ist ein hilfreiches Beispiel für die Unterscheidung, die ich bewahren möchte. Dabei wird ausgewähltes Quellenmaterial in die Erzeugung einer Antwort eingebracht. Deshalb sind Auswahl und Interpretation dieser Quellen wichtige Designbestandteile. Ich würde weiterhin fragen, ob das Material relevant ist, die Frage abdeckt und ob die Antwort darüber hinausgeht. Eine Quelle zu einer Erklärung hinzuzufügen sollte zur Prüfung des Zusammenhangs einladen, statt weitere Fragen überflüssig erscheinen zu lassen.
Betrachten wir eine hypothetische Frage dazu, warum sich ein Kontosaldo verändert hat. Eine flüssige Antwort könnte die Bewegung mit einer allgemeinen Marktgeschichte verbinden. Die Unterlagen könnten jedoch auch Einzahlungen, Auszahlungen oder Informationen verschiedener Daten enthalten. Ein Finanzwerkzeug sollte von diesen Unterlagen ausgehen, Arithmetik und Erklärung unterscheiden und verbleibende Unsicherheit deutlich machen. Eine vernünftig klingende Antwort darf nicht stillschweigend Belege dafür ersetzen, was tatsächlich geschehen ist.
Dies prägt auch mein Denken über Evaluierung. Eine nützliche Vorführung ist ein Anfang. Die schwierigeren Fragen entstehen, wenn Informationen fehlen, zwei Quellen widersprechen oder ein vertraut wirkendes Dokument etwas Unerwartetes enthält. Wir müssen überlegen, was das System unbeantwortet lassen sollte und wann ein Mensch das Ergebnis genauer prüfen muss. Diese Designverantwortung sollten wir im Verlauf der Entwicklung ernst nehmen. Eine ausgefeilte Antwort ist nur ein Teil des Erlebnisses, das wir bewerten sollten.
Hier gibt es Raum für Ehrgeiz, ohne anzunehmen, dass jede Frage eine KI-generierte Antwort braucht. Eine klare Berechnung, eine gut beschriftete Quelle oder eine einfachere Ansicht kann manchmal besser geeignet sein. Als Architekt von WealthProof möchte ich, dass die Technologiewahl dem Bedarf folgt. KI ist für unsere Ausrichtung wertvoll, wenn sie jemandem hilft, Informationen mit mehr Verständnis zu finden, zu interpretieren und zu hinterfragen. Das Ziel ist ein Mensch, der besser urteilen kann, während die Technologie diese Verantwortung unterstützt.