창립자의 관점
인공지능은 답변만이 아니라 이해를 도와야 합니다
설명은 그 토대를 더 쉽게 살펴볼 수 있게 해야 합니다.
글: Brian Holman · Dezota LLC 창립자 겸 CEO
어떤 주제가 복잡하게 느껴질 때 명확한 설명은 큰 도움이 됩니다. 이것이 제가 인공지능에 관심을 갖는 이유 중 하나입니다. AI는 사람들이 더 쉽게 정보를 다룰 기회를 만듭니다. 하지만 설명에는 영향력도 있습니다. 읽기 쉬울수록 받아들이기도 쉬울 수 있습니다. 금융 소프트웨어에서는 독자가 설명을 뒷받침하는 내용을 이해할 수 있는지도 설명의 품질에 포함되어야 한다고 생각합니다.
저의 독립 연구에는 대규모 언어 모델, 검색 증강 생성, 콘텐츠 변환, 의미 기반 검색이 포함됩니다. 이 개념들은 관련 자료를 찾아 더 유용하게 만드는 중요한 문제의 각기 다른 측면을 탐구합니다. 제품 사용자에게는 용어보다 결과가 중요합니다. 찾던 것을 찾을 수 있나요? 설명이 원문의 의미를 보존하나요? 해석이 추가된 부분을 알아볼 수 있나요?
검색 증강 생성은 제가 지키고자 하는 구분을 보여 주는 좋은 예입니다. 선택한 출처 자료를 응답 생성 과정에 넣는 방식입니다. 따라서 출처를 선택하고 해석하는 일은 설계의 중요한 부분이 됩니다. 자료가 관련 있는지, 질문을 포괄하는지, 답변이 자료의 범위를 넘어가는지는 여전히 물어야 합니다. 설명에 출처를 붙이는 것은 질문을 멈출 이유가 아니라 그 연결을 살펴보라는 초대여야 합니다.
계좌 잔액이 왜 변했는지 묻는 가상의 질문을 생각해 봅시다. 유창한 답변은 그 변화를 시장의 전반적인 흐름과 연결할 수 있습니다. 하지만 기록에는 입금, 출금 또는 날짜가 다른 정보도 있을 수 있습니다. 금융 도구는 이러한 기록에서 출발하여 계산과 설명을 구분하고 남은 불확실성을 명확히 해야 한다고 봅니다. 그럴듯하게 들리는 답이 실제로 일어난 일에 관한 근거를 조용히 대신해서는 안 됩니다.
이러한 생각은 평가에 대한 관점에도 영향을 줍니다. 유용한 시연은 시작일 뿐입니다. 정보가 없거나, 두 출처가 서로 다르거나, 익숙해 보이는 문서에 예상하지 못한 내용이 있을 때 더 어려운 질문이 생깁니다. 시스템이 무엇을 답하지 않아야 하는지, 언제 사람이 결과를 더 자세히 살펴봐야 하는지 고민해야 합니다. 개발이 진행되는 동안 이러한 설계 책임을 진지하게 다루고 싶습니다. 잘 다듬어진 응답은 평가해야 할 경험의 일부일 뿐입니다.
모든 질문에 AI가 생성한 답변이 필요하다고 가정하지 않아도 큰 목표를 가질 수 있습니다. 때로는 명확한 계산, 잘 표시된 출처, 더 단순한 화면이 더 나은 역할을 합니다. WealthProof의 아키텍트로서 기술 선택이 필요를 따르기를 바랍니다. AI가 사람이 정보를 찾고, 해석하고, 질문하는 데 더 깊은 이해를 제공할 때 우리의 방향에 가치가 있습니다. 목표는 사람이 더 잘 판단할 수 있게 하는 것이며, 기술은 그 책임을 지원해야 합니다.