한 팀이 만드는 AI 제품에는 문제를 풀어가는 동안 모델이 무엇을 하는지 옆 패널에 보여주는 기능이 있는데, 그 투명함이 사용자에게 '너무 솔직한' 건 아닌지를 두고 팀 내에서 논쟁이 벌어졌다. 필자는 우리가 AI를 모든 것에 확신하는 것처럼 말하게 만들었지만, AI가 배울 수 있는 가장 좋은 말은 "잘 모르겠다"라고 주장한다. 진짜 정보와 지어낸 정보가 섞여 확신에 찬 답 하나로 나오는데, 인터페이스는 그 과정을 보여주지 않는다는 문제 제기다.
AI 제품 UX에서 '정직함'은 추상적 가치가 아니라 화면 설계의 문제로 내려온다. 이 글은 한 팀이 실제로 부딪힌 결정을 통해 그 지점을 드러낸다.
제품에는 사용자가 문제를 풀어가는 동안 모델이 무슨 작업을 하는지 옆 패널에 보여주는 기능이 있다. 팀은 이 투명성이 오히려 사용자를 불안하게 만드는 '지나친 솔직함'인지를 두고 의견이 갈렸다. 필자의 입장은 분명하다. 우리는 AI를 모든 것에 확신하는 말투로 만들어왔지만, 진짜 정보와 지어낸 정보가 뒤섞여 하나의 확신에 찬 답으로 나오는 구조에서 인터페이스가 그 경로를 감추는 게 문제이며, AI가 익혀야 할 최선의 표현은 "잘 모르겠다"라는 것이다.
AI 기능을 붙이는 디자이너에게 이건 곧 할 일이다. 모델의 추론 과정·확신도·출처를 어느 수준까지 노출할지, 불확실할 때 이를 어떻게 시각적으로 표시할지를 정해야 한다. '보여주면 불안해 보인다'와 '숨기면 신뢰를 잃는다' 사이의 균형이 이 제품군의 핵심 UX 결정이 된다.