prismBETA
← 디자이너 브리핑
2026-11-09 · 01 / 05

AI를 '넣을지' 정하는 네 가지 질문 감사법

Victor Yocco가 제품팀이 AI 기능을 넣기 전 점검할 실무 감사법을 제시한다. 한 대형 건강보험사가 항소 심사역을 위해 전체 판정문을 AI가 쓰게 했더니, AI 글을 서명할 만큼 꼼꼼히 읽는 데 직접 쓰는 것과 비슷한 시간이 들어 전문가들이 기능을 외면했다. 범위를 재조정해 AI가 관련 정책 조항과 과거 결정만 찾아주고 작성은 사람이 하게 바꾸자 검토 시간이 줄고 사용률이 회복됐다. 기술은 두 버전이 동일했고, 차이는 '작업의 어느 부분을 AI에 맡기느냐'였다. Cowan의 작업기억 한계(동시에 약 4개 항목)를 근거로, 인터페이스 변화는 사용자의 주의라는 같은 자원을 끌어다 쓴다고 설명한다.

모든 인터페이스 변화는 사용자에게 비용을 먼저 치르게 한다. 메뉴 재배치만 해도 사용자는 도구가 어떻게 작동하는지 머릿속 그림을 다시 그려야 한다. AI 기능은 여기서 한 단계 더 나아가 사용자가 하루 종일 하는 일 자체를 바꾼다. 합성을 AI에 맡기면 사용자는 결과를 검토하는 검증자가 되고, 추천까지 주면 역할이 '서명'으로 쪼그라든다.

건강보험사 사례가 이를 압축해 보여준다. 첫 버전은 판정문 전체를 AI가 작성하게 했지만, 심사역은 서명할 만큼 읽는 데 드는 시간과 자기라면 안 했을 실수까지 점검해야 하는 부담 때문에 쓰지 않거나 오히려 더 느려졌다. 두 번째 버전은 각 항소에 관련된 정책 조항과 과거 결정을 꺼내 보여주고 글쓰기는 사람에게 남겼다. 검색 단계가 사라지며 검토 시간이 줄고, 전문가가 잘하는 부분은 그대로 남았다. Ackerhans(2025) 연구는 AI 보조 결정에 서명하라고 요구받은 의사들이 직업 정체성에 더 큰 위협을 느꼈고, AI 추론을 설명하면 신뢰와 위협이 동시에 올라갔다고 보고한다.

핵심은 'AI를 쓸지'가 아니라 '작업의 어느 조각을 맡길지'다. 저자는 이를 네 가지 질문의 감사로 정리해, 기능이 사용자에게 지우는 검증·학습·신뢰 판단의 비용을 먼저 계산하라고 권한다.

투표
AI 기능, 검증 부담 따져보세요?
이 글이 도움이 되셨나요?
이야기의 흐름6
매주 월요일 아침 갱신 · 요약은 AI가 생성하며 출처 원문을 확인하세요.