많은 기업이 모두가 새 AI 기능을 원한다고 가정하지만, 실제로는 대다수가 지금 방식의 AI를 원하지 않아 AI 기능의 도입률·리텐션이 낮고 전달 비용은 높다는 지적이다. AI는 별도 도구로 붙어 기존 업무 흐름에서 사람을 이탈시키고, 할루시네이션을 찾아 고치는 검증 비용까지 사용자에게 떠넘긴다고 본다.
이 글은 'AI는 그 자체로 가치 제안이 아니다'라는 명제를 실무 관점에서 전개한다. 많은 조직에서 AI 기능은 기존 시스템 위에 얹힌 별도 도구로 등장하고, 사용자는 이미 여러 분절된 시스템을 오가는 상황에서 또 하나의 도구를 오가야 한다. 결과적으로 일은 더 늘고 보람은 적으며, AI가 만든 응답을 여러 번 검토·수정해야 하는 비용까지 발생한다.
디자이너에게 이 관점은 AI 기능 스펙을 검토할 때의 체크리스트가 된다. 'AI를 붙이면 사용자가 좋아할 것'이라는 전제 대신, 그 기능이 기존 작업 흐름 안에 자연스럽게 녹아드는지, 할루시네이션 검증 부담을 사용자에게 전가하지 않는지, 조직의 데이터 품질·의사결정 문제를 AI가 오히려 사용자에게 드러내 떠넘기는 건 아닌지를 먼저 따져야 한다.