많은 기업이 사용자가 새 AI 기능을 갈망한다고 가정하지만, 실제로는 대부분 그렇지 않다는 주장이다. AI 기능은 대개 기존 업무 흐름에 끼워 넣은 별도 도구·볼트온이라, 사용자를 원래 작업 방식에서 이탈시키고 오히려 일을 늘린다. AI는 조직의 데이터 품질·의사결정 같은 기존 문제를 고쳐주지 않고 증폭시키며, 환각을 찾아 고치는 검토 비용까지 사용자에게 떠넘긴다. 그 결과 많은 AI 기능이 높은 구축 비용에 비해 채택률·유지율이 낮다.
많은 조직이 "모두가 더 많은 AI를 원한다"고 암묵적으로 전제하고 새 AI 기능·제품·워크플로를 쏟아낸다. 하지만 필자는 현실은 반대라고 본다 — AI는 그 자체로 가치 제안이 아니며, 새 AI 기능이 자동으로 고객을 행복하게 만들지 않는다. 대부분의 AI 기능이 볼트온(별도 도구)으로 붙는 탓에 직원들은 원래 일하던 방식에서 빠져나와 또 하나의 시스템을 오가야 하고, 이는 종종 보람 없는 추가 노동이 된다.
AI는 조직의 지름길과 결함을 증폭시킨다. 데이터 품질부터 의사결정까지, 수년간 쌓인 임시방편·기술 부채·깨진 문화를 마법처럼 고치지 못하며 오히려 그 불일치를 더 도드라지게 만들어 사용자에게 떠넘긴다. 여기에 환각을 찾아 고치는 비용도 얹힌다 — 생성이 처음부터 쓰는 것보다 쉬워 보여도, 응답을 여러 번 검토해야 하는 실제 비용이 따른다.
프로덕트 디자이너에게 이 글은 AI 기능 설계의 기본 자세를 다시 잡게 한다. 사용자가 능동적으로 선택하지 못한 채 남의 속도로 들이닥치는 AI는 흥분이 아니라 변화에 대한 저항과 불안을 부른다. 새 AI 화면을 진입점으로 추가하기 전에, 그 기능이 기존 흐름 안에 자연스럽게 들어가는지, 검토·수정 부담을 어떻게 줄일지를 먼저 설계 문제로 다뤄야 한다는 함의다.