환각·오답·부실한 검색 같은 AI 문제는 결국 자금을 대지 않은 정보구조(IA) 프로젝트로 거슬러 올라간다. RAG는 fetch하는 문서 더미의 모든 결함을 그대로 물려받아, 구조가 없으면 '맞는 문서'가 아니라 '가장 시끄러운 문서'를 찾는다. 2025년 조사에서 데이터 품질·가용성이 AI 도입 장벽 1위로 다른 모든 장애를 앞섰고, 부실한 IA는 이제 토큰 비용으로 측정된다는 것이 요지다.
20년간 정보구조(IA)는 아무도 예산을 대지 않는 분야였다. 잘하는 일은 구조 자체보다 조직이 '한 가지 방식으로 이름 붙이고 배치하기'에 합의하게 만드는 것이고, 팀마다 어휘가 달라 그 정렬은 느리고 정치적이며 티가 안 났다. 그러다 AI가 도착하자 이 보이지 않던 토대가 대차대조표에 나타났다.
한때 혼란스러운 방문자로 끝났을 IA의 빈틈이, 이제는 환각·오답·엉뚱한 문서를 자신 있게 꺼내 행동에 옮기는 에이전트로 나타난다. RAG(검색 증강 생성)는 쿼리 시점에 문서를 fetch해 답을 근거 짓지만, 그것이 fetch하는 더미의 모든 결함을 그대로 물려받는다. 구조가 없으면 검색은 맞는 문서가 아니라 가장 시끄러운 문서를 찾는다.
2025년 조사에서 데이터 품질·가용성이 AI 도입 장벽의 1위로, 다른 모든 장애물을 앞질렀다. 더 나은 모델을 사고 더 날카로운 프롬프트를 튜닝하고 평가 레이어를 쌓아도, 아무도 정리하기로 합의하지 않은 더미에서 검색하는 한 오답은 계속된다. 부실한 IA는 이제 토큰 비용으로 측정되며, 두 번 지불하기 전에 토대부터 고쳐야 한다는 것이 저자의 결론이다.