형식적 AI 도입이 현장에서 실패하는 이유

AI 도입 실패는 예외가 아니라 다수다

수치가 이를 분명히 보여줍니다. 2025년 MIT의 'State of AI in Business' 연구는 300건 이상의 실제 도입 사례를 바탕으로, 생성형 AI를 도입한 조직의 약 95%가 손익에 측정 가능한 영향을 내지 못했다고 보고했습니다. 가트너 역시 2025년 말까지 생성형 AI 프로젝트의 최소 30%가 개념검증(PoC) 단계 이후 폐기될 것으로 예측했습니다. 화려한 데모와 실제 성과 사이의 간극, 이른바 '생성형 AI 디바이드'가 실재한다는 뜻입니다.

범용 AI는 우리의 판단 맥락을 모른다

실패의 핵심 원인 중 하나는 '맥락의 부재'입니다. 범용 AI는 일반적인 지식은 풍부하지만, 우리 회사가 비슷한 상황에서 과거에 어떻게 판단했는지는 전혀 모릅니다. 그래서 문법적으로 매끄럽지만 현장과 동떨어진 답을 내놓습니다. 가트너와 여러 분석은 명확한 사업 성과 정의의 부재와 'AI가 쓸 수 있게 정리된 데이터'의 부재를 반복되는 실패 원인으로 지목합니다.

결국 우리 조직의 판단이 자산으로 축적돼 있지 않으면, AI에게 줄 맥락 자체가 없습니다. AI가 헛도는 게 아니라, 줄 재료가 없는 것입니다. 같은 자재 문제, 같은 공정 지연을 두고 우리 회사가 작년에 어떻게 결정했는지를 AI가 모른다면, 아무리 똑똑한 모델이라도 교과서적인 일반론만 반복할 수밖에 없습니다.

'형식적 도입'의 함정

형식적 도입은 보통 이렇게 진행됩니다. 도구를 깔고, 데모를 보고, 전사 공지를 띄웁니다. 그러나 그 AI가 참조할 우리 조직의 판단 기록이 없으면, 직원들은 곧 '내 일을 모르는 AI'라고 결론짓고 다시 예전 방식으로 돌아갑니다.

• 성과 정의 없이 일단 도입 → 평가 불가 → 폐기
• 맥락 데이터 없이 범용 답변 → 현장 불신 → 미사용
• 사람을 대체하려는 설계 → 책임 공백 → 거부

통하는 도입의 조건: 맥락과 사람

현장에서 통하는 AI 도입은 두 가지를 갖춥니다. 첫째, 우리 조직의 판단이 구조화된 데이터로 쌓여 있어 AI가 '비슷한 상황에서 우리는 이렇게 했다'를 참조할 수 있어야 합니다. 둘째, AI가 판단을 대신하는 것이 아니라 초안까지만 돕고, 확정은 사람이 하는 구조여야 합니다. 맥락과 사람, 이 둘이 빠진 도입이 헛도는 것입니다.

순서를 뒤집어 생각하면 분명해집니다. AI를 먼저 깔고 데이터를 찾는 것이 아니라, 우리 조직의 판단을 자산으로 쌓는 일이 먼저입니다. 판단이 구조화돼 축적될수록 AI에게 줄 맥락이 두꺼워지고, 그제야 AI는 우리 일을 아는 도구가 됩니다. 형식적 도입이 실패하는 이유는 이 순서를 건너뛰기 때문입니다.