미국 버몬트주에 기반을 둔 약국 체인 키니드럭스가 최근 도입한 AI 전화 상담원이 수백 건의 고객 불만을 안고 급거 철수했다. 이는 단순한 기술 시범 운영 실패를 넘어, 의료 서비스 현장에서 인공지능이 겪고 있는 현실적인 한계를 적나라하게 드러낸 사례로 주목받고 있다.
고객들은 AI 가 영어 대화 중 갑자기 스페인어로 응답하거나, 처방전 재주문 같은 간단한 요청에도 맥락을 놓치는 모습을 보이며 큰 혼란을 겪었다. 이러한 오류가 반복되자 고객들은 곧바로 고객센터를 통해 불만을 제기했고, 결국 약국 측은 도입 후 얼마 지나지 않아 시스템을 중단하기로 결정했다.
## 기술적 한계와 현장 감각의 괴리
이번 사태의 핵심은 AI 가 가진 기술적 제약과 실제 의료 서비스 환경 사이의 괴리에 있다. 관련 업계 관계자들은 AI 가 HIPAA 규정을 준수하고 데이터를 조작하지 않는다는 점에서는 문제없다고 평가했지만, 대화의 맥락을 유지하는 능력에서 치명적인 약점을 보였다고 지적한다.
특히 대화의 맥락을 기억할 수 있는 컨텍스트 윈도우가 5000 토큰 이하로 제한되어 있어, 복잡한 약국 업무 규칙이나 다양한 고객 문의를 처리하다 보면 지시사항을 잊어버리는 경우가 빈번했다. 이는 단순한 소프트웨어 버그가 아니라, 현재 상용화된 AI 모델이 가진 구조적 한계를 보여주는 대표적인 사례다.
전문가들은 기술 자체는 확장 가능하지만, 이를 의료라는 특수한 도메인에 적용하는 과정에서 발생하는 노이즈가 너무 크다고 말한다. 많은 스타트업이 기술적 가능성만 보고 의료 분야에 진입하지만, 실제 약사나 의료진이 가진 전문 지식을 충분히 반영하지 못한 채 서비스를 출시하는 경우가 많다.
결과적으로 AI 는 이론적으로는 완벽해 보이지만, 실제 고객과 대화할 때는 엉뚱한 답변을 하거나 중요한 정보를 놓치는 등 신뢰도를 떨어뜨리는 결과를 낳는다. 이는 2000 년대 초반 인도 콜센터 아웃소싱이 겪었던 실패와 유사한 양상을 보인다.
당시 비용 절감 효과를 기대하며 해외 인력을 도입했으나, 언어 장벽과 문화적 차이로 인해 고객 경험이 극도로 나빠졌던 전적이 있다.
## 의료 AI 도입의 새로운 기준과 향후 과제
키니드럭스의 사례는 의료 분야에 AI 를 도입하려는 기업들에게 중요한 교훈을 남겼다. 단순히 비용 절감이나 효율성만 고려해서는 안 되며, 실제 서비스 품질과 고객 경험까지 종합적으로 판단해야 한다는 점이다.
성공적인 AI 도입을 위해서는 단순한 기술 공급자가 아니라, 해당 산업의 전문성을 갖춘 파트너가 함께해야 한다. 실제로 일부 성공적인 AI 에이전트 기업들은 약사를 프로젝트 매니저로 채용하여 도메인 지식을 서비스에 직접 반영하고 있다.
이렇게 하면 AI 가 단순한 자동 응답기를 넘어, 실제 약국 업무 흐름에 자연스럽게 녹아들 수 있다.
앞으로 의료 서비스 분야에서 AI 가 자리 잡기 위해서는 기술적 안정성뿐만 아니라 현장의 미세한 뉘앙스를 이해할 수 있는 능력이 필수적이다. 고객들은 AI 가 인간처럼 대화하길 기대하지만, 현재 기술 수준에서는 여전히 한계가 명확하다.
따라서 기업들은 무리하게 AI 를 전면 도입하기보다, 특정 업무에 한정하여 점진적으로 테스트하고 개선해 나가는 전략이 필요하다. 특히 고객 불만이 누적되기 전에 빠르게 피드백을 수용하고 시스템을 수정할 수 있는 유연한 운영 체계가 갖춰져야 한다.
키니드럭스의 철수 결정은 AI 기술이 아직 의료 현장의 모든 것을 대체하기에는 준비가 덜 되었음을 시사한다. 하지만 이는 AI 의 종말을 의미하는 것이 아니라, 더 성숙한 형태로 진화하기 위한 과정으로 봐야 한다.
향후 의료 기관들은 AI 를 도입할 때 기술 벤더의 전문성과 실제 적용 사례를 면밀히 검토할 것이다. 고객 경험과 데이터 정확성을 최우선으로 삼는 새로운 기준이 정립된다면, AI 는 다시 한번 의료 서비스의 핵심 파트너로 자리 잡을 수 있을 것이다.
지금의 실패가 미래의 성공적인 도입을 위한 중요한 디딤돌이 될지 주목된다.
작성자 소개
