2 분에 표적 찾아 20 초에 승인, 전쟁 AI 의 책임은 누가 질까

이가은

최근 미국과 이란 간의 전쟁 양상이 디지털 기술의 발전 속도를 단적으로 보여주고 있습니다. 특히 인공지능이 표적을 식별하는 데 2 분, 인간이 이를 검토하고 승인하는 데는 고작 20 초밖에 걸리지 않는다는 사실이 알려지면서 전쟁의 본질이 어떻게 변하고 있는지 많은 사람이 주목하고 있습니다.

과거에는 장교들이 지도를 펼쳐놓고 수시간 동안 표적을 분석하고 명령을 내렸다면, 이제는 AI 가 방대한 데이터를 순식간에 처리해 인간에게 최종 승인만 요청하는 구조로 바뀌었습니다. 이 같은 변화는 전쟁의 속도를 획기적으로 높였지만, 동시에 인간이 판단할 시간을 너무 많이 빼앗아 버렸다는 비판도 함께 제기되고 있습니다.

## 빠른 승인이 불러온 오폭의 진실

지난 2 월 미국과 이란 전쟁 초기, 이란 남부 미나브 지역에 위치한 한 초등학교가 미사일을 맞은 사건이 대표적인 사례입니다. 당시 해당 건물은 10 년 넘게 학교로 사용되고 있었지만, AI 표적 분석 시스템은 과거에 군사시설로 쓰였던 오래된 데이터를 기반으로 해당 건물을 적군 기지로 분류했습니다.

인간 운영자는 AI 가 추천한 표적을 20 초 만에 검토하고 승인 버튼을 눌렀을 뿐, 건물의 현재 용도가 학교로 변경되었는지까지 직접 확인하지 못했습니다. 이렇게 과거 데이터에 갇힌 AI 의 판단과 인간이 가진 시간적 압박이 맞물리면서 민간인 피해라는 치명적인 오폭이 발생한 것입니다.

전문가들은 단순히 승인 버튼만 누르는 행위가 진정한 인간 통제가 아니라고 지적합니다. AI 가 왜 그 건물을 표적으로 선정했는지, 어떤 데이터를 근거로 확률값을 산출했는지 이해하고 필요시 거부할 수 있어야 비로소 인간이 통제권을 가진다고 볼 수 있다는 것입니다.

하지만 실제 전쟁 현장에서는 AI 가 대량으로 생산해 내는 표적 목록을 인간이 하나하나 뜯어볼 시간이 부족합니다. 라벤더나 고스펠 같은 AI 시스템은 사람과 건물을 확률값으로만 분류해 내기 때문에, 인간은 그 숫자 뒤에 숨은 실제 상황을 파악하기 어렵습니다.

결과적으로 AI 의 빠른 추천에 의존하다 보니 데이터의 맥락이 생략된 채 공격이 결정되는 경우가 많아졌습니다.

## 인간은 AI 의 판단을 어떻게 통제해야 할까

한국과학기술한림원에서 최근 개최한 토론회에서는 전쟁과 AI 의 관계에 대해 깊이 있는 논의가 이루어졌습니다. 서울대 과학학과 교수들은 AI 가 전쟁을 빠르고 정밀하게 만드는 데 기여했지만, 인간이 사고하고 책임질 시간까지 앗아가고 있다고 진단했습니다.

전쟁의 속도가 빨라질수록 인간은 AI 의 판단을 맹신하게 되고, 이는 결국 검증 절차가 생략된 채 공격이 이루어지는 결과를 낳습니다. 특히 과거 군사시설로 사용된 기록이 남아있는 건물을 현재 용도와 무관하게 표적으로 선정하는 오류는 데이터의 갱신 주기와 AI 의 학습 방식이 전쟁의 실시간 상황과 괴리되었음을 보여줍니다.

이러한 문제는 단순히 기술적인 오류를 넘어 윤리적 책임의 문제로 이어집니다. AI 가 추천한 표적을 인간이 승인했을 때, 그 공격으로 인한 민간인 피해에 대한 책임은 AI 개발자에게 있는지, 아니면 승인한 지휘관에게 있는지 명확하지 않기 때문입니다.

만약 인간이 AI 의 판단을 이해하지 못한 채 기계적으로 승인만 했다면, 그 책임은 어디에 귀속될 것인지에 대한 질문은 앞으로도 계속될 것입니다. 전쟁의 속도가 빨라지면 빨라질수록 인간은 AI 의 블랙박스 안에 숨겨진 논리를 파악하기 어려워지고, 이는 결국 인간의 통제를 약화시키는 악순환을 만들 수 있습니다.

앞으로 전쟁 AI 를 어떻게 활용하느냐에 따라 전쟁의 양상은 크게 달라질 것입니다. 단순히 속도와 효율만 추구하다 보면 과거 데이터의 오류가 현재 참사로 이어지는 일이 반복될 수 있습니다.

따라서 AI 시스템이 표적을 선정할 때 사용하는 데이터의 최신성과 맥락을 인간이 쉽게 확인할 수 있는 인터페이스를 개발하는 것이 시급합니다. 또한 인간 운영자가 AI 의 추천을 맹신하지 않고, 필요시 거절할 수 있는 충분한 시간과 정보를 제공받는 프로세스가 정착되어야 합니다.

전쟁의 디지털화가 가속화되는 지금, 기술의 속도에 맞춰 인간의 판단력도 함께 성장할 수 있는 방안이 무엇인지 지켜보는 것이 중요합니다.