망설임을 삭제하는 기계

시스템의 오류 확률이 10퍼센트에 달한다는 사실을 군 지휘부도 알고 있었습니다. 그러나 분초를 다투는 전장 환경에서 기계의 연산 결과를 의심하고 거부한 지휘관은 드물었습니다.

화면 앞에 앉은 인간은 도덕적 판단의 주체가 아니라, 기계의 결정을 빠르게 통과시키는 승인 도장으로 전락했습니다.

고무도장이 된 인간과 자동화 편향

군사 기업과 정부는 여전히 '의미 있는 인간 통제'를 내세웁니다. 최종 방아쇠를 당기는 권한을 인간이 쥐고 있으므로 자율살상무기가 아니라 '의사결정지원체계'에 불과하다는 논리입니다.

하지만 심리학과 기술사회학이 경고해 온 자동화 편향(Automation Bias)은 전장에서 더욱 노골적으로 작동합니다. 극도의 공포와 시간 압박에 직면한 인간은 고도화된 연산 시스템의 추천을 거의 무비판적으로 수용합니다.

20초라는 시간은 신원을 재확인하거나 맥락적 증거를 따져보기엔 불가능한 틈새입니다.

그 결과 지원이라는 이름표를 단 소프트웨어는 사실상 완전 자율무기와 똑같은 살상력을 행사합니다. 인간 운용자의 존재는 실질적 통제가 아니라, 법적 규제를 우회하기 위한 형식적 알리바이로 기능합니다.

킬웹과 OODA 루프의 극단적 압축

과거의 군사 교리는 탐지-고정-추적-표적화-교전-평가로 이어지는 선형적 킬체인(Kill Chain)을 따랐습니다. 각 단계 사이에는 필연적으로 물리적 마찰과 보고, 승인을 거치는 숙의의 시간이 존재했습니다. 지휘관의 윤리적 망설임이나 법적 검토가 끼어들 수 있는 틈이었습니다.

현대 군사 전략은 팔란티어의 '고담(Gotham)'이나 미군의 '합동 전영역 지휘통제(CJADC2)'처럼 센서와 타격 자산을 거미줄처럼 엮는 킬웹(Kill Web)으로 진화했습니다.

데이터 그물망 위에서 전쟁은 실시간 분산 연산의 영역으로 넘어갑니다.

관찰-판단-결정-행동으로 이어지는 OODA 루프는 기계의 속도에 맞춰 극단적으로 압축됩니다. 이 초고속 연산 체계 안에서 인간 지휘관의 도덕적 고뇌와 법적 숙의는 체계 효율을 저해하는 버그이자 '지연 요소'로 간주됩니다. 지연 요소를 제거하는 것이 시스템 고도화의 목표가 될 때 윤리는 가장 먼저 삭제됩니다.

책임의 암흑상자화와 초고속 확전의 함정

AI 살상 체계가 낳는 가장 치명적인 공백은 책임의 증발입니다. 딥러닝 모델의 복잡성과 블랙박스 특성은 결과에 대한 인과적 설명을 가로막습니다.

참혹한 오폭과 민간인 학살이 벌어졌을 때, 군은 알고리즘의 오차와 데이터 한계 뒤로 숨습니다. 시스템을 납품한 방산 기업은 최종 승인 버튼을 누른 국가의 책임이라고 항변합니다.

아무도 의도하지 않았으나 모두가 가담한 무책임의 구조가 완성됩니다.

동시에 적대적인 두 진영의 AI 방어 및 타격 시스템이 마주칠 때 발생하는 초고속 확전(Flash War)의 위험도 구조화됩니다. 센서 오인이나 알고리즘 간의 미세한 상호작용이 연쇄 반응을 일으키며 인간이 개입할 틈도 없이 전면전으로 비화할 수 있습니다. 정밀성과 속도를 높여 전쟁을 통제하겠다는 기술적 야심이 전장을 통제 불능의 파국으로 몰아넣는 역설입니다.

Action Plan / Worksheet

군사 기술의 극단화는 일상과 조직에서 알고리즘에 의존하는 우리의 태도와도 직결됩니다. 효율이라는 이름 아래 판단을 위임하고 있지 않은지 점검해야 합니다.

• 의사결정 지원 도구의 추천을 검토할 때, 거부하거나 재검증할 수 있는 물리적 시간이 제도적으로 보장되어 있는가?
• 데이터 분석 결과를 검토할 때 '시스템의 오류 가능성'을 상수로 두고 반증을 찾는 절차를 두고 있는가?
• 결과에 오류가 발생했을 때 연산 도구를 탓하지 않고, 최종 승인자로서 책임을 명확히 질 수 있는 책임 귀속 구조를 확립했는가?
• 속도 향상과 효율성 증대가 조직 구성원의 윤리적 숙의와 비판적 사고를 방해하는 수준에 도달하지 않았는가?

기술이 인간에게서 빼앗아 간 것은 살상의 수고로움만이 아닙니다. 타인의 고통을 직시하고 멈칫거리는 도덕적 망설임의 시간 자체를 지워버렸습니다. 숙의가 사라진 자리에 남는 것은 매끄럽게 돌아가는 폭력의 기계 장치뿐입니다.

참고

• 김현준, 알고리즘이 된 전쟁: 군사 AI 진화가 초래한 인간의 도덕적 판단과 선택의 배제, 슬로우뉴스 (2026)
• Stop Killer Robots 보고서, 디지털 비인간화(Digital Dehumanisation) 개념 규정 (2026)
• 이스라엘군 인공지능 표적 시스템 '라벤더(Lavender)' 운용 현황 보도