인공지능이 전쟁터의 생사를 결정할 때: 자율 무기가 가져올 5가지 충격적 진실

1. 서론

오늘날 자율주행차는 도로 위에서 스스로 주차를 하고 차선을 유지하며 운전자의 개입을 빠르게 줄여가고 있습니다. 그렇다면 이러한 기술이 차도를 넘어 치열한 전쟁터로 이동한다면 과연 어떤 일이 벌어질까요? 전투 드론이 인간 조종자의 허락이나 개입 없이 스스로 적을 탐지하고 사격 여부까지 결정하는 시대가 정말 도래하는 것일까요?

군사 및 기술 전문가인 폴 샤레(Paul Scharre)는 우리에게 매우 날카롭고 직설적인 질문을 던집니다.

"프레데터(Predator) 드론이 자율주행차만큼의 자율성을 갖게 되어, 인간의 허락을 구하지 않고 스스로 나가서 적을 찾고 공격하는 모든 전투 기능을 독립적으로 수행할 수 있게 된다면 어떻게 될 것인가?"

스스로 목표를 지정하고 사격을 감행하는 이른바 '킬러 로봇(Killer Robots)'이나 자율 무기는 더 이상 먼 미래의 과학 소설 속 이야기가 아닙니다. 상업용 연구소와 전 세계 군 연구소에서 이 기술은 폭발적인 속도로 개발되고 있으며, 미사일과 드론, 해상 함정에 이르기까지 모든 영역으로 무섭게 확산되고 있습니다.

이제 우리는 무거운 근본적 질문에 직면해 있습니다. 기술의 진보가 전쟁을 더 인도적이고 정밀하게 만들 것인가, 아니면 그 과정에서 인간성마저 잃어버리게 만들 것인가? 결국 우리는 우리가 만든 창조물을 통제할 것인가, 아니면 창조물에게 통제당할 것인가?

2. 주요 핵심 요인 분석

2.1. 자율 무기는 미래의 일이 아니다: 이미 30개국 이상에서 '자동 공격 모드'를 사용 중이다

많은 이들이 인간의 개입 없는 자율 무기를 아직 도래하지 않은 미래의 위협으로 치부하곤 합니다. 하지만 실상은 다릅니다. 이미 수십 년 전부터 '풀 오토(Full-Auto) 모드'를 갖춘 자율 무기들이 전 세계 30개국 이상의 군대에서 실전 운용되어 왔습니다.

인간의 반응 속도를 아득히 뛰어넘는 초고속 미사일 공격에 대응하기 위해 개발된 방어 시스템들이 대표적인 예입니다.

패랭크스(Phalanx/C-RAM): 미 해군 함정 및 지상 기지 방어를 위해 사용되며, 특유의 돔형 외관 때문에 병사들 사이에서 'R2-D2'라는 별명으로 불립니다. 고속으로 날아오는 적의 미사일과 포탄에 인간이 일일이 대응하는 것은 불가능하기 때문에, 이 시스템은 레이더 신호와 속도를 스스로 분석해 표적을 추적하고 사격하는 완전 자동 모드를 탑재하고 있습니다.

패트리어트(Patriot) 및 이지스(Aegis) 전투 시스템: 이들 역시 인간의 통제 범위를 넘어서는 대규모 미사일 공격 상황에 대비해 자동 사격 모드를 갖추고 있으며, 이미 수십 년 전부터 전 세계에서 운용 중입니다.

공격형 자율 무기 역시 새로운 개념이 아닙니다. 이스라엘이 개발해 여러 국가에 수출한 하피(Harpy) 드론은 인간이 정확한 적의 위치를 알지 못해도 일단 발사하면 수백 킬로미터 상공을 최대 2시간 반 동안 순찰(Loitering)하면서 적의 레이더 신호를 스스로 탐지해 자폭 공격을 감행합니다.

분석과 반추: 치명적인 기술적 진보는 이미 수십 년 전부터 인간을 무기 체계의 즉각적인 주도권에서 분리해 왔습니다. 기계의 속도가 인간의 인지 능력을 압도하는 순간, 인간은 지휘관이 아닌 방관자의 위치로 밀려나게 됩니다.

2.2. 법적으로는 '합법적 표적'이지만, 도덕적으로는 절대로 쏠 수 없는 비극 (아프가니스탄의 경험)

폴 샤레는 과거 미 육군 레인저 저격수로 아프가니스탄과 이라크에 참전했던 자신의 생생한 실화를 통해, 법적 알고리즘과 인간 윤리 사이의 거대한 간극을 증명합니다.

아프가니스탄-파키스탄 국경 지대의 은폐물이 없는 산악 지대에 침투했던 그의 저격 팀은 인근 마을에서 보낸 5~6세 남짓한 어린 소녀와 마주쳤습니다. 소녀는 염소 몇 마리를 모는 척하면서 저격 팀 주변을 빙빙 돌았고, 곧이어 소녀가 가지고 있던 라디오에서 치직거리는 소리와 함께 미군의 위치를 탈레반 전투원들에게 제보하는 소리가 들렸습니다.

전시 국제법(Laws of War)의 관점: 국제법상 전투원 신분은 나이가 아닌 '교전 행위'로 결정됩니다. 소녀는 적에게 정찰 정보를 제공하여 교전 행위에 직접 참여하고 있었으므로, 법적으로는 사격 가능한 '합법적 전투원(Combatant)'이었습니다.

인간의 도덕적 직관: 하지만 저격 팀 중 누구도 그 어린 소녀를 쏘는 것을 고려조차 하지 않았습니다. 소녀는 자신이 무슨 일을 하는지도 모른 채 어른들에게 이용당하고 있었기 때문입니다.

"전시 국제법을 준수하도록 프로그래밍된 기계라면 이 어린 소녀를 살해했을 것입니다. 우리는 기계에게 합법적인 것과 올바른 것의 차이를 어떻게 가르칠 수 있을까요?"

더 나아가 인공지능은 복잡한 전장 맥락을 이해하지 못합니다. 국제법에는 부상을 입거나 항복하여 교전 능력을 잃은 전투원을 보호하는 '전투 불능(Hors de combat)' 원칙이 존재합니다. 하지만 기계는 적이 진짜 항복을 하는 것인지, 아니면 위장 항복(Ruse)을 하는 것인지 정밀한 맥락을 구분할 수 없습니다. 또한, 아프가니스탄 산악 지대처럼 치안이 부재한 지역에서 강도로부터 자신의 재산을 지키기 위해 총을 들고 다니는 무고한 주민과 실제 탈레반 전투원을 인공지능이 구분하는 것은 불가능에 가깝습니다.

분석과 반추: 명문화된 법률 규정만을 이진법 코드로 학습한 알고리즘은 인간 고유의 도덕적 직관, 문화적 맥락 이해 능력, 그리고 연민이라는 가장 인간적인 통찰을 결코 대체할 수 없습니다.

2.3. 적의 '통신 교란(Jamming)'이 역설적으로 무기의 자율화를 강제한다

원격 조종 드론의 가장 치명적인 약점은 조종사와 무기 사이를 연결하는 '통신 링크(Communications links)'입니다. 실제로 시리아 전선에서는 러시아군이 미군 드론의 통신 신호를 지속적으로 교란(Jamming)하는 전자전 사례가 빈번하게 발생했습니다.

통신이 끊겼을 때, 군 당국은 치명적인 기술적 패러독스에 직면하게 됩니다.

통신이 차단된 무기를 어떻게 할 것인가? 무기가 단순히 임무를 포기하고 돌아오게 할 것인가, 아니면 스스로 판단하여 공격을 수행하게 할 것인가?

임의 표적(Targets of Opportunity)과의 상충: 북한의 이동식 미사일 발사대처럼 사전에 위치를 알 수 없는 고가치 표적을 발견했을 때, 통신이 차단된 상태에서 무기가 스스로 공격 여부를 결정하도록 코딩해야 하는가?

이러한 딜레마는 나아가 물리적 충돌로 이어집니다. 과거 중국은 남중국해에서 운용 중이던 2,000만 달러 가치의 미군 수중 드론을 물리적으로 나포해버린 사건이 있었습니다. 만약 미 해군의 무인 함정인 '시 헌터(Sea Hunter)'나 장거리 대함 미사일(LRASM)처럼 고도의 자율성을 가진 2,000만 달러짜리 자율 자산이 적군에 의해 물리적으로 포획되려 할 때, 통신이 교란된 상태라면 기계 스스로 자위권(Self-defense) 사격을 하도록 허용해야 할까요?

분석과 반추: 적이 통신을 차단하고 물리적 자산을 위협할수록, 역설적으로 군대는 통신이 끊긴 상태에서도 무기가 독자적으로 살상 권한을 행사하도록 코딩해야 하는 압박에 시달립니다. 적의 방해 공작이 무기의 완전 자율화를 강제하는 촉매가 되는 셈입니다.

2.4. 사이버 공간과 드론 스웜: '플래시 워(Flash War)'의 진짜 위협

금융 시장에서는 주식 자동 매매 프로그램들이 밀리초(ms) 단위로 상호작용하다가 순식간에 시장을 폭락시키는 '플래시 크래시(Flash Crash)' 현상이 발생하곤 합니다. 주식 시장에는 급변동 시 매매를 정지시키는 '서킷 브레이커'나 감독 기관이 존재하지만, 전쟁터에는 아무런 심판도, 일시 정지 버튼도 존재하지 않습니다.

이러한 위협은 물리적 공간보다 기계의 처리 속도가 인간을 압도하는 사이버 공간과 군집(Swarm) 전투 영역에서 가장 먼저 가시화되고 있습니다.

드론 스웜(Swarm) 전투: 미 해군대학원 등에서는 10 대 10으로 드론 스웜이 공중에서 서로 교전을 벌이며 스스로 전술을 펼치는 고도의 군집 전투 실험이 진행되고 있습니다.

사이버 자율 공격: DARPA의 '사이버 그랜드 챌린지' 우승 시스템인 메이햄(Mayhem)은 인간의 개입 없이 스스로 소프트웨어의 취약점을 탐지하여 내 자산은 패치하고, 적의 시스템은 자동으로 공격 및 해킹합니다.

물리 공간과 달리 사이버 영역이나 드론 군집 전투에서는 인간의 반응 속도로 기계의 판단을 제어하는 것이 불가능합니다. 제어 제약을 벗어난 AI 무기들이 밀리초 단위로 충돌할 경우, 인간이 사태를 파악하기도 전에 순식간에 통제 불능의 '플래시 워(Flash War)'로 번질 위험이 극도로 높습니다.

분석과 반추: 기술의 속도가 인간의 인지 한계를 넘어서는 순간, 전쟁의 주도권은 지휘관의 전략적 판단에서 알고리즘 간의 무자비한 상호작용으로 넘어가게 되며, 이는 회복 불가능한 대재앙을 초래할 수 있습니다.

2.5. 군 내부의 관성과 실리콘밸리의 거부: 기술 발전의 의외의 걸림돌

자율 무기 기술은 폭발적으로 발전하고 있지만, 이를 실제 실전 배치하는 과정에서는 군 내부와 민간 테크 업계 모두에서 강력한 의외의 장벽에 부딪히고 있습니다.

관료주의와 '죽음의 계곡(Valley of Death)': DARPA나 해군연구소(ONR) 같은 최첨단 연구실에서 뛰어난 기술을 개발하더라도, 이를 실제 전력으로 상용화하기까지는 거대한 관료주의적 획득 절차와 위험 회피적 문화, 즉 '죽음의 계곡'을 넘어야 합니다. 미 해군의 스텔스 드론 X-47B는 항공모함 자율 이착륙과 공중 급유라는 난제에 최초로 성공했지만, 조종사 출신 중심의 군 내부 문화적 거부감으로 인해 결국 전투 드론으로 채택되지 못하고 공중 급유기 역할로 축소 퇴역했습니다.

실리콘밸리와 국방부의 문화적 갈등: 미 국방부가 드론 영상 데이터를 AI로 분석하려는 '프로젝트 메이븐(Project Maven)'을 추진할 당시, 구글 직원 3,000명 이상이 "살상 기술 개발에 협력할 수 없다"며 반대 서명에 참여했습니다. 민간 테크 기업의 인재들과 군 당국 사이의 가치관 차이는 기술의 군사적 적용에 큰 걸림돌이 되고 있습니다.

인재 확보 및 국가 전략의 격차: 반면, 중국은 2030년까지 AI 세계 리더가 되겠다는 명확한 국가 전략을 바탕으로 대규모 연구개발과 국가적 지원을 아끼지 않고 있습니다. 반면 미국은 국가 차원의 통합 AI 전략이 부재할 뿐만 아니라, 경직된 이민 정책으로 인해 해외 우수 STEM(과학·기술·공학·수학) 인재들이 미국에 정착하는 것을 스스로 막고 있습니다.

분석과 반추: 기술적 우위는 결코 자발적으로 유지되는 영토가 아닙니다. 제도적 관성, 인재 유출, 그리고 민관 사이의 문화적 격차는 기술 발전의 축을 흔들고 있으며, 이는 미래 안보 지형의 커다란 불확실성으로 작동하고 있습니다.

3. 결론 및 제언

자율 무기의 확산은 단순한 무기 체계의 세대교체나 기술적 진보의 문제가 아닙니다. 그것은 전장에서 '인간의 통제권(Human Control)'을 어디까지 유지할 것인가에 대한 존엄한 윤리적 결단입니다.

미 합참차장을 역임한 폴 셀바(Paul Selva) 장군 역시 군사적 우위를 확보하는 것 이상으로, 전쟁의 승패와 생사의 결정권을 기계에게 완전히 넘겨주지 않기 위해 '인간의 통제'를 끝까지 유지해야 한다고 강하게 강조합니다. 최전선의 군 전문가들조차 로봇에 의해 전쟁의 통제권을 상실하는 위험을 경고하고 있는 것입니다.

우리는 도로 위의 인명 사고를 줄이기 위해 자율주행 기술을 도입하듯, 전장에서도 더 정밀한 기술을 통해 부수적 피해를 줄이려는 시도를 할 수 있습니다. 그러나 그 과정에서 기계에게 생사의 판단 권한을 위임하는 순간, 우리는 돌이킬 수 없는 윤리적 낭떠러지로 떨어지게 될 것입니다.

Source: Paul Scharre, Army of None: Autonomous Weapons and the Future of War, Carnegie Council Podcast, May 8, 2018