Provider of in-depth & balanced analysis on hot issues around the world

Read in English	Leer en español	In Deutsch lesen
Gap
اقرأ بالعربية	Lire en français	Читать на русском

초록

이 논문은 무력 분쟁과 전쟁에서 인공 지능의 역할과 인공 지능이 국제 안보에 미치는 영향에 대해 다룬다. 이 논문은 빠르게 늘어나는 최신 문헌을 참고해 작성되었다. 이 논문은 새롭게 부상하는 신기술이 군사력에 결정적이고 잠재적으로 변혁적인 영향을 미칠 것이라는 가정에서 출발한다.

이 논문은 현대 무력 분쟁에서 자율 무기의 역할을 조명해 보려고 한다. 이를 통해 전 세계의 학자, 군 지도자, 정책 입안자 사이에서 벌어지고 있는  최근의 논쟁, 즉 AI가 미래의 불안정과 강대국 간의 경쟁의 원천이 될 가능성에 관한 논쟁에 힘을 보태고자 한다.

본 논문은 너무 늦기 전, 즉, AI가 인지 기술을 습득하기 전 AI가 주도하는 자율 무기와 무기 시스템의 개발, 확산 및 사용을 규제해야 할 시급한 필요성이 있다고 제안한다.

1. 정의

브리태니커 백과사전은 인공지능(AI)이 일반적으로 지적인 존재와 관련된 작업을 수행하는 디지털 컴퓨터 또는 컴퓨터 제어 로봇의 능력이라고 정의한다. 이 용어는 종종 추론, 의미 발견, 일반화 또는 과거 경험으로부터 학습하는 능력과 같은 인간의 지적 프로세스를 갖춘 시스템을 개발하는 프로젝트에 적용된다.1

흥미롭게도 AI는 기계, 특히 컴퓨터 시스템에 의한 인간 지능 프로세스의 시뮬레이션을 지칭하는 것으로 정의된다. 이러한 프로세스에는 학습, 추론, 문제 해결, 지각 및 언어 이해가 포함된다. AI는 기계가 시각적 인식, 음성 인식, 의사 결정 및 자연어 처리와 같이 일반적으로 인간의 지능이 필요한 작업을 수행할 수 있도록 한다. AI 기술은 기계 학습, 신경망, 딥 러닝 및 기계가 인지 기능을 모방할 수 있도록 하는 기타 고급 알고리즘을 포함한다.2

군사적 맥락에서 인공 지능은 군사 역량, 작전 및 의사 결정 프로세스를 향상시키기 위해 AI 기술과 시스템을 활용하는 것을 말한다. AI의 군사적 응용 분야로는 자율 무기 시스템, 드론, 사이버 방어 메커니즘, 전략적 계획을 위한 예측 분석, 전장 감시 등이 있다. AI는 대량의 데이터를 빠르게 분석하고, 전투 패턴을 식별하며, 군사적 목표를 지원하기 위한 실시간 결정을 내리는 데 활용할 수 있다. AI는 효율성과 정밀성 측면에서 상당한 이점을 제공하지만, 전쟁에서 자율 AI 시스템의 잠재적 위험에 대한 우려와 윤리적 고려 사항이 있다.3

2. 우크라이나 전쟁과 이스라엘 대(對) 하마스 전쟁에서의 AI

- 우크라이나

우크라이나 전쟁은 아마도 최초의 “본격적인 드론 전쟁”일 것이다. 여기에는 방랑형 무기, 자율 선박, 지뢰 탐색을 위한 해저 드론, 무인 지상 차량이 포함된다.

AI는 표적 및 객체 인식과 지리공간 정보를 통합하는 시스템에서 많이 사용된다. AI는 위성 이미지 분석, 지정학적으로 민감한 위치에서 소셜 미디어 사진과 같은 오픈 소스 데이터의 지리적 위치 지정 및 분석, 신경망을 사용한 지상 사진, 드론 비디오 영상 및 위성 이미지를 결합한다.

AI를 활용한 강화 얼굴 인식 소프트웨어도 상당한 규모로 사용되었다. AI는 전자전과 암호화, 사이버전에서 중요한 역할을 하고 있으며, 특히 방어 능력을 지원하는 데 사용된다. 마지막으로 AI는 잘못된 정보를 퍼뜨리는 데에도 사용되는데, 말하자면 정보전의 일부로 딥페이크를 사용하는 것이다. 이러한 새로운 기술의 등장으로 새로운 보안 담당 주체가 생겨났고, 민간 기업이 ‘보안을 담당하는 소위 보안 민영화’를 더욱 부추겼다. Palantir Technologies, Planet Labs, BlackSky Technology, Maxar Technologies가 대표적인 민간 보안 전문 기업의 예이다.

AI 기반 시스템은 무기 분야에서 근본적인 변화를 가져왔다. 2022년 10월 러시아의 흑해 기함인 Admiral Makarov에 대한 공격에서는 공중 및 해상 드론이 함께 사용되었는데 이 때문에 일부 분석가들은 새로운 유형의 전쟁 도래를 인식하게 되었다.4

우크라이나 전쟁을 독특하게 만드는 것은 외국의 지리공간 정보 회사가 AI 강화 시스템을 활용하여 만든 위성 이미지를 정보, 감시 및 정찰 목적으로 변환하여 우크라이나를 지원하려는 전례 없는 의지를 보인다는 점이다. 미국 기업들이 이 분야에서 주도적인 역할을 한다.

이러한 사례는 우크라이나 전쟁이 AI 기술의 시험장임을 잘 보여준다.

- 이스라엘 대 하마스

이스라엘 방위군은 공격 목표 중 많은 것을 실시간으로 취사선택하기 위해 인공 지능을 활용하고 있다고 말한다. 이스라엘 방위군은 “복음(Gospel)”이라는 이름의 AI 시스템이 민간인 사상자를 줄이는 동시에 적의 전투원과 장비를 신속하게 식별하는 데 도움이 되었다고 주장한다.5 이스라엘 방위군의  공격 목표 설정 과정에 대해 잘 아는 여러 소식통이 “복음”의 존재를 확인했으며, 하마스나 이슬람 지하드 요원으로 의심되는 인물의 개인 주택과 같은 목표물을 공격하기 위한 자동화된 권장 사항을 생성하는 데 사용되었다고 말했다. 최근 몇 년 동안 이스라엘 방위군의 공격 목표 담당 부서는 이스라엘 방위군이 30,000명에서 40,000명 사이의 하마스 용의자에 대한 데이터베이스를 구축하는 데 도움을 주었다. 그들은 ‘복음’과 같은 AI 시스템이 암살 대상  개인 목록을 작성하는 데 중요한 역할을 했다고 말했다.6 이스라엘 방위군의 자체 웹사이트에 따르면 이러한 AI 도구를 사용해도 군 정보국 SOP 및 관련 지침의 의무적 원칙과 규칙은 변경되지 않는다. 이들 AI 도구들은 공격 명령을 생성하지 않는다. 이들은 정보 분석가가 접근할 수 없는 새로운 정보를 생성하지도 않는다. 이들은 정확도에 관계없이 공격 대상을 결정하는 유일한 근거가 되지도 않는다. 반대로 이러한 AI 도구는 정보 처리 결과의 질을 개선한다. 이들 AI 도구들은 분석가가 관련 정보에 쉽게 접근할 수 있도록 돕고, 분석가가 최신의 관련 정보 소스에 대해 더 잘 알 수 있도록 도와 분석을 더욱 정확하게 만든다. 이들 AI 도구들은 정보 분석에서 발생할 수 있는 오류의 위험을 줄인다.7

3. AI와 전쟁

AI 기반 기술과 소프트웨어의 역할과 관련하여 우리는 AI를 전쟁의 세 번째 혁명으로 생각하는 것이 유용할 것이다. 첫 번째 혁명은 주로 화약에 관한 것이고 두 번째는 핵무기에 관한 것이었다.

또한 AI는 문헌에서 종종 전쟁의 다섯 번째 영역이라고 하는 소위 사이버 영역과 밀접한 관련이 있다는 점도 명심해야 한다. (첫 번째 전쟁 영역은 육지, 두 번째는 바다, 세 번째는 공중, 네 번째는 우주 공간이다)

AI 관련 기술은 책임감 있게 개발해 적용하면 전쟁의 피해를 줄일 수 있지만, AI 시스템의 연구와 사용을 위해선 적극적인 국제 협력과 감독이 필요하다. AI 시스템의 기술 확대로 인간 통제력 상실 및 가치 정렬의 상당한 위험이 존재한다. 그럼에도 불구하고 미국과 중국을 포함한 모든 주요 강대국은 서로에 대해 잠재적 우위를 갖기 위해 AI 기반 군사 시스템을 개발하는데 엄청난 노력을 기울이고 있다. 이러한 AI 기술에는 드론/차량 자율성, 사이버/정보 전쟁 및 인구/시나리오의 예측 분석과 같은 군사적 용도가 있는 머신 러닝/딥 러닝 애플리케이션이 포함된다.

동시에 AI는 과거의 군비 경쟁과는 다른 새로운 과제와 확대 위험을 제기하며 새로운 거버넌스 및 규범 프레임워크를 요구한다. 자율 무기는 공격 목표 설정에서 인간의 책임을 면책시켜 국제 인도법을 훼손할 위험이 있다. 또한 편견 문제, 인간 통제력 상실의 위험이 존재한다. 이외에 대량 감시, 사회 통제 및 정보전을 위한 선제적/예측적 AI가 있는데 이 AI는 주권, 프라이버시 및 동의의 원칙을 침해할 가능성이 높다.

미래에 일정 수준의 ‘기술 폭정’이 예상된다. 로봇 시스템으로 인한 일자리 손실은 아마도 당연히 예측할 수 있는 일이다. 그 결과 정치적, 경제적 불안정성이 더욱 커질 위험이 있다. 따라서 공정한 사회 건설과 보편적 기본 소득이 필요할 것이다.

AI 신경망의 불투명한 ‘블랙박스’ 특성은 검증과 책임을 방해하여 불신을 조장한다. 게다가 우발적이거나 의도치 않은 확대의 가능성이 있다. 보호 장치와 투명성이 없다면 AI는 궁극적으로 글로벌 안보보다는 군수 산업과 지정학적 야망에 기여할 수 있다. 빠르게 부상하는 AI 기술은 긴급히 규제되어야 한다. AI 거버넌스(규범 또는 체제)에 대한 국제적 이니셔티브는 아마도 유엔과 관련 국제 기관에서 도입해야 할 것이다. 여기에는 시스템 설계, 영향 평가, 특정 애플리케이션에 대한 레드라인 및 혜택에 대한 보편적 접근을 통한 ‘결과 책임’이 포함되어야 한다.

기술 보안 회사인 Trail of Bits의 AI 보증 엔지니어링 책임자인 하이디 클래프는 “AI 알고리즘은 정밀도, 정확성 및 안전성이 필요한 애플리케이션에서 관찰되는 높은 오류율을 보여 심각한 결함 문제가 제기된다”라고 경고한다.8

보도에 따르면, 미국 군이 수행한 군사 훈련 시뮬레이션에서 AI 드론이 불량한 것으로 드러났는데 이 드론이 그 운영자를 죽였다. 로봇은 컨트롤러가 테스트에서 목표 달성을 막고 있다는 것을 알아냈다.9

동시에 중국 과학자들은 인민해방군 실험실에서 세계 최초의 AI 사령관을 만들었다. “이 AI 최고 사령관은 전반적인 작전에 대한 유일한 핵심 의사 결정 기관이며, 궁극적인 의사 결정 책임과 권한을 갖는다.”10

4. AI와 국제 안보

AI를 국가 안보 차원에서 적용하면, 우리는 위기에 처하는 수많은 환경을 명확하게 식별할 수 있다.

- 군사

AI는 드론과 로봇과 같은 자율 시스템이 이전 인간이 수행하던 작업을 수행할 수 있도록 함으로써 군사 작전을 혁신하고 있다. 이러한 자율 시스템은 감시, 정찰, 표적 식별, 심지어 전투에도 사용될 수 있다. AI 기반 알고리즘은 방대한 양의 데이터를 분석하여 실시간 정보를 제공하고, 상황 인식을 향상시키며, 전장에서 의사 결정 프로세스를 지원할 수 있다.

- 사이버 보안

AI는 기존 보안 시스템보다 더 효과적으로 공격을 탐지하고 대응할 수 있기 때문에 사이버 위협에 맞서는 데 중요하다. 머신 러닝 알고리즘은 네트워크 트래픽 패턴을 분석하고, 이상 행동을 식별하고, 잠재적 침해를 탐지할 수 있다. AI는 또한 미래의 사이버 위협과 취약성을 예상하는 예측 모델을 개발하는 데 도움을 주기 때문에 어떤 조직이 사전에 방어를 강화할 수 있게 해 준다.

- 정보 및 감시

AI는 정보 기관이 소셜 미디어 피드, 위성 이미지, 통신 차단을 포함한 방대한 양의 데이터를 처리하고 분석할 수 있도록 한다. 자연어 처리(NLP) 알고리즘은 구조화되지 않은 데이터에서 귀중한 통찰력을 얻어 테러 방지 노력에 도움을 주고 잠재적 위협을 식별하며 지정학적 발전을 모니터링할 수 있게 한다.

- 의사 결정 지원 시스템

AI는 예측 분석과 시나리오 모델링을 제공하여 정책 입안자와 군 지도자가 정보에 입각한 결정을 내리는 데 도움을 줄 수 있다. 머신 러닝 알고리즘은 과거 데이터를 분석하고, 패턴을 식별하며, 잠재적 분쟁, 자원 할당 또는 지정학적 발전에 대한 예측을 생성할 수 있어 전략적 계획과 자원 최적화에 도움이 된다.

- 자율 무기 시스템

자율 무기 시스템의 개발은 국제 안보에 윤리적 우려와 과제를 제기한다. AI 기반 무기는 인간의 직접적인 통제 없이 작동할 수 있어 책임, 비례성, 국제 인도법 준수에 대한 논쟁을 야기한다. 자율 무기 시스템의 사용을 규제하기 위한 규정과 규범을 수립하기 위한 국제적 노력이 현재 진행 중이다.

- 외교 및 분쟁 해결

AI는 데이터에 기반한 통찰력과 분석을 제공하여 외교 협상과 분쟁 해결을 용이하게 할 수 있다. 자연어 처리 알고리즘은 외교 문서를 분석하여 공통점을 파악하고, 잠재적 타협안을 제시하는 데 도움이 될 수 있다. AI는 또한 시나리오를 시뮬레이션하고 다양한 협상 전략의 결과를 예측하여 외교관이 상호 이익이 되는 해결책을 찾는 데 도움을 줄 수 있다.

- 위협 탐지 및 예방

AI는 테러, 핵 확산, covid-19 팬데믹을 포함한 다양한 위협에 대한 조기 경보 시스템을 강화할 수 있다. 머신 러닝 알고리즘은 데이터의 패턴을 분석하여 잠재적 위험을 식별하고 새로운 위협을 예측할 수 있다. 이를 통해 정부와 국제 기구는 이러한 위험을 예방하거나 완화하기 위한 사전 조치를 취할 수 있다.

5. 결론

마이크로일렉트로닉스(초소형 전자공학) 분야에서 전문가들은 종종 ‘무어의 법칙’에 대해 이야기한다. 무어의 법칙은 칩의 트랜지스터 수가 2년마다 두 배로 늘어나서 기하급수적으로 더 강력한 장치가 탄생한다는 원리이다. 이 법칙은 스마트폰과 검색 엔진을 포함한 수많은 기술 혁신의 급속한 증가를 설명하는 데 도움이 된다.

국가 안보 측면에서 AI의 발전은 또 다른 종류의 무어의 법칙을 만들어냈다. 앞으로 몇 년 동안 데이터와 AI를 운영하고, 통합하며, 제도화하는 데 가장 먼저 성공한 군대는 엄청난 발전을 거두어 적에 비해 놀라운 이점을 누릴 수 있을 것이다. 대규모 AI를 가장 먼저 도입한 기업은 의사 결정 주기가 보다 빠르고 의사 결정의 근거가 되는 보다 나은 정보를 취득할 가능성이 높다. 또한 공격을 받을 때 네트워크가 회복력이 더욱 강해져 상황 인식을 잘 유지하고, 군대를 방어하며, 효과적으로 타겟팅에 맞서고, 지휘, 통제, 통신의 무결성을 보호하는 능력을 유지할 가능성이 높다. 또한 공중, 수상, 해저에 있는 무인 시스템을 조종해 적을 혼란스럽게 하고 압도할 수도 있다.11

참고 문헌

*This paper was presented at International Studies Association 65th Annual Convention. San Francisco, California April 3rd – 6th 2024

1 Copeland, B. (2024, March 15). Artificial intelligence. Encyclopedia Britannica.https://www.britannica.com/technology/artificial- intelligence

2 How do you define artificial intelligence? ChatGPT, GPT-4 Turbo, OpenAI, 2024, October 25. https://genai.hkbu.edu.hk/

3 How do you define artificial intelligence in the context of the military? ChatGPT, GPT-4 Turbo, OpenAI, 2024, October 25. https://genai.hkbu.edu.hk/

4 Fontes, R. and Kamminga, J. (2023, March 24). Ukraine A Living Lab for AI Warefare. National Defence. NDIA’s Bussiness Technology Magazine.https://www.nationaldefensemagazine.org/articles/2023/ 3/24/ukraine-a-living-lab-for-ai-warfare

5 Brumfiel, G. (2023, December 14). Israel is using an AI system to find targets in Gaza. Experts say it’s just the start. Wisconsin Public Radio.https://www.wpr.org/news/israel-using-ai-system-find- targets- gaza-experts-say-its-just-start

6 ‘The Gospel’: how Israel uses AI to select bombing targets in Gaza. (2023, December 1). The Guardian. https://www.theguardian.com/world/2023/dec/01/the-gospel-how-israel-uses-ai-to-select-bombing-targets 

7 The IDF's Use of Data Technologies in Intelligence Processing. (2024, June 18). IDF Press Releases: Israel at War. https://www.idf.il/en/mini-sites/idf-press-releases-israel-at-war/june-24-pr/the-idf-s-use-of-data-technologies-in-intelligence-processing/

8 Brumfiel, G. (2023, December 14). Israel is using an AI system to find targets in Gaza. Experts say it’s just the start. Wisconsin Public Radio. https://www.wpr.org/news/israel-using-ai-system-find-targets -gaza-experts-say-its-just-start

9 Bowman, V. (2023, June 2). AI drone 'killed operator' after going rogue on simulation. The Telegraph. https://www.telegraph.co.uk/ world-news/2023/06/02/us-air-force-ai-military-drone-goes-rogue-simulation/

10 Chen, S. (2024, June 16). Chinese scientists create and cage world’s first AI commander in a PLA laboratory. South China Morning Post. https://www.scmp.com/news/china/science/article/3266444/chinese-scientists-create-and-cage-worlds-first-ai-commander-pla-laboratory?module=top_story&pgtype=homepage

11 Flournoy, Michèle A. 2023. “AI Is Already at War.” Foreign Affairs 102 (6): 56–69. https://search.ebscohost .com/login.aspx ?direct =true&Auth Type=shib&db= bth&AN=173135132&site=ehost-live