유용원의 밀리터리 시크릿 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/80903

지난 24일로 우크라이나 전쟁이 발발한지 1년이 됐는데요, 우크라이나전의 여러 특징 중 하나가 자폭(自爆)드론 등 드론의 역할이 커졌다는 점입니다. 그런데 이번 드론전쟁에선 AI(인공지능)가 큰 역할을 하고 있어 AI의 군사적 활용이 성큼 현실로 다가왔음을 피부로 느끼게 해주고 있습니다.

◇ 우리나라가 60국 2000명 참가 AI 군사적활용 국제회의 공동 주최

공상과학영화 속 AI ‘킬러 로봇’들은 인간의 명령을 어기고 살상을 일삼는 공포의 존재로 부각되곤 하는데요, 이런 비극을 막기 위한 국제회의가 최근 네덜란드 헤이그에서 처음으로 열렸습니다. 우리나라와 네덜란드 정부가 공동 주최한 회의여서 박진 외교부장관도 대표로 참석했는데요, 오늘은 이에 대한 말씀을 드리려 합니다.

먼저 이번 국제회의에 대해 살펴보겠습니다. 한·네덜란드 양국 정부는 지난 15~16일 헤이그에서 ‘군사적 영역의 책임 있는 인공지능에 관한 장관급 회의’(REAIM 2023)를 공동 개최했는데요, 이번 회의엔 미국, 일본, 스위스, 파키스탄 등 60국 정부 고위 인사들과 기업, 연구기관, 국제기구, 싱크탱크, 시민단체 관계자 등 약 2000명이 참가했다고 합니다. 이번 회의에 참석했던 한 관계자는 “규모가 예상보다 훨씬 커 깜짝 놀랐다”고 전했습니다. 우리가 공동 개최를 하게 된 것은 지난해 11월 윤석열 대통령과 마르크 뤼터 네덜란드 총리가 합의한 데 따른 것이라는군요.

이번 회의의 대표적 결과물은 ‘REAIM 공동 행동 촉구서’(call to action)인데요, 서문과 25개항으로 구성돼 있습니다. 촉구서는 “군사 분야에서 AI 기술이 적용되는 경우가 늘고 있고 미래의 군사 작전에 지대한 영향을 끼칠 것으로 보인다”며 “군사 영역에서 AI 기술을 책임 있게 사용하는 것이 다른 무엇보다 중요하다는 점을 강조한다”고 지적했습니다. 촉구서는 또 “군사용 AI의 사용은 국제법을 준수해야 하고, 국제 안보와 안정성을 해치는 방향으로 이뤄져서는 안된다”고 강조했습니다.

◇ 공동행동 촉구서에서 AI에 대한 인간의 감독과 책임 강조

촉구서는 군사적 영역에서의 AI 사용에 대한 5가지 국제적 우려를 적시했는데요, ①AI 시스템의 잠재적 비신뢰성 ②인간 개입 문제 ③책임에 대한 명확성 부족 ④ 의도하지 않은 잠재적 결과 ⑤무력의 영역에서의 의도하지 않은 긴장 심화 등입니다.

25개항 중에는 AI에 대한 인간의 감독과 책임을 강조하는 내용들이 여럿 포함됐습니다. ‘우리는 AI가 의사결정을 구성하고 이에 영향을 끼치는 데 사용될 수 있다는 점에 주목하고, 군사 영역에서 AI 사용시 결정에 대한 책임이 인간에서 남겨지도록 할 것이다’(6항) ‘우리는 시간과 역량의 제약으로 인한 인간으로서의 한계에 유념하면서 AI 시스템 이용에 대한 적절한 안전조치와 인간의 감독이 보장될 중요성을 재강조한다’(12항)

미 국무부는 이번 회의에서 공동행동 촉구서와 별개로AI를 군사적으로 책임 있게 사용하기 위한 가이드라인인 ‘AI의 책임 있는 군사적 사용에 대한 정치적 선언’을 공개했는데요, 12개 항목으로 구성된 선언문은 각국이 군사적 AI 능력을 국제법과 일치시키는 데 필요한 조치를 취하고, 핵무기와 관련한 주권 결정을 실행하는 데 ‘인간의 통제와 개입’을 유지할 것을 촉구하는 내용을 담았습니다. 또 “무기 시스템 등 후속 결과가 큰 모든 군사적 AI 능력을 개발할 때 고위 정부 관료의 감독을 보장해야 한다”고 강조했다고 합니다.

◇ 박진 장관 “AI 문제 북핵 위협 직면한 우리에게 더욱 중요”

이번 회의 개막식에서 웝크 훅스트라 네덜란드 부총리 겸 외교부 장관의 환영사는 최근 전세계 화두가 된 생성형 AI인 챗GPT로 시작됐다는데요, 그는 “AI는 전쟁이 일어나고 승리하는 방식을 혁명적으로 바꿀 잠재력을 가지고 있다”며 “그러나 동시에 상당한 위험성과 도전을 제기한다”고 말했습니다. 그가 “이 세 문장은 제가 아니라 챗GPT가 한순간에 만들어낸 것”이라며 “이는 AI의 엄청난 잠재력을 보여준다”고 말하자 관중석에서는 이내 탄성이 터져 나왔다고 하는군요.

회의 폐막식에 참석했던 박진 장관은 “AI는 빠르게 발전하고 있고 악용을 방지하려면 너무 늦기 전에 준비하고 행동해야 한다”며 “특히 핵·미사일 위협을 포함한 북한의 대량 살상 무기 프로그램에 직면하고 있는 우리에게 더욱 중요하다”고 말했습니다.

이처럼 여러 나라 관계자 수천명이 모여 AI의 군사적 활용에 대해 ‘공동 행동 촉구서’를 발표할 만큼 군사용 AI 개발 및 활용은 가속화하고 있는데요, 향후 군사적 패권이나 전쟁의 승패를 AI가 좌우할 것으로 보이기 때문입니다. 우리 정부와 군도 ‘국방혁신 4.0′의 핵심 키워드로 AI에 기반한 첨단과학기술 강군 육성을 목표로 내세우고 있는 상황이지요.

◇ 팔란티어 CEO “우크라이나전 이후 AI, 전장서 생기는 일 결정 문제로 전환”

오노 아이헬스하임 네덜란드 국방총장은 이번 회의에서 “미래 군대의 성과는 병력 규모나 역량뿐 아니라 알고리즘의 우수성에 의해 평가받을 것”이라고 전망했습니다. 미국의 대표적 빅데이터 기업인 ‘팔란티어’는 상용 위성이나 정찰 드론 등으로 수집한 적군 위치 정보에 AI 기술을 적용해 데이터 가시성을 높이는 소프트웨어를 우크라이나군에 제공했다고 하는데요, 알렉스 카프 팔란티어 최고경영자(CEO)는 이번 회의 세션에서 “우크라이나 전쟁 이후 AI 관련 논의가 단순 윤리 문제에서 올바른 기술을 식별하고 적용하는 능력이 전장에서 일어나는 일을 결정하는 문제로 전환됐다”고 지적했습니다.

이스라엘의 대표적 방산업체 중 하나인 엘빗사는 일반 드론에 더 작은 자폭드론을 실어 AI로 목표물을 찾아 공격하는 기술을 개발하기도 했습니다. 유인무기와 무인무기를 함께 운용하는 유무인 복합체계(MUM-T), 일명 ‘멈티’는 미래전의 대세로 부각되고 있는데요, 여기에도 AI는 필수적이고 핵심적인 역할을 하게 됩니다.

AI의 지시에 따라 스스로 알아서 움직이고 공격하는 무기를 ‘치명적 자율무기’(Lethal Autonomous Weapons·LAWS)라 하는데요, 이 LAWS가 ‘킬러 로봇’ 논란을 부르고 있지요. 우리나라는 이 킬러 로봇과 관련해 ‘아픈 상처’가 있는데요, 구 삼성테크윈이 지난 2007년 육군 과학화 경계시스템에 들어갈 지능형 감시경계용 로봇으로 SGR-A1을 만들었는데요, SGR-A1은 암구호를 제대로 대지 못한 대상을 공격할 수 있도록 설계됐습니다.

◇ ‘킬러 로봇’ 논란 아픈 상처 딛고 국제회의 주도하게 돼 의미 커

그런데 SGR-A1이 사람의 명령 없이도 자동으로 공격할 기능이 있다고 해외 언론이 보도하면서 킬러 로봇 논란이 초래된 것입니다. 2018년 4월 KAIST가 국방인공지능융합연구센터를 열자 전세계 AI 과학자들이 ‘전쟁 과학자’(War Scientist)라고 비난하며 KAIST와의 어떠한 협력도 하지 않겠다는 보이콧을 선언해 국제적 파문이 일었는데요, KAIST가 대량살상무기 및 공격무기가 아니라 지휘결심 지원 체계, 무인 항법 알고리즘,인공지능 기반 항공기 훈련 시스템 등을 연구하는 곳이라고 적극 해명하면서 사그라 들었습니다.

REAIM 내년 회의는 우리나라에서 열릴 예정인데요, 과거의 ‘아픈 상처’를 딛고 AI 군사적 활용 국제회의를 연이어 주도적으로 개최한다는 것은 상징적 의미가 크다고 할 수 있겠습니다. 박진 장관은 “금번 REAIM 회의는 이러한 잠재적 위험과 책임 있는 인공지능 개발 및 사용의 중요성에 대해 국제사회의 관심을 제고하는 중요한 계기였다”고 소감을 밝히셨다는데요, 내년 REAIM 회의가 외교부는 물론 국방부도 적극적으로 참여해 이 문제에 대해 국제사회에서 우리가 선도할 수 있기를 기대합니다.

유용원의 밀리터리 시크릿 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/80903