"죄송합니다, 정정하겠습니다" ... 전쟁 일으킬 뻔한 AI

AI의 가짜 핵무기 정보에 미군 전투기 출격...미중 군사 충돌 발발 직전 작전 취소

 

미국 시간 18일 CNN 의 보도에 따르면 중국 선박 한척이 핵무기 프로그램 관련 구성 요소를 수송하고 있다는 내용의 정보 보고서가 미군에 입수됐습니다.

 

미군은 즉각 해당 선박을 차단하기 위해 준비 작전에 들어갔으며 무장한 미군 병력이 선박에 오를 준비를 했고 군용기까지 출격한 상태였습니다.

 

하지만 작전 실행 직전 당국자들이 보고서를 추가로 검토하자 해당 보고서는 특수작전사령부 분석관이 AI의 도움을 받아 작성한 것이며 분석관이 사용한 AI가 선작에 실려있던 화물을 잘못 인식했다는 사실이 드러났습니다.

 

분석관은 다시 AI를 활용해 이 내용을 미군의 표준 정보 보고서 형식으로 작성한 뒤 내부에 배포했습니다.

 

이번 사건은 미국방부와 정보기관이 AI가 미국방부와 정보기관이 AI활용을 빠르게 확대하는 가운데 AI의 오류가 실제 군사적 오판으로 이어질 수 있다는 위험성을 보여주는 사례라고 CNN은 짚었습니다.

 

현재 군당국은 공격 표적 선정에도 AI의 활용을 늘리고 있는 추세입니다.

 

하지만 민간인 피해나 아군 오인 공격을 어떻게 막을지에 대한 실질적인 지침은 없는 것으로 알려졌습니다.

 

영상 뉴스 링크 : https://youtu.be/HH5jKTev-3A