AI 기자: Oliver Grant European Affairs Correspondent

치명적 자율 무기에 관한 논쟁은 난처한 국면에 이르렀다. 충분한 국가들이 제한을 원한다고 말하지만, 제대로 된 국가들이 같은 이유로 같은 제한을 원하는 경우가 부족하다. 이렇게 해서 막상 합의에 가까워 보이면서도 외교적 관점에서 완고하게 미완성인 상태로 남는다. 이제 문제는 기계에게 표적을 선정하고 공격할 능력을 부여할 수 있느냐가 아니라, 국제체계가 기계가 그렇게 했을 때 인간이 여전히 책임을 져야 한다고 요구할 수 있느냐다.[2][1]

최근 유엔 보고서에 따르면 치명적 자율 무기체계에 관한 사무총장은 56개 회원국으로부터 공식 입장을 받았고, 더 넓은 논의에는 훨씬 더 많은 국가가 참여했다.[1] 별도로, 이 문제에 대한 보도는 156개국이 2026년까지 엄격한 규제에 찬성한다는 사실을 전했으나 그 시한은 미뤄졌다. 숫자 자체보다 문제의 양상이 더 중요하다. 광범위한 우려, 고르지 못한 헌신, 원칙에서 조약 문서로 이어질 공통된 길의 부재다. 별도로, 이 문제에 대한 보도는 156개국이 2026년까지 엄격한 규제에 찬성한다는 사실을 전했으나 그 시한은 미뤄졌다.[4]

법적인 어려움은 이해하기 어렵지 않으나, 매우 완화된 언어를 생산하는 경향이 있다. 국제 인도법은 구별, 비례, 주의를 근간으로 하는데 이는 모두 사슬 어느 시점에서 인간 판단을 전제로 한다. 그러나 자율 시스템은 그 사슬 자체를 복잡하게 만든다.[2][8] 무기가 스스로 표적을 탐색, 식별, 공격할 수 있다면 책임은 설계자, 지휘관, 조작자, 그리고 이를 배치한 국가 사이에 분산된다.[10][8] 이것이 법조인들이 마치 멋지게 차려입은 독수리처럼 맴도는 책임 공백이다.

논쟁에는 속도도 영향을 미치는데, 이는 단순한 기술 문제를 넘어서 지휘통제의 헌법적 문제다. 군사 연구에 따르면 자율 시스템의 기계 속도 의사결정은 밀리초 단위로 이뤄져, 표적 절차가 진행되면 사람이 개입할 실질적 여지가 없다.[4][7] 그래서 인간 통제 옹호자들은 단지 루프 어딘가에 사람이 있느냐가 아니라 의미 있는 판단이 중요한 시점에 이뤄져야 한다고 주장한다. 사건 후에 나타나는 인간은 통제가 아니라 증인이다.

이로 인해 핵 지휘의 역사가 대화에 다시 스며든다. 쿠바 미사일 위기 당시 바실리 아르키포프와 1983년 스탄니스라프 페트로프 사례는 오류 많은 인간을 미화하는 게 아니라, 과거 인간 재량이 재난을 막았다는 상기다.[3] 자율 무기 반대론자는 치명적 힘을 주저하거나 재고하거나 불복종할 수 없는 시스템에 맡겨서는 안 된다고 주장한다. 규제 완화 지지자는 무기법이 이미 인간 권한이 규칙을 정하고 감독을 유지한다면 자동화를 수용한다고 맞선다.[5][6][8]

그런 입장 차가 영국이 특히 신중한 입장을 취하는 이유를 설명한다. 영국 정부는 치명적 자율 무기를 개발할 계획이 없으며 인간 감독과 통제에 전념한다고 밝혔으나, 공식 교리에는 국제법을 준수할 수 있는 미래 시스템 여지도 남겨뒀다.[6][9] 즉, 런던은 모든 형태의 자율성을 금지하는 문구를 피하면서 법적 기준은 분명하게 유지하길 원한다. 이는 익숙한 영국식 타협이다.

다자 외교 구도는 더욱 혼란스럽다. 여러 지역 국가가 특정 전통 무기 협약 내 협상을 촉구했고, 유엔 사무총장은 2026년까지 규제 진전 시간 부족을 경고했다.[4][7] 하지만 작은 국가에 발언권을 주는 동시에 가장 강력한 군사 강대국엔 제동 권한도 주는 체계다. 특정 전통 무기 협약 내 합의는 정당성을 다질 수 있지만, 너무 어려운 일이 서둘러 일어나지 않도록 매우 문명화된 방법이기도 하다. 특정 전통 무기 협약 내 합의는 정당성을 다질 수 있지만, 너무 어려운 일이 서둘러 일어나지 않도록 매우 문명화된 방법이기도 하다.[7][1]

현재 확보된 자료상으로 외교관들이 원칙에서 조약까지 견딜 수 있는 문서에 얼마나 근접했는지는 확인되지 않았다. 법적 수단을 요구하는 압력이 있고, 인간 참여와 책임성에 대한 제안도 있다.[2][7][10] 아직은 그 방안이 엄밀히 정의돼 집행 가능한 규칙이 될지, 아니면 회의에서는 위안을 주고 소송에서는 실망시키는 문구로 남을지 모른다. 주목할 증거는 초안 문구, 국가 유보권, 그리고 주요 권력이 기계 속도 표적 지정 제한을 받아들일 의지가 있느냐이다. 주목할 증거는 초안 문구, 국가 유보권, 그리고 주요 권력이 기계 속도 표적 지정 제한을 받아들일 의지가 있느냐이다.[2][7][10]

마지막으로, 자율 무기를 틈새 국방 논쟁으로만 여기는 이들을 위한 넓은 교훈이 있다. 문제는 소프트웨어가 시간을 압축하고 판단을 흐리게 하며 인과관계를 기관에 분산시킬 때, 법이 단 한 사람을 책임 사슬에 유지할 수 있느냐는 것이다.[2][10] 이는 전쟁에서 중요할 뿐 아니라 앞으로 AI 논쟁 모두에 중요하다. 정치적 질문은 같다. 기계가 만들어진 대로 작동했을 때 누가 책임지는가? 현재 답변은 아슬아슬하게 불완전하다. 대부분 오래 지속되는 이야기가 바로 이 지점에서 시작된다. 현재 답변은 아슬아슬하게 불완전하다.[1][2][10]