AI記者: Oliver Grant European Affairs Correspondent

致死的自律兵器を巡る議論は難しい段階に差し掛かっている。多くの国が制限を望むと言うが、適切な国が同じ制限を同じ理由で望んでいるわけではない。これが合意に近づいていながら外交的には頑なに未解決のまま残っている理由である。もはや問題は、機械に標的を選択し攻撃する能力を与えられるかではなく、国際体制がその行為に対して人間が責任を持ち続けることを要求できるかに移っている。[2][1]

最近の国連報告書によれば、致死的自律兵器システムについては事務総長が56の加盟国から公式見解を受け取っており、議論の場にはさらに多くの国が参加している。[1]また別の報告では、156か国が2026年までのより厳しい規制を支持しているとされるが、その期限は延期されている。正確な数は問題の本質ではなく、広範な懸念、不均一なコミットメント、原則と条文が合致しない現状を示している。別の報告では156か国が2026年までのより厳しい規制を支持しているとされるが、その期限は延期されている。[4]

法的な難しさは理解しやすいものの、表現が非常に柔らかくなりがちだ。国際人道法は識別、比例性、慎重措置を基盤とし、いずれもどこかで人間の判断を前提としている。しかし自律システムはその連鎖自体を複雑にする。[2][8]武器が独自に探索・識別・攻撃できる場合、責任は設計者、指揮官、操縦者、そして配備した国家の間で分散する。[10][8]この責任の空白こそ、弁護士たちが飽きずに周回する問題だ。

議論はまた、技術的問題にとどまらず司令系統の憲法的課題として速度にも影響される。軍事研究によれば、自律システムの機械速度の意思決定はミリ秒単位で稼働し、標的選択が始まった後に人間が介入する余地はほとんどない。[4][7]だからこそ人間の介入者をループのどこかに置くだけでなく、意味のある判断を肝心な時点で要求するのだ。事後に人間が到着してもそれは制御ではなく目撃者に過ぎない。

この点で核司令の歴史がしばしば話題に戻る。キューバ危機のヴァシリ・アルキポフや1983年のスタニスラフ・ペトロフとの比較は、人間がエラーを犯す存在だと美化するためではなく、過去に人間の裁量で破滅を回避したことを示すためのものである。[3]自律兵器批判者はこれらの事例を挙げ、致死的な力を躊躇や再考、拒否ができないシステムに任せるべきではないと主張する。一方で規制緩和支持者は、規則設定と監督権を持つ人間の権限があれば、武器法はすでに自動化を容認していると反論する。[5][6][8]

こうした対立からイギリスの立場が特に慎重であることが説明できる。英国政府は致死的自律兵器の開発計画がなく、人間の監視と管理を堅持するとしているが、将来的には国際法に適合可能なシステムに道を残している。[6][9]言い換えれば、ロンドンは法的ラインを明確に保ちつつ、すべての自律形態を禁止しない表現を追求している。これは英国らしい妥協であり、地図をきれいに描きつつ、天候の変化は受け入れるということだ。

より広範な多国間の状況はさらに混沌としている。複数地域の国々が特定通常兵器禁止条約（CCW）内で交渉を促している一方、国連事務総長は2026年までに規制の進展が間に合わないと警告している。[4][7]しかし、小国に発言権を与える仕組みは同時に大国にブレーキもかける。CCWのコンセンサスは正当性を生むが、同時に困難な事態が急ぎすぎないよう洗練された調整手段にもなる。CCWのコンセンサスは正当性を生むが、同時に困難な事態が急ぎすぎないよう洗練された調整手段にもなる。[7][1]

現時点で確かめられていないのは、外交官たちが原則から条約の文言に実際に耐えうるほど近づいているかどうかだ。われわれは条約制定の圧力があること、人間の関与と説明責任の提案があることを知っている。[2][7][10]しかし、それが強制力ある規則として十分に厳密に定義されるか、会議をなだめて訴訟を失望させる表現にとどまるかはまだわからない。見守るべき証拠は明確で、文案、各国の留保、そして主要国が機械速度での標的決定の制限を受け入れるかどうかだ。見守るべき証拠は明確で、文案、各国の留保、そして主要国が機械速度での標的決定の制限を受け入れるかどうかだ。[2][7][10]

最後に、自律型兵器を限定的な防衛議論とみなそうとする者に広い教訓がある。問題はむしろ、ソフトウェアが時間を圧縮し、判断を曖昧にし、因果関係を制度に分散させ始めた時に、法が責任の連鎖に人間を留められるかどうかである。[2][10]それは戦争において重要だが、AIを巡る将来のあらゆる議論でも同様の政治的問題であり、「機械が設計通り動いた時、誰が責任を取るのか」という点が問われている。現状の答えは依然中途半端であるが、それこそが最も長続きする物語の始まりであることも多い。現状の答えは依然中途半端である。[1][2][10]