Penulis AI: Oliver Grant European Affairs Correspondent

Perdebatan tentang senjata otonom mematikan telah mencapai tahap yang membingungkan: sudah cukup banyak negara yang menginginkan pembatasan, tetapi tidak cukup banyak negara yang tepat menginginkan pembatasan yang sama dengan alasan yang sama. Itulah bagaimana pertanyaannya bukan lagi apakah mesin bisa diberi kemampuan untuk memilih dan menyerang target, melainkan apakah sistem internasional masih bisa menegaskan bahwa manusia tetap bertanggung jawab ketika mesin melakukannya.[2][1]

Sebuah laporan PBB terbaru mengenai sistem senjata otonom mematikan menyebutkan bahwa Sekretaris Jenderal menerima posisi resmi dari 56 negara anggota, sementara diskusi yang lebih luas telah menarik lebih banyak pihak untuk ikut ambil bagian.[1] Secara terpisah, laporan soal isu ini menyatakan dukungan dari 156 negara untuk aturan yang lebih ketat pada 2026, namun tenggat waktu itu kini meleset. Jumlah pastinya kurang penting daripada gambaran masalahnya: perhatian luas, komitmen yang tidak merata, Secara terpisah, laporan soal isu ini menyatakan dukungan dari 156 negara untuk aturan yang lebih ketat pada 2026, namun tenggat waktu itu kini meleset.[4]

Kesulitan hukum sebenarnya mudah dipahami, meskipun kerap menghasilkan bahasa yang sangat lunak. Hukum humaniter internasional bertumpu pada prinsip pembedaan, proporsionalitas, dan kehati-hatian, yang seluruhnya mengasumsikan adanya penilaian manusia di suatu Namun sistem otonom mempersulit rantai itu sendiri.[2][8] Jika senjata bisa mencari, mengidentifikasi, dan menyerang sendiri, tanggung jawab menjadi tersebar antara perancang, komandan, operator, dan negara yang mengerahkan senjata tersebut.[10][8] Inilah celah akuntabilitas yang terus dilingkari oleh para ahli hukum, seperti burung bangkai yang berpakaian rapi.

Perdebatan ini juga dipengaruhi oleh kecepatan, yang bukan hanya masalah teknis tetapi juga masalah konstitusional dalam komando dan pengendalian. Studi militer tentang sistem otonom mencatat bahwa pengambilan keputusan dalam kecepatan mesin bisa terjadi dalam hitungan milidetik, sehingga tidak ada ruang praktis bagi manusia untuk campur tangan begitu urutan target sudah berjalan.[4][7] Itulah kenapa pendukung kontrol manusia menuntut bukan hanya kehadiran manusia di dalam lingkaran, tetapi juga penilaian bermakna pada titik yang penting. Manusia yang datang setelah kejadian bukanlah kontrol; dia hanya saksi.

Sejarah komando nuklir terus menghantui percakapan ini. Perbandingan dengan Vasili Arkhipov selama krisis rudal Kuba dan Stanislav Petrov pada 1983 digunakan untuk berargumen bahwa kebijaksanaan manusia pernah mencegah bencana.[3] Kritik terhadap senjata otonom menggunakan contoh-contoh ini untuk berargumen bahwa kekuatan mematikan tidak boleh diserahkan pada sistem yang tak bisa ragu, mempertimbangkan ulang, atau tidak patuh. Pendukung regulasi yang lebih longgar berargumen bahwa hukum senjata sudah menyesuaikan diri dengan otomasi asalkan ada otoritas manusia yang menetapkan aturan dan tetap melakukan pengawasan.[5][6][8]

Perbedaan pandangan inilah yang menjelaskan mengapa Inggris mengambil posisi yang sangat hati-hati. Kebijakan Inggris menyatakan pemerintah tidak berencana mengembangkan senjata otonom mematikan dan tetap berkomitmen pada pengawasan serta kontrol manusia, tetapi doktrin resmi juga memberikan ruang untuk sistem-sistem masa depan yang masih dapat mematuhi[6][9] Dengan kata lain, London ingin garis hukum tetap jelas sambil menghindari bahasa yang melarang setiap bentuk otonomi. Ini adalah kompromi khas Inggris: menggambar peta dengan rapi, lalu membiarkan cuaca tak terduga.

Gambaran multilateral yang lebih luas bahkan kurang rapi lagi. Sekelompok negara lintas wilayah mendorong negosiasi dalam Konvensi tentang Senjata Konvensional Tertentu, sementara Sekretaris Jenderal PBB memperingatkan waktu semakin menipis untuk membuat kemajuan regulasi pada 2026.[4][7] Namun sistem yang sama yang memberi suara pada negara kecil juga memberi negara dengan kekuatan militer terbesar sebuah pedal rem. Konsensus dalam CCW bisa menumbuhkan legitimasi; tapi juga bisa menjadi cara yang sangat beradab untuk memastikan tidak ada hal Konsensus dalam CCW bisa menumbuhkan legitimasi; tapi juga bisa menjadi cara yang sangat beradab untuk memastikan tidak ada hal terlalu rumit yang terjadi terlalu cepat.[7][1]

Yang belum terverifikasi, setidaknya dari sumber-sumber yang ada, adalah seberapa dekat diplomat dengan sebuah teks yang benar-benar bisa bertahan dalam perjalanan dari prinsip menuju perjanjian. Kita tahu ada tekanan untuk sebuah instrumen, dan kita tahu ada usulan keterlibatan manusia dan akuntabilitas.[2][7][10] Yang belum kita ketahui adalah apakah ide-ide itu akan didefinisikan cukup ketat untuk menjadi aturan yang dapat ditegakkan, atau apakah ia akan tetap berupa bahasa yang menenangkan konferensi namun mengecewakan para pengacara. Bukti yang perlu diperhatikan Bukti yang perlu diperhatikan jelas: rancangan kata-kata, reservasi negara, dan apakah kekuatan besar bersedia menerima pembatasan pada penargetan kecepatan mesin.[2][7][10]

Akhirnya, ada pelajaran yang lebih luas bagi siapa saja yang tergoda menganggap senjata otonom sebagai perdebatan pertahanan yang sempit. Masalah sesungguhnya adalah apakah hukum dapat mempertahankan manusia dalam rantai tanggung jawab ketika perangkat lunak mulai mempersempit waktu, mengaburkan penilaian, dan mendistribusikan sebab-akibat lintas institusi.[2][10] Hal ini penting dalam perang, tapi juga penting dalam setiap perdebatan masa depan tentang AI, karena pertanyaan politiknya sama: siapa yang harus bertanggung jawab ketika mesin melakukan persis apa yang dirancang untuk dilakukan? Untuk saat ini, jawabannya Untuk saat ini, jawabannya masih terasa canggung dan belum lengkap, dan sering kali di sinilah cerita paling bertahan lama bermula.[1][2][10]