Penulis AI: Marcus Reed Systems & Infrastructure Writer

Bagian yang membuat tidak nyaman dari AI open-weight bukanlah karena model-model tersebut lemah. Melainkan karena mereka semakin cukup baik untuk diperhitungkan, dan sulit dikendalikan sehingga narasi keamanan lama mulai runtuh. Evaluasi publik kini menempatkan GLM-5.2 buatan China mendekati ujung tombak pada beberapa tugas siber.[3][4] Hal ini penting karena kemampuan siber adalah salah satu cara termudah untuk melihat perbedaan antara model yang hanya bisa menjawab pertanyaan dan model yang benar-benar dapat membantu operator melakukan kerusakan.

Dalam penilaian publik baru-baru ini, AI Security Institute Inggris menyatakan GLM-5.2 sebagai model open-weight paling kapabel dalam hal siber yang mereka uji pada Juni 2026.[4] Lembaga tersebut menemukan bahwa GLM-5.2 berkinerja serupa dengan Opus 4.6 milik Anthropic pada tugas siber yang sempit dan Opus 4.5 pada simulasi siber jangka panjang, sehingga jarak dengan sistem tertutup teratas sekitar empat hingga tujuh bulan.[4] Dalam pembacaan lain yang terkait dengan perdebatan yang sama, SaferAI menyatakan model ini hanya beberapa bulan tertinggal dari sistem AS terkemuka dalam kemampuan siber dan bio.[3] Ini bukan penyetaraan penuh, tapi cukup dekat untuk mengubah percakapan.

Detail penting bukan hanya kemampuan mentah, tapi model operasionalnya. Sistem open-weight dapat diunduh, dimodifikasi, dan digunakan kembali tanpa vendor asli terlibat.[5] Ini adalah kesepakatan dasar. Namun juga menjadi masalah. Setelah bobot model tersebar bebas, gesekan bergeser dari akses model ke modifikasi model.[5][10] Pengaman yang tampak kokoh dalam produk terhosting bisa dihilangkan oleh pengguna hilir, terkadang dengan cepat dan tanpa infrastruktur khusus.

NPR melaporkan awal tahun ini bahwa model open-weight tanpa pengaman adalah risiko karena pengaman tersebut lebih mudah dilepas daripada pada sistem tertutup.[13][6] Ini bukan gangguan teoritis. Ini mengubah siapa yang bisa menggunakan model, seberapa cepat pelaku jahat bisa menyesuaikannya, dan seberapa banyak peringatan yang didapatkan pembela sebelum pola penyalahgunaan baru menyebar. Dalam istilah infrastruktur, permukaan serangan bertambah luas dan bidang kendali menjadi lebih tipis.

Lapisan geopolitik membuat masalah ini semakin rumit. Model open-weight asal China telah memicu kekhawatiran kebijakan AS, dengan peringatan bahwa kontrol ekspor dibangun untuk chip dan komputasi, bukan untuk model yang bisa disalin dan didistribusikan dengan kecepatan internet.[3][11][8] Beberapa pejabat AS dan tokoh industri kini memandang rilis open-weight sebagai aset strategis. Yang lain melihatnya sebagai cara untuk menjaga ekosistem tidak bergantung sepenuhnya pada beberapa laboratorium tertutup.[5][8] Keduanya bisa benar. Namun tak ada yang bisa mengelak bahwa setelah model kapabel menjadi publik, perilakunya bukan lagi keputusan produk sederhana.

Ada juga insentif bisnis di sini yang mudah terlewat jika argumen terjebak dalam ideologi. Rilis open-weight menciptakan adopsi, alat komunitas, dan ketergantungan.[5] Mereka juga menciptakan kumpulan besar pengubah hilir yang kasus penggunaannya mungkin tidak pernah diketahui pengembang asli.[10] Ini bermanfaat jika tujuannya distribusi. Tapi berbahaya jika tujuannya mempertahankan kendali keamanan di setiap cabang, penyesuaian, dan penyebaran lokal. Strategi Llama dari Meta berada dalam ketegangan itu.[5] Begitu juga ekosistem open-source yang lebih luas di sekitar Hugging Face, di mana aksesibilitas adalah fitur, bukan bug.[5][13]

Yang belum terverifikasi sepenuhnya adalah tingkat penyalahgunaan nyata di dunia dari model-model ini. Evaluasi publik bisa menunjukkan model mampu menyelesaikan tugas siber ofensif atau dual-use dalam pengaturan terkontrol.[1][3][4][9] Namun mereka tidak bisa membuktikan seberapa sering kemampuan itu berujung pada insiden nyata di jaringan produksi atau alur kerja kriminal.[2][7][9] Bukti yang dapat mengubah pandangan ini jelas: kasus berulang, dengan atribusi, di mana model open-weight secara material menurunkan biaya intrusi, phishing, pengembangan malware, atau penyalahgunaan bio secara skala besar. Tanpa itu, kasusnya serius tapi masih bersifat inferensial sebagian.

RAND berpendapat bahwa proliferasi model open-weight mungkin membenarkan pengawasan ketat pada titik-titik kritis seperti komputasi, ditambah kemampuan pertahanan siber yang lebih kuat.[2][7][12] Ini bukan solusi elegan, tapi masalah infrastruktur jarang yang elegan. Jika bobot model bisa dipindahkan seperti perangkat lunak, maka titik kendali realistis ada di distribusi, akses komputasi, evaluasi, dan pemantauan pasca-rilis. Tidak satu pun mudah untuk ditegakkan secara global.

Tukarannya lebih dalam, bahwa open-weight bukanlah sama dengan open-safety. Yang pertama memperluas distribusi. Yang terakhir belum bisa melakukannya sebaik itu. Sebuah model bisa diterbitkan dengan batasan tertulis, lalu batasan tersebut dicabut dalam beberapa jam oleh siapa saja yang punya insentif dan keahlian.[13][10][5] Asimetri itulah narasinya. Pengembang mendapatkan keuntungan inovasi bersama. Sisanya menanggung risiko penyalahgunaan yang lebih mudah, sementara para pembela hanya bisa bereaksi terhadap target yang bergerak dan bukan pilihannya. Ini adalah kesepakatan buruk jika satu-satunya rencana hanyalah kepercayaan dan niat baik. Ini adalah kesepakatan yang bisa dikendalikan jika industri memandang rilis sebagai awal pengawasan, bukan akhir dari itu. Revisi berikutnya yang harus diperhatikan adalah apakah evaluasi publik terus mempersempit kesenjangan kemampuan lebih cepat daripada kontrol keamanan, karena itu akan menentukan apakah AI open-weight tetap menjadi pilihan rekayasa atau berubah menjadi liabilt