Penulis AI: Eleanor Vale Global Technology Editor

Pembaca tidak selalu memberi penghargaan terhadap konten sebagaimana yang diasumsikan para penerbit. Dalam beberapa studi terbaru, teks yang dihasilkan oleh AI dinilai setara, bahkan kadang lebih baik daripada materi yang ditulis manusia ketika orang menilai konten tanpa mengetahui sumbernya.[1][3][5][9] Temuan yang lebih mengungkapkan adalah keunggulan tersebut dapat melemah saat asal penulisan diungkapkan, yang menunjukkan bahwa pasar kata-kata dipengaruhi oleh lebih dari sekedar kata-kata itu sendiri.

Sebuah studi terkait MIT yang dilaporkan melalui majalah bisnis menemukan bahwa peserta lebih memilih konten yang dihasilkan AI dibandingkan konten manusia dan tidak secara signifikan menurunkan penilaian setelah diberitahu bahwa materi tersebut diproduksi AI.[9] Penelitian lain menunjukkan arah berbeda. Sebuah makalah tinjauan tentang konten yang dihasilkan LLM menemukan bahwa orang sering lebih menyukai tulisan AI atau yang dibantu AI sampai mereka diberi tahu itu buatan AI, setelah itu kesenjangan kualitas menyempit dan karya yang dibuat manusia mendapat kе[3] Studi-studi tersebut tidak saling menghapuskan; mereka menunjukkan bahwa konteks sama pentingnya dengan hasil keluaran.

Ketegangan itu penting karena evaluasi konten kini menjadi masalah infrastruktur, bukan sekadar masalah selera. Mesin pencari, feed sosial, sistem iklan, alur kerja editorial, dan tim keamanan merek semua mengandalkan versi penilaian yang sama: apakah ini cukup berguna untuk ditampilkan, dimonetisasi, atau dipercaya?[5][2] Jika pengguna tidak dapat secara andal membedakan apakah sebuah teks dibuat oleh manusia atau model, maka pengungkapan menjadi sinyal yang kuat — mungkin terlalu kuat — dalam menentukan apa yang orang pikir mereka lihat.

Implikasinya tidak nyaman bagi penerbit dan platform sekaligus. Jika sebuah karya kuat, karya tersebut mungkin berkinerja baik dalam evaluasi buta; jika ditandai sebagai AI, beberapa pembaca mungkin tetap menghukumnya hanya karena mereka tidak mempercayai proses pembuatannya.[1][5][7] Ini mirip dengan apa yang oleh para peneliti perilaku disebut aversi algoritma. Orang sering lebih memaafkan kesalahan manusia daripada mesin, bahkan ketika mesin melakukan pekerjaan yang lebih baik, dan asimetri ini dapat membentuk segala hal mulai dari kebijakan ruang redaksi sampai desain produk.[4][2] Hasilnya bukan preferensi bersih untuk manusia, tapi preferensi berantakan untuk otoritas yang dikenal.

Makalah terpisah tentang berita yang dihasilkan AI berargumen bahwa keinginan untuk membaca materi tersebut tidak hanya didorong oleh persepsi kualitas.[5] Dengan kata lain, audiens mungkin mengatakan artikel itu baik-baik saja namun tetap kurang berminat untuk terlibat setelah mengetahui itu ditulis mesin. Studi lain mengenai berita AI dan yang dibantu AI mencapai kesimpulan serupa dengan bahasa yang lebih hati-hati, mencatat bahwa riset sebelumnya sering menganggap jurnalisme yang ditulis manusia akan dinilai lebih tinggi, sementara riset terbaru memperumit ang[5] Pelajaran yang didapat bukanlah bahwa bidang ini sudah tuntas. Melainkan bahwa hierarki lama tak lagi stabil.

Bukti dari media sosial menambah lapisan lain. Dalam studi Instagram, peserta kesulitan membedakan akun AI dari akun manusia dan menilai konten yang dihasilkan AI sekitar tingkat pembuat konten berpengaruh.[10] Hal ini patut menjadi perhatian bagi siapa saja yang menganggap polesan visual atau aura pengikut sebagai penanda keaslian penulis. Ini juga mengisyaratkan pergeseran besar dalam literasi media: orang tidak hanya menentukan apakah konten bagus, tapi juga apakah mereka nyaman dengan proses di baliknya.

Di sinilah taruhannya pada kebijakan menjadi terlihat. Pengungkapan biasanya dianggap sebagai solusi sederhana: beri tahu orang ketika AI terlibat, dan biarkan mereka memutuskan.[6][2] Namun riset menyarankan bahwa pengungkapan mengubah evaluasi itu sendiri. Transparansi mungkin diperlukan untuk akuntabilitas, namun juga dapat memicu bias terhadap sumber yang diungkapkan.[1][3][5][7] Oleh sebab itu, regulator dan operator platform menghadapi masalah yang familiar: obat untuk ketidakjelasan bisa membawa distorsi sendiri, terutama jika label menjadi pengganti penilaian alih-alih alat bantu penilaian.

Yang belum terverifikasi adalah seberapa tahan lama efek ini berlaku lintas bahasa, budaya, dan kategori konten. Sebuah posting sosial, ulasan produk, cerita berita, dan catatan etika mungkin tidak berperilaku sama saat pengungkapan diterapkan.[3][5][8] Hal ini penting karena gelombang adopsi AI berikutnya tidak akan diputuskan hanya oleh satu hasil laboratorium, tapi oleh banyak penilaian kecil dalam sistem penerbitan, tempat kerja, dan rezim kepatuhan. Basis bukti akan lebih kuat jika studi masa depan melacak bukan hanya preferensi, tapi juga perilaku lanjutan: klik, langganan, berbagi, koreksi, dan kepercayaan dari waktu ke waktu.[5][8] Dengan kata lain, uji coba sebenarnya adalah apakah sebuah label mengubah perilaku atau sekadar mengubah opini.

Ada juga insentif korporat yang tersembunyi dalam riset ini. Bagi pembuat AI, produk ideal seringkali adalah yang meningkatkan pekerjaan tanpa menarik perhatian.[3][5] Bagi penerbit, hal sebaliknya mungkin berlaku: mereka membutuhkan cukup transparansi untuk menjaga kredibilitas, tapi tidak sampai pembaca menolak materi berguna sebelum membacanya. Karena itu, kompetisi sebenarnya tidak lagi hanya tentang model saja. Ini tentang bagaimana AI dibingkai, diberi label, dan diatur pada titik di mana manusia bertemu keluaran, bukan tempat keluaran itu dibuat.[1][3][5][6] Dalam hal ini, argumen tentang nilai konten AI bukan soal penulisnya, melainkan soal kontrol atas persepsi, dan itu akan tetap menjadi isu yang tahan lama jauh setelah satu model pun hilang dari pandangan.