Dalam sebuah kejanggalan yang memalukan dan ironis, seorang profesor terkemuka di Universitas Stanford dituduh menyebarkan misinformasi yang dihasilkan oleh AI sambil menjadi saksi ahli dalam mendukung undang-undang yang dirancang untuk mencegah misinformasi yang dihasilkan oleh AI dalam pemilu.
Jeff Hancock, direktur pendiri Lab Media Sosial Stanford, menyampaikan pendapat ahlinya awal bulan ini dalam Kohls v. Ellison, gugatan yang diajukan oleh YouTuber dan perwakilan negara bagian Minnesota yang mengklaim undang-undang baru negara bagian tersebut mengkriminalisasi penggunaan deepfake untuk mempengaruhi pemilu. Amandemen Pertama mereka mengenai hak kebebasan berpendapat.
Pendapatnya mencakup referensi ke penelitian yang konon menemukan “bahkan ketika seseorang diberi tahu tentang keberadaan deepfake, mereka mungkin masih kesulitan membedakan antara konten nyata dan konten yang dimanipulasi.” Namun menurut pengacara penggugat, penelitian yang dikutip Hancock—berjudul “Pengaruh Video Deepfake terhadap Sikap dan Perilaku Politik” dan diterbitkan dalam Journal of Information Technology & Politics—sebenarnya tidak ada.
“Kutipan tersebut memiliki ciri-ciri 'halusinasi' kecerdasan buatan (AI), yang menunjukkan bahwa setidaknya kutipan tersebut dihasilkan oleh model bahasa besar seperti ChatGPT,” tulis penggugat dalam mosi yang berusaha mengecualikan pendapat ahli Hancock. “Penggugat tidak tahu bagaimana halusinasi ini bisa muncul dalam deklarasi Hancock, namun hal ini mempertanyakan keseluruhan dokumen, terutama ketika sebagian besar komentar tidak mengandung metodologi atau logika analitik apa pun.”
Tuduhan tentang penggunaan AI oleh Hancock pertama kali dilaporkan oleh Minnesota Reformer. Hancock tidak segera menanggapi permintaan komentar Gizmodo.
Minnesota adalah satu dari 20 negara bagian yang telah mengesahkan undang-undang yang mengatur penggunaan deepfake dalam kampanye politik. Undang-undangnya melarang dengan sengaja atau bertindak sembrono untuk menyebarkan deepfake hingga 90 hari sebelum pemilu jika materi tersebut dibuat tanpa persetujuan orang yang digambarkan dan dimaksudkan untuk mempengaruhi hasil pemilu.
Gugatan yang menantang undang-undang tersebut diajukan oleh firma hukum konservatif atas nama Perwakilan negara bagian Minnesota Mary Franson dan Christopher Kohls, seorang YouTuber yang menggunakan nama Mr Reagan.
Gugatan yang diajukan oleh Kohls yang menentang undang-undang deepfake pemilu California menyebabkan hakim federal mengeluarkan perintah awal bulan lalu yang mencegah undang-undang tersebut berlaku.