Banyak kritik mengenai kecerdasan buatan masih dalam ranah teoretis atau sulit diukur. Kita tidak tahu berapa banyak orang yang terpengaruh oleh disinformasi yang dihasilkan oleh AI, misalnya. Namun kadang-kadang kita menemukan kasus nyata di mana AI mengacaukan kehidupan manusia.
Contohnya, sebuah peternakan konten yang dibuat oleh AI menipu ribuan penduduk Dublin untuk mengunjungi pusat kota untuk menghadiri parade Halloween yang seharusnya berlangsung selama tiga jam. Parade itu tidak pernah nyata. Setelah mencoba membubarkan ribuan orang yang mendapat informasi salah, kepolisian nasional Irlandia terpaksa mengeluarkan pernyataan yang memberi tahu publik bahwa tidak pernah ada jadwal parade.
Penyeberang menyelidiki situs web di balik postingan acara yang menyesatkan tersebut. Disebut “My Spirit Halloween,” organisasi ini tampaknya berbasis di Pakistan dan didedikasikan semata-mata untuk mempromosikan acara Halloween di seluruh dunia. Idenya adalah untuk mengeksploitasi penelusuran Google sehingga setiap kali seseorang mencari acara Halloween di kotanya, My Spirit Halloween akan muncul di bagian atas hasil dan dapat menghasilkan pendapatan iklan.
Orang-orang menunggu parade halloween. #Dublin
Tidak ada Gardai di sekitar, tidak ada pengumuman resmi, orang-orang menunggu di sisi jalan yang salah…
Seseorang memang menarik perhatian besar #lelucon #lelucon pic.twitter.com/zTQUShZrya
— Artur Martins (@arturmartins) 31 Oktober 2024
Semakin banyak situs arus utama yang berpartisipasi dalam praktik yang sama untuk mendapatkan lalu lintas yang mudah, misalnya, ketika orang-orang menelusuri untuk mengetahui kapan musim berikutnya Hal Asing akan keluar. Namun tampaknya My Spirit Halloween menggunakan AI untuk membuat daftar secara otomatis atau sekadar menjebak orang—pada satu titik, situs web tersebut menyinggung kemungkinan bahwa Mr. Beast akan hadir.
Ini adalah salah satu cara algoritme Google dan cara Google menentukan peringkat konten dapat memberikan dampak nyata pada kehidupan masyarakat. Contoh yang tidak terlalu buruk adalah situs web resep yang memiliki pengenalan yang sangat panjang sebelum resep sebenarnya; taktik lain untuk mendapatkan peringkat tinggi dalam pencarian.
Halaman acara untuk parade Dublin sekarang mencakup pernyataan berikut:
Dengan ini kami mengumumkan bahwa informasi yang menyesatkan ribuan orang Irlandia adalah kesalahan besar yang dilakukan penulis konten kami. Selain itu, hal ini murni tidak dilakukan dengan sengaja. Dan kami meminta maaf kepada saudara-saudara kami di Irlandia atas kesalahpahaman ini.
Terlepas dari “kesalahpahaman” ini, situs tersebut sekarang mencantumkan acara tersebut sebagai “dibatalkan.”
Jika Anda tidak yakin dengan keabsahan suatu situs web, lihat halaman tentangnya. Jangan percaya masthead mana pun yang terlihat seperti ini: