Lembaga penelitian Tiongkok yang memiliki koneksi dengan militer Tiongkok telah mengembangkan sistem AI menggunakan model Llama sumber terbuka Meta. Makalah yang membahas model AI sangat jelas: bot memiliki aplikasi militer.
Menurut laporan dari Reuters, enam peneliti Tiongkok dari tiga institusi berbeda yang memiliki koneksi dengan Tentara Pembebasan Rakyat (PLA) merilis makalah tentang AI pada bulan Juni. Para peneliti mengambil Llama 13B, versi awal model bahasa besar sumber terbuka Meta, dan melatihnya pada data militer dengan tujuan membuat alat yang dapat mengumpulkan dan memproses intelijen serta membantu mengambil keputusan.
Mereka menyebutnya ObrolanBIT. “Di masa depan, melalui penyempurnaan teknologi, ChatBIT tidak hanya akan diterapkan pada analisis intelijen, tetapi juga… perencanaan strategis, pelatihan simulasi, dan pengambilan keputusan komando akan dieksplorasi,” kata surat kabar tersebut, menurut terjemahan Reuters.
ChatBIT dilatih menggunakan 100.000 catatan dialog militer. Makalah lain dari periode yang sama menjelaskan bagaimana LLM berbasis Llama telah diterapkan untuk kepolisian dalam negeri. Seperti ChatBIT, versi domestik membantu polisi mengumpulkan dan memproses data dalam jumlah besar untuk membantu pengambilan keputusan.
Dalam makalah ketiga yang diungkap Reuters, dua peneliti di sebuah perusahaan Penerbangan yang terhubung dengan PLA menggunakan Llama 2 untuk perang. Bot itu untuk “pelatihan strategi interferensi peperangan elektronik di udara,” kata Reuters.
Kita sedang mengalami demam emas AI. Perusahaan seperti OpenAI dan Microsoft mencoba menghasilkan jutaan dolar dari sistem AI berpemilik yang menjanjikan. Banyak dari sistem tersebut bersifat tertutup, sebuah kotak hitam di mana masukan dan data pelatihan kurang dipahami oleh pengguna akhir.
Mark Zuckerberg mengambil Meta dengan cara yang berbeda. Dalam esai bulan Juli yang menggunakan sistem standar emas sumber terbuka seperti Unix dan Linux, Zuckerberg menyatakan bahwa “AI sumber terbuka adalah jalan ke depan.”
“Ada perdebatan yang sedang berlangsung mengenai keamanan model AI open source, dan pandangan saya adalah bahwa AI open source akan lebih aman dibandingkan alternatif lainnya,” kata esai tersebut. “Saya pikir pemerintah akan menyimpulkan bahwa mereka berkepentingan untuk mendukung open source karena hal ini akan membuat dunia lebih sejahtera dan aman.”
Pada saat itu, Zuckerberg juga menepis kekhawatiran bahwa Tiongkok akan menguasai Llama. Dia berpendapat manfaatnya lebih besar daripada risikonya. “Beberapa orang berpendapat bahwa kita harus menutup model kita untuk mencegah Tiongkok mendapatkan akses terhadap model tersebut, namun menurut pandangan saya, hal ini tidak akan berhasil dan hanya akan merugikan AS dan sekutunya,” katanya. “Musuh kita sangat hebat dalam hal spionase, mencuri model yang mudah diakses relatif mudah, dan sebagian besar perusahaan teknologi tidak melakukan tindakan yang dapat mempersulit hal ini. Tampaknya kemungkinan besar bahwa dunia yang hanya menerapkan model tertutup akan mengakibatkan sejumlah kecil perusahaan besar ditambah musuh geo-politik kita memiliki akses terhadap model-model terkemuka, sementara perusahaan rintisan, universitas, dan usaha kecil kehilangan peluang.”
Meta menguraikan praktik yang dapat diterima dalam menggunakan LLM sumber terbukanya. Tuntutan tersebut mencakup larangan terhadap “militer, peperangan, industri atau aplikasi nuklir, spionase, penggunaan materi atau kegiatan” dan “konten apa pun yang dimaksudkan untuk menghasut atau mendorong kekerasan, pelecehan, atau tindakan yang melukai tubuh seseorang.”
Tentu saja hal-hal tersebut adalah hal-hal yang dilakukan oleh militer. Seluruh pekerjaan mereka menyebabkan cedera tubuh pada seseorang. “Setiap penggunaan model kami oleh Tentara Pembebasan Rakyat tidak sah dan bertentangan dengan kebijakan penggunaan kami yang dapat diterima,” kata direktur kebijakan publik Meta, Molly Montgomery, kepada Reuters.
Dalam pernyataan melalui email, juru bicara Meta mengatakan kepada Gizmodo:
Amerika harus menerima inovasi terbuka atau mengambil risiko menyerahkan keunggulan AI-nya ke Tiongkok, sehingga merugikan perekonomian kita dan berpotensi membahayakan keamanan nasional kita. Dalam kompetisi AI global, peran model sumber terbuka Amerika yang tunggal dan sudah ketinggalan zaman menjadi tidak relevan ketika kita mengetahui bahwa Tiongkok telah menginvestasikan lebih dari satu triliun dolar untuk mengungguli Amerika Serikat dalam hal teknologi, dan perusahaan-perusahaan teknologi Tiongkok juga melakukan hal yang sama. merilis model AI terbuka mereka lebih cepat—atau lebih cepat—dibandingkan perusahaan di AS.
Tapi tidak ada jalan lain di sini untuk Meta. Llama ada di luar sana. Tiongkok menggunakannya. Perusahaan Zuckerberg tidak punya cara untuk menghentikannya. Revolusi sumber terbuka terus berlanjut.