Berita Peneliti Tiongkok 'memodifikasi model AI Meta' untuk potensi penggunaan militer – lapor

Lembaga penelitian Tiongkok yang berafiliasi dengan Tentara Pembebasan Rakyat (PLA) dilaporkan telah menggunakan model bahasa besar sumber terbuka Meta, Llama 2 13B, untuk membuat alat AI dengan potensi aplikasi militer. Seperti dilansir oleh Reuterssebuah makalah penelitian yang diterbitkan pada bulan Juni mengungkapkan bahwa para peneliti, termasuk mereka yang berasal dari divisi penelitian PLA, menggunakan versi awal Meta's Llama sebagai dasar alat yang mereka sebut sebagai “ChatBIT”.

Keenam peneliti China tersebut disebutkan berasal dari tiga institusi, termasuk Academy of Military Science (AMS).

Institusi Tiongkok yang berafiliasi dengan PLA 'menyesuaikan AI Meta'

Laporan tersebut menyarankan agar mereka menyesuaikan model Llama Meta dengan parameter unik untuk mengembangkan alat AI berorientasi militer yang dirancang untuk mengumpulkan dan memproses intelijen serta memberikan informasi yang akurat dan andal untuk pengambilan keputusan operasional.

Makalah ini menjelaskan bagaimana ChatBIT disempurnakan dan “dioptimalkan untuk tugas dialog dan menjawab pertanyaan di bidang militer.”

Model ini dilaporkan mengungguli beberapa sistem AI lainnya, mencapai hampir 90% kemampuan ChatGPT-4 OpenAI. Namun, penulis tidak mengungkapkan metrik kinerja spesifik atau mengonfirmasi apakah ChatBIT saat ini dalam penerapan aktif, seperti yang dicatat dalam laporan Reuters.

Mengutip Sunny Cheung, rekan rekan di Jamestown Foundation yang berspesialisasi dalam penggunaan teknologi Tiongkok, dikutip mengatakan: “Ini pertama kalinya ada bukti substansial bahwa para ahli militer PLA di Tiongkok telah secara sistematis meneliti dan mencoba memanfaatkan kekuatan keterbukaan. -sumber LLM, terutama Meta, untuk tujuan militer.”

Meta menghadapi tantangan dalam menerapkan pembatasan penggunaan

Meta, yang menganjurkan model rilis terbuka untuk banyak sistem AI-nya, termasuk Llama, menerapkan batasan penggunaan tertentu. Misalnya, organisasi dengan lebih dari 700 juta pengguna diharuskan mendapatkan lisensi dari Meta, dan ketentuan tersebut secara tegas melarang penggunaan model ini untuk tujuan militer, nuklir, spionase, atau tujuan sensitif lainnya.

Meskipun demikian, perusahaan mengakui bahwa, karena sifat modelnya yang terbuka, kemampuannya untuk menegakkan kepatuhan menjadi terbatas. Molly Montgomery, direktur kebijakan publik Meta, mengatakan kepada Reuters: “Setiap penggunaan model kami oleh Tentara Pembebasan Rakyat tidak sah dan bertentangan dengan kebijakan penggunaan kami yang dapat diterima.”

Para peneliti menyebutkan bahwa model tersebut dilatih hanya pada 100.000 catatan dialog militer—sebuah kumpulan data yang relatif kecil dibandingkan dengan model bahasa besar lainnya.

Awal pekan ini, ReadWrite melaporkan bahwa Pemerintahan Biden menyelesaikan pembatasan untuk membatasi investasi AS pada teknologi maju di Tiongkok, seperti AI. Dengan alasan masalah keamanan nasional, peraturan tersebut telah dipertimbangkan selama setahun terakhir dan sekarang akan diberlakukan pada tanggal 2 Januari.

ReadWrite telah menghubungi Meta untuk memberikan komentar.

Gambar unggulan: Canva

Pos Peneliti Tiongkok 'memodifikasi model AI Meta' untuk potensi penggunaan militer – lapor muncul pertama kali pada BacaTulis.

Sumber