Berita Apa yang selanjutnya untuk SB 1047: Gubernur California Newsom memiliki kesempatan untuk membuat sejarah AI

Para pendukungnya mengatakan bahwa ini adalah undang-undang sederhana yang menetapkan “hukum yang jelas, dapat diprediksi, standar keselamatan yang masuk akal” untuk kecerdasan buatan. Para penentang mengatakan ini adalah langkah yang berbahaya dan arogan yang akan “menghambat inovasi“.”

Bagaimanapun, SB 1047 — Senator negara bagian California. Usulan Scott Wiener untuk mengatur model AI canggih yang ditawarkan oleh perusahaan yang menjalankan bisnis di negara bagian tersebut — kini telah disahkan oleh Majelis Negara Bagian California melalui margin 48 hingga 16Pada bulan Mei lalu, RUU ini telah lolos di Senat dengan perolehan suara 32 berbanding 1. Setelah Senat menyetujui perubahan yang dilakukan oleh majelis, mengharapkan untuk segera dilakukan, tindakan tersebut akan diserahkan ke meja Gubernur Gavin Newsom.

RUU ini, yang akan meminta pertanggungjawaban perusahaan AI atas kerugian besar yang mungkin disebabkan oleh model “baru” mereka, didukung oleh berbagai kelompok keamanan AI, serta tokoh-tokoh terkemuka di bidang ini seperti Geoffrey HintonBahasa Indonesia: Joshua BengioDan Stuart Russelyang telah memperingatkan potensi teknologi tersebut untuk menimbulkan bahaya besar, bahkan eksistensial bagi umat manusia. Hal ini mendapat dukungan mengejutkan di menit-menit terakhir dari Elon Muskyang di antara usaha lainnya menjalankan perusahaan AI xAI.

Hampir seluruh industri teknologi, termasuk OpenAIBahasa Indonesia: Indonesiainvestor yang kuat Y Combinator dan Andreessen Horowitzdan beberapa peneliti akademis yang takut hal itu mengancam sumber terbuka Model AI. Anthropic, salah satu perusahaan AI terkemuka, melobi untuk melemahkan RUU tersebutSetelah banyak amandemen yang diusulkan diadopsi pada bulan Agustus, perusahaan mengatakan bahwa RUU tersebut “manfaatnya mungkin lebih besar daripada biayanya.”

Meskipun mendapat reaksi keras dari industri, RUU tersebut tampaknya populer di kalangan warga California, meskipun semua survei tentang RUU tersebut didanai oleh pihak-pihak yang berkepentingan. Sebuah jajak pendapat baru-baru ini oleh AI Policy Institute yang pro-RUU tersebut menemukan 70 persen penduduk mendukung, dengan tingkat persetujuan yang lebih tinggi di antara warga California yang bekerja di bidang teknologi. Kamar Dagang California menugaskan sebuah RUU menemukan banyak warga California yang menentangtetapi kata-kata dalam jajak pendapat itu bias, paling tidak, menggambarkan rancangan undang-undang itu mengharuskan pengembang untuk “membayar denda puluhan juta dolar jika mereka tidak melaksanakan perintah dari birokrat negara bagian.” Jajak pendapat AI Policy Institute menyajikan argumen pro dan kontra, tetapi Kamar Dagang California hanya peduli dengan argumen “kontra”.

Margin lebar bipartisan yang digunakan untuk meloloskan RUU tersebut di Majelis dan Senat, dan dukungan umum masyarakat (jika tidak diminta dengan cara yang bias), mungkin menunjukkan bahwa Gubernur Newsom kemungkinan akan menandatanganinya. Namun, tidak sesederhana itu. Andreessen Horowitz, Raksasa modal ventura senilai $43 miliarmemiliki menyewa teman dekat Newsom dan operator Demokrat Jason Kinney untuk melobi menentang RUU tersebut, dan sejumlah Demokrat yang kuat, termasuk delapan anggota DPR AS dari California dan mantan Ketua DPR Nancy Pelositelah mendesak veto, menggemakan topik pembicaraan dari industri teknologi.

Jadi ada kemungkinan besar Newsom akan memveto RUU tersebut, sehingga California — pusat industri AI — tidak akan menjadi negara bagian pertama dengan aturan tanggung jawab AI yang kuat. Yang dipertaruhkan bukan hanya keamanan AI di California, tetapi juga di AS dan mungkin di seluruh dunia.

Untuk menarik semua lobi yang intens ini, seseorang mungkin berpikir bahwa SB 1047 adalah rancangan undang-undang yang agresif dan otoriter — tetapi, terutama setelah beberapa putaran revisi di Majelis Negara, undang-undang yang sebenarnya tidak berbuat banyak.

Itu akan menawarkan perlindungan whistleblower bagi pekerja teknologibeserta proses bagi orang-orang yang memiliki informasi rahasia tentang perilaku berisiko di laboratorium AI untuk mengajukan keluhan mereka ke Jaksa Agung negara bagian tanpa takut dituntut. Proses ini juga mengharuskan perusahaan AI yang menghabiskan lebih dari $100 juta untuk melatih model AI guna mengembangkan rencana keselamatan. (Batas yang sangat tinggi untuk persyaratan ini dimaksudkan untuk melindungi industri rintisan California, yang keberatan bahwa beban kepatuhan akan terlalu tinggi bagi perusahaan kecil.)

Jadi, apa yang mungkin terjadi dengan RUU ini yang memicu histeria selama berbulan-bulan, lobi yang gencar dari komunitas bisnis California, dan intervensi yang belum pernah terjadi sebelumnya oleh perwakilan federal California? Sebagian jawabannya adalah bahwa RUU tersebut dulunya lebih kuat. Versi awal undang-undang tersebut menetapkan ambang batas kepatuhan sebesar $100 juta untuk penggunaan sejumlah daya komputasi tertentu, yang berarti bahwa seiring berjalannya waktu, lebih banyak perusahaan akan menjadi subjek undang-undang tersebut karena komputer terus menjadi lebih murah. RUU tersebut juga akan membentuk badan negara yang disebut “Divisi Model Perbatasan” untuk meninjau rencana keselamatan; industri tersebut menolak perebutan kekuasaan yang dianggap demikian.

Bagian lain dari jawabannya adalah banyak orang yang diberi tahu secara keliru bahwa RUU tersebut memiliki manfaat yang lebih besar. Salah satu kritikus terkemuka diklaim secara tidak akurat bahwa pengembang AI bisa saja bersalah atas tindak pidana, terlepas dari apakah mereka terlibat dalam insiden yang merugikan, padahal RUU tersebut hanya memiliki ketentuan mengenai tanggung jawab pidana jika pengembang tersebut sengaja berbohong di bawah sumpah(Ketentuan tersebut kemudian dihapus juga). Perwakilan kongres Zoe Lofgren dari komite sains, ruang angkasa, dan teknologi menulis surat pihak oposisi secara keliru mengklaim bahwa rancangan undang-undang tersebut mengharuskan kepatuhan terhadap pedoman yang belum ada.

Namun standar tersebut memang ada (Anda dapat membaca selengkapnya di sini), dan RUU tersebut tidak mewajibkan perusahaan untuk mematuhinya. RUU tersebut hanya menyatakan bahwa “pengembang harus mempertimbangkan praktik terbaik industri dan panduan yang berlaku” dari Institut Keamanan Kecerdasan Buatan AS, Institut Standar dan Teknologi Nasional, Badan Operasional Pemerintah, dan organisasi terkemuka lainnya.

Banyak sekali pembahasan mengenai SB 1047 yang sayangnya berpusat pada klaim yang jelas-jelas tidak benar seperti ini, yang dalam banyak kasus dikemukakan oleh orang-orang yang seharusnya lebih tahu.

SB 1047 didasarkan pada gagasan bahwa sistem AI di masa depan mungkin sangat kuat, sehingga mereka mungkin berbahayadan bahwa beberapa pengawasan diperlukan. Proposisi inti tersebut sangat luar biasa kontroversial di antara peneliti AI. Tidak ada yang lebih menggambarkan perpecahan ini selain tiga orang yang sering disebut sebagai “bapak pembelajaran mesin”, pemenang Penghargaan Turing Yoshua Bengio, Geoffrey Hinton, dan Yann LeCun. Bengio — seorang Penerima penghargaan Future Perfect 2023 —dan Hinton dalam beberapa tahun terakhir menjadi yakin bahwa teknologi yang mereka ciptakan dapat membunuh kita semua dan mendukung regulasi dan pengawasan. Hinton mengundurkan diri dari Google pada tahun 2023 untuk berbicara terbuka tentang ketakutannya.

LeCun, yang merupakan kepala ilmuwan AI di Meta, telah mengambil sikap yang berlawanan, dengan menyatakan bahwa kekhawatiran tersebut adalah fiksi ilmiah yang tidak masuk akal dan bahwa regulasi apa pun akan menghambat inovasi. Sementara Bengio dan Hinton mendukung RUU tersebut, LeCun menentangnya, terutama gagasan bahwa perusahaan AI harus menghadapi tanggung jawab jika AI digunakan dalam peristiwa yang melibatkan korban massal.

Dalam hal ini, SB 1047 merupakan pusat tarik-menarik simbolis: Apakah pemerintah menganggap serius masalah keamanan AI, atau tidak? Teks RUU yang sebenarnya mungkin terbatas, tetapi sejauh yang ditunjukkannya, pemerintah mendengarkan separuh pakar yang berpikir bahwa AI mungkin sangat berbahaya, implikasinya besar.

Sentimen itulah yang mungkin telah mendorong sebagian besar lobi paling keras terhadap RUU tersebut oleh kapitalis ventura Marc Andreessen dan Ben Horowitz, yang perusahaannya a16z telah bekerja tanpa henti untuk menggagalkan RUU tersebut, dan sebagian dari upaya yang sangat tidak biasa kepada legislator federal untuk menuntut mereka menentang RUU negara bagian. Politik yang lebih biasa-biasa saja mungkin juga berperan: Politico melaporkan bahwa Pelosi menentang RUU tersebut karena dia mencoba merayu VC teknologi untuk putrinya, yang kemungkinan akan mencalonkan diri melawan Scott Wiener untuk kursi DPR.)

Mungkin tampak aneh bahwa undang-undang di satu negara bagian AS saja membuat banyak orang gelisah. Namun, ingatlah: California bukan sembarang negara bagian. Di sanalah beberapa perusahaan AI terkemuka dunia berkantor pusat.

Dan apa yang terjadi di sana sangatlah penting karena, di tingkat federal, para pembuat undang-undang telah menyeret keluar proses pengaturan AI. Di antara keraguan Washington dan pemilihan umum yang semakin dekat, kini giliran negara bagian untuk meloloskan undang-undang baru. RUU California, jika Newsom memberinya lampu hijau, akan menjadi bagian penting dari teka-teki itu, yang akan menentukan arah bagi AS secara lebih luas.

Negara-negara lain di dunia juga memperhatikan hal ini. “Negara-negara di seluruh dunia sedang mengamati rancangan undang-undang AI ini untuk mendapatkan ide-ide yang dapat memengaruhi keputusan mereka terkait undang-undang AI,” kata Victoria Espinel, kepala eksekutif Business Software Alliance, sebuah kelompok lobi yang mewakili perusahaan-perusahaan perangkat lunak besar, diberi tahu New York Times pada bulan Juni.

Bahkan Tiongkok — sering disebut sebagai momok dalam percakapan orang Amerika tentang pengembangan AI (karena “kita tidak ingin kalah dalam perlombaan senjata dengan Tiongkok”) — menunjukkan tanda-tanda peduli terhadap keselamatanbukan hanya ingin maju terus. RUU seperti SB 1047 dapat memberi tahu orang lain bahwa warga Amerika juga peduli dengan keselamatan.

Terus terang, sungguh menyegarkan melihat para legislator menyadari taktik favorit dunia teknologi: mengklaim bahwa dunia teknologi dapat mengatur dirinya sendiri. Klaim itu mungkin berlaku di era media sosial, tetapi klaim itu semakin tidak dapat dipertahankan. Kita perlu mengatur Big Tech. Itu berarti tidak hanya memberi penghargaan, tetapi juga hukuman.

Newsom memiliki kesempatan untuk melakukan sesuatu yang bersejarah. Dan jika dia tidak melakukannya? Yah, dia akan menghadapi beberapa pukulannya sendiri. Jajak pendapat AI Policy Institute menunjukkan bahwa 60 persen pemilih siap menyalahkannya atas insiden terkait AI di masa mendatang jika ia memveto SB 1047. Bahkan, mereka akan menghukumnya di kotak suara jika ia mencalonkan diri untuk jabatan yang lebih tinggi: 40 persen pemilih California mengatakan mereka cenderung tidak akan memilih Newsom dalam pemilihan pendahuluan presiden mendatang jika ia memveto RUU tersebut.