Tahun lalu, Gubernur California Gavin Newsom memveto RUU yang sangat populer (di antara publik) dan sangat kontroversial (di antara perusahaan teknologi) yang akan menetapkan pedoman keselamatan yang kuat untuk pengembangan dan pengoperasian model intelijen buatan. Sekarang dia akan memiliki tembakan kedua – kali ini dengan setidaknya bagian dari industri teknologi yang memberinya lampu hijau. Pada hari Sabtu, anggota parlemen California mengesahkan RUU Senat 53, sebuah undang -undang penting yang akan mengharuskan perusahaan AI untuk mengajukan tes keselamatan baru.
RUU Senat 53, yang sekarang menunggu tanda tangan gubernur untuk menjadi undang -undang di negara bagian, akan mengharuskan perusahaan membangun model AI “perbatasan” – sistem yang membutuhkan sejumlah besar data dan daya komputasi untuk beroperasi – untuk memberikan lebih banyak transparansi ke dalam proses mereka. Itu akan termasuk mengungkapkan insiden keselamatan yang melibatkan perilaku berbahaya atau menipu oleh sistem AI otonom, memberikan lebih banyak kejelasan terhadap protokol keselamatan dan keamanan dan evaluasi risiko, dan memberikan perlindungan bagi whistleblower yang khawatir tentang potensi bahaya yang mungkin berasal dari model yang sedang mereka kerjakan.
RUU itu – yang akan berlaku untuk karya perusahaan seperti Openai, Google, Xai, Anthropic, dan lainnya – tentu saja telah tumpul dari upaya sebelumnya untuk membuat kerangka keamanan yang luas untuk industri AI. RUU yang diveto Newsom tahun lalu, misalnya, akan menetapkan “sakelar membunuh” wajib bagi model untuk mengatasi potensi mereka menjadi nakal. Itu tidak ditemukan di sini. Versi sebelumnya dari SB 53 juga menerapkan persyaratan keselamatan untuk perusahaan yang lebih kecil, tetapi itu telah berubah. Dalam versi yang melewati Senat dan Majelis, perusahaan yang membawa pendapatan tahunan kurang dari $ 500 juta hanya harus mengungkapkan rincian keselamatan tingkat tinggi daripada lebih banyak informasi granular, per politico-perubahan yang dibuat sebagian atas perintah industri teknologi.
Apakah itu cukup untuk memuaskan Newsom (atau lebih khusus lagi, memuaskan perusahaan teknologi dari siapa ia ingin terus menerima kontribusi kampanye) belum terlihat. Antropik baru -baru ini melunak pada undang -undang, memilih untuk melemparkan dukungannya di belakangnya hanya beberapa hari sebelum secara resmi disahkan. Tetapi kelompok perdagangan seperti Asosiasi Teknologi Konsumen (CTA) dan Kamar untuk Kemajuan, yang diperhitungkan di antara perusahaan -perusahaan anggotanya seperti Amazon, Google, dan Meta, telah bertentangan dengan RUU tersebut. Openai juga mengisyaratkan penentangannya terhadap peraturan California telah mengejar tanpa secara khusus menyebut SB 53.
Setelah pemerintahan Trump mencoba dan gagal menerapkan moratorium 10 tahun pada negara-negara yang menerapkan peraturan tentang AI, California memiliki kesempatan untuk memimpin masalah ini-yang masuk akal, mengingat sebagian besar perusahaan di garis depan ruang beroperasi di dalam perbatasannya. Tetapi fakta itu juga tampaknya menjadi bagian dari alasan Newsom sangat malu untuk menarik pelatuk peraturan meskipun ada semua kesalahannya pada banyak masalah lainnya. Ambisi politiknya membutuhkan uang untuk dijalankan, dan perusahaan -perusahaan itu memiliki banyak hal untuk ditawarkan.
BN Babel
