Draf UU AI Anthropic Batasi Intervensi Negara pada Risiko 50+ Korban atau US$1 Miliar
Anthropic sedang menawarkan draf aturan AI kepada anggota Kongres Amerika Serikat. Klausul yang paling mudah memantik debat membatasi kapan pemerintah bisa meminta sebuah model dihentikan: risikonya harus bisa diperkirakan dan segera, dengan potensi lebih dari 50 orang tewas atau terluka parah, atau kerugian lebih dari US$1 miliar. Usulan itu masih draf, belum menjadi hukum.
POLITICO melaporkan pada 16 Oktober bahwa Anthropic membagikan draf tersebut kepada sejumlah anggota Kongres. Laporan itu mengutip tiga orang yang mengetahui pembahasannya dan dokumen yang diperoleh redaksi. Anthropic mengatakan kepada Reuters bahwa usulan itu berangkat dari kerangka AI tingkat lanjut yang sudah dipublikasikan perusahaan.
Foto ilustrasi: Gedung Capitol AS, bukan dokumentasi pertemuan Anthropic dengan anggota Kongres. Foto oleh Anthony T. Pope, CC BY-SA 4.0.
Tiga jenis risiko masuk dalam draf
Ambang korban atau kerugian itu belum cukup dengan sendirinya. Menurut laporan POLITICO yang dikutip Reuters, risikonya juga harus berkaitan dengan salah satu dari tiga skenario: pembuatan atau pelepasan senjata biologis, model yang lolos dari kendali pengembangnya, atau serangan siber.
Artinya, kekhawatiran soal keselamatan saja belum cukup untuk menghentikan model. Risikonya harus masuk ke salah satu kategori tersebut dan melewati ambang yang ditetapkan. Persoalan berikutnya: siapa yang menilai ancaman itu, dan kapan pemerintah boleh turun tangan?
Ringkasan alur berdasarkan laporan POLITICO dan Reuters; ini draf usulan, bukan aturan yang berlaku.
Evaluasi independen, tetapi prosesnya ditentukan draf
Usulan itu juga membentuk jalur evaluasi eksternal. Evaluator independen akan terdaftar di Departemen Perdagangan AS dan menilai perusahaan serta model-model tercanggihnya secara berkala. Perusahaan boleh membayar evaluator, asalkan pembayaran tidak bergantung pada hasil penilaian.
Jika evaluator menemukan salah satu risiko yang disebut dalam draf, mereka harus melaporkannya ke Departemen Perdagangan dalam 72 jam setelah evaluasi selesai. Departemen itu dapat meminta hakim federal di Washington, D.C. untuk menghentikan peluncuran atau penggunaan model. Menurut laporan Reuters, draf juga akan membatasi lembaga pemerintah lain agar tidak menghentikan pengembangan atau penggunaan model tersebut sendiri.
Di sinilah independensi evaluator jadi penting. Draf membolehkan perusahaan membayar penilai, dengan syarat bayarannya tidak bergantung pada hasil. Cara menjaga jarak evaluator dari perusahaan yang membiayainya—termasuk pengawasan dan sanksinya—masih perlu dilihat dari teks lengkap.
Apa yang masih belum pasti?
Draf tersebut juga dilaporkan akan mengesampingkan sebagian aturan negara bagian soal AI. Dalam Advanced AI Framework yang diterbitkan pada Juni, Anthropic mengatakan Kongres sebaiknya melakukan itu hanya jika aturan federal setidaknya sekuat perlindungan paling ketat yang diusulkan dalam kerangka tersebut, dan hanya untuk urusan tertentu. Laporan tentang draf baru ini belum merinci aturan negara bagian mana yang akan terdampak, jadi belum cukup untuk menilai apakah usulnya memenuhi syarat yang ditetapkan Anthropic sendiri.
Belum ada undang-undang baru yang disahkan dari usulan ini. Pembaca di r/Futurology ramai memperdebatkan ambang intervensi dan independensi evaluator. Itu menunjukkan perhatian komunitas, tetapi belum menggambarkan sikap publik secara luas.
Yang perlu dipantau berikutnya adalah apakah anggota Kongres akan mengajukan versi resmi, dan apakah isi draf berubah setelah menerima masukan. Sampai itu terjadi, angka 50 orang dan US$1 miliar adalah syarat dalam proposal Anthropic, bukan batas hukum yang sudah berlaku.
Sumber:
Anda akan diarahkan ke sumber asli artikel ini.
