Skip to content
Kembali ke Feed
Draf UU AI Anthropic Batasi Intervensi Negara pada Risiko 50+ Korban atau US$1 Miliar

Draf UU AI Anthropic Batasi Intervensi Negara pada Risiko 50+ Korban atau US$1 Miliar

3 menit baca

Sumber utama: investing.com. Ditulis ulang dan dikurasi oleh Teguh Widodo.

Anthropic sedang menawarkan draf aturan AI kepada anggota Kongres Amerika Serikat. Klausul yang paling mudah memantik debat membatasi kapan pemerintah bisa meminta sebuah model dihentikan: risikonya harus bisa diperkirakan dan segera, dengan potensi lebih dari 50 orang tewas atau terluka parah, atau kerugian lebih dari US$1 miliar. Usulan itu masih draf, belum menjadi hukum.

POLITICO melaporkan pada 16 Oktober bahwa Anthropic membagikan draf tersebut kepada sejumlah anggota Kongres. Laporan itu mengutip tiga orang yang mengetahui pembahasannya dan dokumen yang diperoleh redaksi. Anthropic mengatakan kepada Reuters bahwa usulan itu berangkat dari kerangka AI tingkat lanjut yang sudah dipublikasikan perusahaan.

Gedung Capitol Amerika Serikat, tempat Kongres AS bersidang

Foto ilustrasi: Gedung Capitol AS, bukan dokumentasi pertemuan Anthropic dengan anggota Kongres. Foto oleh Anthony T. Pope, CC BY-SA 4.0.

Tiga jenis risiko masuk dalam draf

Ambang korban atau kerugian itu belum cukup dengan sendirinya. Menurut laporan POLITICO yang dikutip Reuters, risikonya juga harus berkaitan dengan salah satu dari tiga skenario: pembuatan atau pelepasan senjata biologis, model yang lolos dari kendali pengembangnya, atau serangan siber.

Artinya, kekhawatiran soal keselamatan saja belum cukup untuk menghentikan model. Risikonya harus masuk ke salah satu kategori tersebut dan melewati ambang yang ditetapkan. Persoalan berikutnya: siapa yang menilai ancaman itu, dan kapan pemerintah boleh turun tangan?

Diagram alur intervensi pemerintah menurut draf AI yang dilaporkan POLITICO

Ringkasan alur berdasarkan laporan POLITICO dan Reuters; ini draf usulan, bukan aturan yang berlaku.

Evaluasi independen, tetapi prosesnya ditentukan draf

Usulan itu juga membentuk jalur evaluasi eksternal. Evaluator independen akan terdaftar di Departemen Perdagangan AS dan menilai perusahaan serta model-model tercanggihnya secara berkala. Perusahaan boleh membayar evaluator, asalkan pembayaran tidak bergantung pada hasil penilaian.

Jika evaluator menemukan salah satu risiko yang disebut dalam draf, mereka harus melaporkannya ke Departemen Perdagangan dalam 72 jam setelah evaluasi selesai. Departemen itu dapat meminta hakim federal di Washington, D.C. untuk menghentikan peluncuran atau penggunaan model. Menurut laporan Reuters, draf juga akan membatasi lembaga pemerintah lain agar tidak menghentikan pengembangan atau penggunaan model tersebut sendiri.

Di sinilah independensi evaluator jadi penting. Draf membolehkan perusahaan membayar penilai, dengan syarat bayarannya tidak bergantung pada hasil. Cara menjaga jarak evaluator dari perusahaan yang membiayainya—termasuk pengawasan dan sanksinya—masih perlu dilihat dari teks lengkap.

Apa yang masih belum pasti?

Draf tersebut juga dilaporkan akan mengesampingkan sebagian aturan negara bagian soal AI. Dalam Advanced AI Framework yang diterbitkan pada Juni, Anthropic mengatakan Kongres sebaiknya melakukan itu hanya jika aturan federal setidaknya sekuat perlindungan paling ketat yang diusulkan dalam kerangka tersebut, dan hanya untuk urusan tertentu. Laporan tentang draf baru ini belum merinci aturan negara bagian mana yang akan terdampak, jadi belum cukup untuk menilai apakah usulnya memenuhi syarat yang ditetapkan Anthropic sendiri.

Belum ada undang-undang baru yang disahkan dari usulan ini. Pembaca di r/Futurology ramai memperdebatkan ambang intervensi dan independensi evaluator. Itu menunjukkan perhatian komunitas, tetapi belum menggambarkan sikap publik secara luas.

Yang perlu dipantau berikutnya adalah apakah anggota Kongres akan mengajukan versi resmi, dan apakah isi draf berubah setelah menerima masukan. Sampai itu terjadi, angka 50 orang dan US$1 miliar adalah syarat dalam proposal Anthropic, bukan batas hukum yang sudah berlaku.

Sumber:

Baca Artikel Selengkapnya

Anda akan diarahkan ke sumber asli artikel ini.

Daftar Isi

Artikel Terkait

Hugging Face Rilis Carbon-X untuk Ngobrol soal DNA, tapi Belum untuk Diagnosis

Hugging Face merilis Carbon-X pada 22 Oktober: model terbuka yang menerima urutan DNA dan pertanyaan sehari-hari dalam satu percakapan. Versi 4-bit-nya tersedia sebagai berkas sekitar 9,6 GB untuk llama.cpp, meski pemakaian nyata butuh memori tambahan. Model ini masih alat riset, belum untuk keputusan medis, dan prediksinya belum diuji di laboratorium menurut laporan WIRED(https://www.wired.com/story/hugging-face-new-ai-biology-model-chat-with-dna/).

23 Okt 20263 mntBaca →

Empat Proyek AI Agent Masuk AAIF, Termasuk Agent Skills dari Anthropic

Agentic AI Foundation (AAIF) kini menaungi empat proyek baru: Agent Skills dari Anthropic, Open Responses dari OpenAI, OpenEnv dari Hugging Face, dan OpenSandbox dari Alibaba. Pengumuman pada 22 Oktober itu menambah koleksi AAIF dari tiga proyek saat didirikan menjadi sepuluh. AAIF berada di bawah Linux Foundation, dan keempat proyek ini(https://aaif.io/news/agentic-ai-foundation-announces-four-new-projects) mengisi bagian berbeda dari infrastruktur agent.

23 Okt 20263 mntBaca →