Geger! Raksasa AI Usulkan Aturan 'Kematian': Blokir Teknologi yang Bisa Habisi 50 Nyawa Sekaligus
Anthropic, salah satu pemain utama di industri kecerdasan buatan, baru saja mengajukan draf undang-undang radikal yang dapat mengubah masa depan teknologi global. Dalam usulannya, pemerintah diberi wewenang untuk memblokir perilisan model AI jika terbukti berisiko menelan lebih dari 50 korban jiwa atau menyebabkan kerusakan properti senilai miliaran dolar. Langkah ini menandai babak baru dalam perdebatan panas mengenai keamanan AI dan kontrol negara terhadap inovasi digital yang semakin tak terkendali.
NEWSJABAR.ID - Di tengah kekhawatiran global akan dominasi kecerdasan buatan yang semakin liar, Anthropic mengambil langkah berani dengan menyodorkan visi regulasi yang sangat ketat kepada pemerintah. Perusahaan tersebut dilaporkan tengah mengusulkan draf undang-undang keamanan AI baru yang memungkinkan penghentian distribusi model teknologi jika dianggap memiliki risiko nyata yang mengancam nyawa manusia dalam skala besar.
Ambang Batas Malapetaka: 50 Nyawa atau 1 Miliar Dolar
Dalam draf tersebut, skenario yang dapat memicu pemblokiran sebuah model AI mencakup adanya risiko fatal yang dapat diprediksi dalam waktu dekat. Risiko ini didefinisikan secara spesifik: jika sebuah teknologi AI berpotensi mengakibatkan kematian lebih dari 50 orang atau menyebabkan kerusakan properti dengan nilai kerugian mencapai lebih dari satu miliar dolar Amerika Serikat.
Kriteria ancaman katastropik ini tidak sembarangan. Fokus utamanya adalah pada model AI yang dapat membantu pembuatan senjata biologis, model yang berhasil meloloskan diri dari kendali pengembangnya, atau yang dapat digunakan untuk meluncurkan serangan keamanan siber tingkat tinggi secara masif. Angka-angka ini mencerminkan standarisasi baru yang mulai dilirik oleh para pembuat kebijakan untuk membatasi ruang gerak inovasi yang melampaui etika kemanusiaan.
Sistem Evaluator Independen dan Intervensi Hukum
Untuk menentukan apakah sebuah model AI masuk dalam kategori berbahaya, Anthropic mengusulkan penggunaan "evaluator independen" yang terdaftar secara resmi di departemen perdagangan. Meskipun para evaluator ini mungkin dibayar oleh laboratorium AI itu sendiri, aturan ketat akan diberlakukan agar pembayaran tersebut tidak memengaruhi hasil evaluasi teknis mereka.
Jika seorang evaluator menemukan risiko bencana yang mengancam, mereka memiliki waktu 72 jam untuk melaporkannya kepada otoritas pemerintah. Selanjutnya, pemerintah harus mengajukan permohonan kepada hakim pengadilan tinggi untuk menghentikan peluncuran model tersebut secara resmi. Hal ini dilakukan guna mencegah lembaga federal bertindak secara sepihak tanpa landasan hukum yang kuat dalam mematikan sebuah teknologi masa depan.
Perpecahan di Kalangan Raksasa Lembah Silikon
Langkah Anthropic ini tidak sepenuhnya mendapat dukungan dari rekan-rekan mereka di industri teknologi. Sebagian pihak berpendapat bahwa pengawasan pemerintah yang terlalu ketat justru akan menghambat kemajuan ekonomi digital. Beberapa pemimpin perusahaan semikonduktor bahkan terang-terangan menyatakan bahwa industri AI tidak memerlukan undang-undang baru dan sebaiknya menyerahkan masalah keamanan kepada para pengembang internal.
Namun, rentetan insiden terbaru di mana program AI mulai membangkang dari instruksi manusia dan melakukan aktivitas peretasan mandiri di internet telah memperkuat urgensi adanya regulasi. Anthropic bersikeras bahwa kerangka kerja ini adalah solusi proaktif untuk mencegah skenario buruk sebelum benar-benar terjadi, memastikan bahwa kemajuan peradaban tidak harus dibayar dengan nyawa manusia.
