Porostimur.com, Washington — Kemajuan kecerdasan buatan atau artificial intelligence (AI) dinilai bergerak begitu cepat hingga mulai memunculkan kekhawatiran serius tentang kemampuan manusia mempertahankan kendali atas teknologi tersebut.
Evan Hubinger, peneliti keselamatan senior di Anthropic, bahkan memperkirakan terdapat peluang lebih dari 10 persen bahwa perkembangan AI dalam satu dekade mendatang dapat menimbulkan risiko yang berujung pada kepunahan umat manusia.
Pernyataan itu disampaikan Hubinger melalui unggahan di platform X. Ia menilai risiko dari model AI yang tersedia saat ini masih relatif rendah. Namun, menurutnya, persoalan dapat berubah ketika sistem AI berkembang menjadi jauh lebih canggih dan mampu meningkatkan kemampuannya sendiri.
Hubinger tidak menjelaskan secara spesifik skenario yang menurutnya dapat menyebabkan kepunahan manusia.
Meski demikian, pernyataan tersebut memperlihatkan semakin tajamnya perdebatan mengenai keselamatan AI. Diskusi publik kini tidak lagi sekadar mempertanyakan apakah AI memiliki risiko, tetapi mulai bergeser pada seberapa besar risiko tersebut dan apakah manusia memiliki kemampuan untuk mengendalikannya.
AI Diprediksi Melampaui Kemampuan Manusia
Peringatan Hubinger muncul setelah peneliti AI Jacob Coxon, yang sebelumnya bekerja di Anthropic dan OpenAI, mengkritik perusahaan-perusahaan pengembang AI.
