Pemerintah Inggris hanya menyatakan tetap bekerja sama dengan sejumlah mitra industri, termasuk Anthropic, untuk meningkatkan keamanan model AI.
Superinteligensi Jadi Kekhawatiran Utama
Hubinger secara khusus menyoroti persoalan AI alignment atau penyelarasan AI.
Bidang tersebut berupaya memastikan sistem AI tetap beroperasi sesuai tujuan, nilai dan kepentingan manusia meskipun kemampuan teknologi berkembang semakin jauh.
Menurut Hubinger, persoalan tersebut menjadi jauh lebih rumit ketika AI mencapai tahap superintelligence atau kecerdasan yang melampaui kemampuan manusia secara luas.
Ia mengatakan Anthropic berupaya sebaik mungkin menghadapi persoalan tersebut. Namun, menurutnya, belum terdapat solusi yang benar-benar matang untuk memastikan sistem superinteligensi tetap selaras dengan kepentingan manusia.
Kekhawatiran itu bukan hanya bersifat teoritis.
Sejumlah perusahaan AI besar, termasuk OpenAI, Anthropic dan Meta, sebelumnya telah mengungkap insiden yang melibatkan penggunaan sistem AI dalam aktivitas peretasan atau serangan siber.
Dalam laporan keselamatan yang diterbitkan Anthropic pada Agustus, perusahaan tersebut juga mengidentifikasi risiko rendah bahwa model yang sangat kapabel dapat menjadi tidak selaras dengan tujuan organisasi yang mengoperasikannya.
