Dalam skenario tertentu, model tersebut secara hipotetis dapat mengeksploitasi atau memanipulasi sistem yang digunakannya.
Laporan yang sama juga membahas kemungkinan AI melakukan penelitian dan pengembangan secara otomatis. Jika kemampuan tersebut berkembang secara ekstrem, Anthropic memperkirakan terdapat risiko yang dapat memicu bahaya berskala besar.
Perusahaan tersebut mengakui melihat tanda-tanda awal adanya potensi percepatan kemampuan AI, meski tingkat keyakinan terhadap penilaian risikonya masih terbatas.
AI Mampu Mengembangkan AI, Manusia Diminta Tetap Memegang Kendali
Kekhawatiran mengenai kemampuan AI melakukan penelitian dan pengembangan secara otomatis menjadi salah satu titik krusial.
Jika sistem AI nantinya mampu meningkatkan teknologi AI berikutnya tanpa keterlibatan manusia secara berarti, laju perkembangan teknologi berpotensi menjadi jauh lebih cepat daripada kemampuan manusia untuk memahami maupun mengawasinya.
Karena itu, seruan untuk menjaga kendali manusia kembali menguat.
Kepala ilmuwan OpenAI, Jakub Pachocki, awal bulan ini menyerukan kehati-hatian tingkat tinggi terhadap perkembangan AI.
Ia memperingatkan bahwa intervensi lebih lanjut mungkin diperlukan untuk memastikan manusia tetap memiliki kendali atas masa depan teknologi tersebut.
