Coxon menilai kedua perusahaan tersebut belum bertindak secara bertanggung jawab menghadapi perkembangan teknologi yang semakin cepat.
Ia memperingatkan bahwa sistem AI dalam waktu dekat dapat mencapai kemampuan superhuman atau melampaui kemampuan manusia dalam sejumlah bidang.
Menurutnya, sistem semacam itu berpotensi melakukan peretasan, mempercepat penelitian di berbagai bidang, sekaligus memperoleh akses terhadap kekuasaan dan sumber daya nyata.
Pernyataan tersebut kemudian mendapat perhatian Dame Wendy Hall, ilmuwan komputer yang juga menjadi penasihat Perserikatan Bangsa-Bangsa (PBB) terkait AI.
Kepada BBC, Hall mengaku terkejut dengan pernyataan Hubinger maupun Coxon. Ia bahkan membuka kemungkinan bahwa sebagian pernyataan tersebut berkaitan dengan strategi hubungan masyarakat dan pemasaran di tengah persaingan perusahaan AI menuju pasar modal.
Namun, Hall menilai persoalan tersebut tetap serius.
Di sisi lain, Financial Times melaporkan bahwa Anthropic tidak menyerahkan model terbarunya kepada UK AI Security Institute (AISI), salah satu lembaga yang berfokus pada pengujian dan penilaian risiko AI.
Anthropic menolak berkomentar mengenai unggahan karyawannya maupun laporan terkait AISI. Kantor Kabinet Inggris juga tidak memberikan penjelasan apakah model terbaru Anthropic sengaja tidak diberikan kepada lembaga tersebut.
