“Gato AI baru DeepMind hanya perlu ditingkatkan untuk menciptakan AI yang mampu menyaingi kecerdasan manusia,” kata Dr de Freitas, dikutip Independent, Selasa (24/5/2022).

Namun, peneliti AI terkemuka telah memperingatkan munculnya AGI dapat mengakibatkan bencana eksistensial bagi umat manusia. Profesor Universitas Oxford Nick Bostrom berspekulasi sistem supercerdas yang melampaui kecerdasan biologis dapat mengganti kehiduapan manusia di bumi.

Salah satu hal yang disorot adalah kedatangan sistem AGI yang mampu mengajar dirinya sendiri dan menjadi lebih pintar secara eksponensial dibandingkan manusia. Namun, Freitas mengatakan keselamatan merupakan hal terpenting saat dia mengembangkan AGI.

“Ini mungkin tantangan terbesar yang kami hadapi. Semua orang harus memikirkannya. Kurangnya keragaman yang cukup juga sangat mengkhawatirkan saya,” ujarnya.

Google mengakuisisi DeepMind yang berbasis di London pada tahun 2014.  Dalam makalah tahun 2016 berjudul Safely Interruptible Agents, para peneliti DeepMind menguraikan kerangka kerja untuk mencegah kecerdasan buatan tingkat lanjut mengabaikan perintah mematikan. Interupsi yang aman dapat berguna untuk mengendalikan robot yang berperilaku buruk dan dapat menyebabkan konsekuensi yang tidak dapat diubah.

“Jika agen seperti itu beroperasi secara real time di bawah pengawasan manusia, terkadang mungkin perlu bagi operator manusia untuk mencegah agen melanjutkan tindakan yang berbahaya dan memimpin agen ke situasi yang lebih aman,” katanya.