REPUBLIKA.CO.ID, JAKARTA -- OpenAI dilaporkan hampir mencapai terobosan baru di bidang kecerdasan buatan (AI) yang berpotensi mengancam umat manusia. Temuan bernama Q* (diucapkan Q-Star) itu disebut dapat meningkatkan penalaran AI secara drastis, sehingga bisa berbahaya.
Staf peneliti OpenAI telah memperingatkan dewan perusahaan tentang penemuan yang berpotensi berbahaya tersebut. Sebuah surat dilayangkan staf peneliti kepada dewan beberapa hari menjelang pemberhentian kepala eksekutif OpenAI, Sam Altman.
Dikutip dari laman Tom's Hardware, Sabtu (25/11/2023), salah satu kekhasan AI generatif adalah jawaban yang didasarkan pada informasi yang telah "dipelajari" sebelumnya. Data bisa diurai, diperiksa, diindeks, dan lainnya, sehingga jika semakin banyak data yang dimasukkan ke dalam suatu model, akan semakin baik model itu.
Sebenarnya, teknologi AI modern tidak benar-benar memiliki kemampuan kognitif dan tidak dapat mengambil keputusan seperti yang dilakukan manusia. Sementara, Q* diyakini merupakan terobosan signifikan di bidang kecerdasan umum buatan (AGI).
Proyek itu melibatkan sistem otonom yang dapat mempertimbangkan keputusannya dan, oleh karena itu, bersaing dengan manusia dalam berbagai tugas atau bahkan disiplin ilmu. Kemampuan Q* dikatakan sangat menonjol dalam memecahkan masalah matematika.
Masalah matematika biasanya ditentukan oleh jawaban tunggal yang benar. Dengan kata lain, itu menunjukkan kemajuan signifikan dalam kemampuan penalaran dan kognitif AI. Model AI itu disebut telah menunjukkan kemahiran dalam mengatasi masalah matematika pada tingkat yang sebanding dengan siswa sekolah dasar.
Dalam dunia kecerdasan buatan, hal tersebut termasuk cukup signifikan. Kemajuan itu menunjukkan bahwa Q* dapat memiliki implikasi dan penerapan yang luas di berbagai bidang, mencakup juga ranah yang memerlukan pemikiran dan pengambilan keputusan.
Di sisi lain, kemunculan Q* juga memicu kekhawatiran mengenai potensi risiko dan implikasi etis dari teknologi AI yang canggih. Para peneliti dan ilmuwan dalam komunitas AI telah memberikan peringatan tentang bahaya yang terkait dengan kemajuan pesat kemampuan AI tanpa memahami dampaknya.
Pengembangan Q* bisa saja menjadi titik fokus dalam diskusi yang sedang berlangsung di OpenAI tentang keseimbangan antara inovasi AI dan pengembangan yang bertanggung jawab. Oleh karena itu, beberapa peneliti OpenAI menulis surat kepada dewan direksi.
Mereka menyoroti bahwa penemuan model AI tersebut diyakini dapat menimbulkan ancaman signifikan bagi umat manusia. Surat itu dikatakan sebagai faktor penting yang mengarah pada keputusan dewan untuk memecat Altman.
Alasan pemberhentian itu disebut kurangnya kepercayaan terhadap kepemimpinannya meskipun ia telah berkontribusi pada perusahaan dan bidang AI generatif. Namun kemudian, ada 700 karyawan mengancam akan mengundurkan diri secara kolektif.
Aksi tersebut menunjukkan solidaritas para pegawai untuk Altman. Ancaman resign kolektif, berikut dengan pertimbangan Altman untuk bergabung dengan Microsoft, membuat dewan direksi berubah pikiran mengenai pemecatan CEO tersebut.
Ketika dihubungi oleh Reuters, OpenAI mengonfirmasi keberadaan proyek Q* dan surat yang ditulis oleh staf peneliti kepada dewan direksi. Namun, perusahaan tidak mengomentari situasi spesifik di internal atau keakuratan informasi yang beredar.
Ikuti Whatsapp Channel Republika
