Sang warganet lalu meminta Gemini untuk membuat gambar Paus yang akurat sesuai sejarah, yaitu sosok Paus yang berkulit putih. Namun tanpa diduga, Gemini menolak untuk menghasilkan gambar tersebut karena dianggap tidak menampilkan keragaman ras.

Lebih lanjut, sang warganet meminta Gemini untuk membuat gambar pasangan yang glamor dalam berbagai etnis, seperti etnis China, Yahudi, Afrika Selatan, dan kulit putih. Gemini lalu menghasilkan gambar sesuai permintaan, kecuali gambar pasangan berkulit putih.

Terkait temuan ini, Raghavan menekankan bahwa Google tidak pernah bermaksud untuk membuat Gemini menolak menghasilkan gambar grup atau ras tertentu. Google juga tidak merancang Gemini untuk secara sengaja menghasilkan gambar yang tak akurat dari segi sejarah.

Untuk saat ini, Google masih menghentikan sementara kemampuan Gemini untuk menghasilkan gambar manusia. Di saat yang sama, Google juga sedang memperbaiki kemampuan Gemini dalam menghasilkan gambar yang lebih akurat dan lebih baik.

Menurut Raghavan, proses ini melibatkan serangkaian pengujian yang ekstensif. Oleh karena itu, fitur penghasil gambar manusia pada Gemini mungkin tak akan kembali dalam waktu dekat ini.

"Kami berharap fitur ini akan kembali secepatnya dan kami akan mengabarkan Anda dalam rilis bila fitur tersebut telah kembali," terang Raghavan. 

Ikuti Whatsapp Channel Republika