REPUBLIKA.CO.ID, MASSACHUSETTS -- Penelitian baru telah mengungkapkan model pembelajaran mendalam (deep learning models) berdasarkan kecerdasan buatan (AI) dapat mengidentifikasi ras seseorang hanya dari sinar-X. Ini adalah sesuatu yang tidak mungkin dilakukan oleh seorang dokter manusia.
Temuan ini menimbulkan beberapa pertanyaan yang meresahkan tentang peran AI dalam diagnosis medis, penilaian, dan pengobatan: dapatkan bias rasial diterapkan secara tidak sengaja oleh perangkat lunak komputer saat mempelajari gambar seperti ini?
Ilmuwan melatih AI menggunakan ratusan ribu gambar sinar-X yang ada yang diberi label dengan rincian ras pasien. Selanjutnya, tim peneliti kesehatan internasional dari Amerika Serikat (AS), Kanada, dan Taiwan menguji sistem mereka pada gambar sinar-X yang tidak dimiliki perangkat lunak komputer sebelumnya.
AI dapat memprediksi identitas rasial pasien yang dilaporkan pada gambar-gambar ini dengan akurasi yang mengejutkan. Bahkan, data cukup akurat ketika pemindaian diambil dari orang-orang dengan usia dan jenis kelamin yang sama. Sistem mencapai level 90 persen dengan beberapa kelompok gambar.
“Kami bertujuan untuk melakukan evaluasi komprehensif terhadap kemampuan AI untuk mengenali identitas rasial pasien dari gambar medis,” tulis para peneliti dalam makalah yang mereka terbitkan, dilansir dari Sciencealert, Kamis (19/5/2022).
Penelitian ini menggemakan hasil penelitian sebelumnya yang menemukan pemindaian AI dari gambar sinar-X lebih mungkin untuk melewatkan tanda-tanda penyakit pada orang kulit hitam. Untuk menghentikan hal itu terjadi, para ilmuwan perlu memahami mengapa hal itu bisa terjadi.
AI meniru pemikiran manusia untuk dengan cepat menemukan pola dalam data. Saat ini para ilmuwan tidak yakin mengapa sistem AI begitu baik dalam mengidentifikasi ras dari gambar yang tidak mengandung informasi tersebut, setidaknya tidak di permukaan.
Bahkan ketika informasi terbatas diberikan, dengan menghilangkan petunjuk tentang kepadatan tulang misalnya atau memfokuskan pada bagian kecil dari tubuh, model masih tampil sangat baik dalam menebak ras yang dilaporkan dalam file.
Mungkin saja sistem tersebut menemukan tanda-tanda melanin, pigmen yang memberi warna pada kulit, yang belum diketahui oleh sains.
“Temuan kami bahwa AI dapat secara akurat memprediksi ras yang dilaporkan sendiri, bahkan dari citra medis yang rusak, terpotong, dan bersuara, seringkali ketika para ahli klinis tidak dapat melakukannya, menciptakan risiko besar untuk semua penerapan model dalam pencitraan medis,” tulis para peneliti.
Penelitian ini menambah setumpuk bukti yang berkembang bahwa sistem AI sering kali dapat mencerminkan bias dan prasangka manusia, apakah itu rasisme, seksisme, atau yang lainnya. Masih banyak pertanyaan yang belum terjawab dari penelitian ini.
Namun, saat ini penting menyadari potensi bias rasial yang muncul dalam sistem kecerdasan buatan—terutama jika kita akan menyerahkan lebih banyak tanggung jawab kepada mereka di masa depan.
“Kita perlu mengambil jeda,” kata ilmuwan peneliti dan dokter Leo Anthony Celi dari Massachusetts Institute of Technology kepada Boston Globe.
Ikuti Whatsapp Channel Republika