REPUBLIKA.CO.ID, NEW YORK -- Penerapan teknologi kecerdasan buatan atau artificial intelligence (AI) kini semakin meluas. Namun, jika penerapanya tak dibekali dengan regulasi yang memadai maka teknologi ini bisa bertentangan dengan hak asasi manusia.
Diktutip dari Aljazirah pada Senin (26/9), hal ini pun mendapat perhatian serius dari Perserikatan Bangsa-Bangsa (PBB). PBB pun meyerukan moratorium untuk penerapan AI sembari menyiapkan regulasi yang mengatur soal penerapan teknologi tersebut.
Komisaris Tinggi PBB untuk Hak Asasi Manusia, Michelle Bachelet mengatakan, regulasi untuk AI perlu disiapkan dengan matang sehingga penyalahgunaan teknologi ini bisa diminimalkan.
"Kami tak bisa membiarkan penerapan AI yang digunakan dengan pengawasan minim atau bahkan tanpa pengawasan sama sekali. Hal ini memiliki konsekuensi dengan hak asasi manusia," kata Michelle Bachelet.
Di satu sisi, PBB juga menyadari bahwa AI memiliki banyak manfaat positif. Tapi, jika tak dibekali dengan payung hukum yang pas, maka teknologi ini bisa digunakan secara tak bertanggung jawab dan menimbulkan persoalan serius.
Mengingat, pengguna AI menggunakan teknologi itu dengan data yang kompleks serta algoritma sesuai dengan ketentuan masing-masing pengguna. Jika tak diawasi dan tak dilengkapi dengan regulasi, maka penerapan AI bisa menimbulkan diskriminasi.
Dia pun menekankan bahwa penerapan AI yang yang tak sesuai dengan hukum hak asasi manusia harus dilarang.
Teknologi AI saat ini telah digunakan dalam sejumlah layanan publik dan sejumlah proses bisnis. PBB mencatat, telah terdapat sejumlah kasus yang merugikan masyarakat karena sistem sistem otomatisasi yang berjalan kurang optimal.
Mengingat, penerapan AI memiliki kemampuan untuk melakukan pembuatan profil dan mengotomatisasi pengambilan keputusan. Artinya, hal ini bisa berdampak pada hak atas akses kesehatan, pendidikan, kebebasan berserikat secara damai dan kebebasan berekspresi.
“Sistem AI digunakan untuk menentukan siapa yang mendapatkan layanan publik, memutuskan siapa yang berpeluang direkrut untuk suatu pekerjaan dan tentu saja memengaruhi informasi apa yang dilihat dan dibagikan orang secara online,” ujarnya.
Temuan itu pun membuat PBB prihatin atas adanya negara dan pihak swasta yang telah mengadopsi AI tanpa mempelajari segudang resiko dari teknologi itu. Apalagi sistem AI sering kali mengumpulkan, membagikan, menggabungkan dan menganalisis data dengan cara yang tidak jelas. Informasi yang dikumpulkan AI juga dapat dikompromikan, ketinggalan zaman dan diskriminatif.
Ia pun menekankan, peranan AI saat ini dianggap terlalu jauh sehingga bisa dikriminatif, mengubah, menentukan atau merusak kehidupan manusia. “Inilah mengapa perlu ada penilaian dan pemantauan sistematis terhadap efek sistem AI untuk mengidentifikasi dan mengurangi risiko hak asasi manusia,” ucap dia.
Ikuti Whatsapp Channel Republika