REPUBLIKA.CO.ID, JAKARTA -- Bagi sebagian orang istilah black box (kotak hitam) mengingatkan pada alat perekam di pesawat untuk menganalisis postmortem jika hal yang tidak diinginkan terjadi. Namun, siapa sangka, kotak hitam juga merupakan istilah penting dalam dunia kecerdasan buatan (AI).
Kotak hitam AI mengacu pada sistem AI dengan cara kerja internal yang tidak terlihat oleh pengguna. Anda dapat memberi input dan mendapatkan output, tetapi Anda tidak dapat memeriksa kode sistem atau logika yang menghasilkan output.
Pembelajaran mesin adalah bagian dominan dari AI. Ini mendasari sistem AI generatif seperti ChatGPT dan DALL-E 2. Ada tiga komponen pembelajaran mesin, yaitu algoritme atau sekumpulan algoritme, data pelatihan, dan model.
Algoritma adalah sekumpulan prosedur yang dalam pembelajaran mesin digunakan untuk mengidentifikasi pola setelah dilatih pada sekumpulan besar data, seperti data pelatihan. Setelah algoritme pembelajaran mesin dilatih, hasilnya adalah model pembelajaran mesin.
Algoritma pembelajaran mesin dapat dirancang untuk mengidentifikasi pola dalam gambar dan data pelatihan dapat berupa gambar anjing. Model pembelajaran mesin yang dihasilkan akan menjadi pengintai anjing. Anda akan memberinya gambar sebagai input dan mendapatkan sebagai output apakah dan di mana dalam gambar satu set piksel mewakili seekor anjing.
Salah satu dari tiga komponen sistem pembelajaran mesin dapat disembunyikan atau di dalam kotak hitam. Seperti yang sering terjadi, algoritme diketahui publik yang membuatnya menjadi kotak hitam menjadi kurang efektif.
Jadi untuk melindungi kekayaan intelektual mereka, pengembang AI sering memasukkan model ke dalam kotak hitam. Pendekatan lain yang diambil pengembang perangkat lunak adalah mengaburkan data yang digunakan untuk melatih model dengan kata lain memasukkan data pelatihan ke dalam kotak hitam.
Mengapa kotak hitam AI penting? Dilansir GizModo, Selasa (30/5/2023), kotak hitam memiliki implikasi penting untuk keamanan sistem perangkat lunak. Selama bertahun-tahun, banyak orang di bidang komputasi berpikir bahwa menyimpan perangkat lunak dalam kotak hitam akan mencegah peretas memeriksanya sehingga akan aman.
Asumsi ini sebagian besar terbukti salah karena peretas dapat merekayasa ulang perangkat lunak, yaitu membangun faksimili dengan mengamati secara dekat cara kerja perangkat lunak dan menemukan kerentanan untuk dieksploitasi.
Ikuti Whatsapp Channel Republika