Google hentikan sementara kemampuan fitur pembuat gambar pada kecerdasan buatan atau AI Gemini setelah mendapat kritik di media sosial karena menghasilkan gambar yang tidak akurat secara historis yang sebagian besar menampilkan orang berkulit warna sebagai pengganti orang kulit putih.
Kesalahan memalukan ini menunjukkan betapa alat AI masih kesulitan dengan konsep ras. Generator gambar Dall-E milik OpenAI, misalnya, telah dikritik karena memperkuat stereotip rasial dan etnis yang merugikan secara besar-besaran.
Upaya Google untuk mengatasi hal ini, tampaknya gagal dan membuat sulit bagi chatbot AI untuk menghasilkan gambar orang kulit putih.
Gemini, seperti alat AI lainnya seperti ChatGPT, dilatih dengan data online yang luas. Para ahli telah lama memperingatkan bahwa alat AI oleh karena itu memiliki potensi untuk mereplikasi bias rasial dan gender yang tertanam dalam informasi tersebut.
Ketika ditanya oleh CNN pada hari Rabu untuk menghasilkan gambar seorang paus, misalnya, Gemini menghasilkan gambar seorang pria dan seorang wanita, yang tidak satupun dari mereka berkulit putih.
Baca Juga: Berkenalan dengan Gemma, Model AI Open-Source dari Google
Situs teknologi The Verge juga melaporkan bahwa alat tersebut menghasilkan gambar orang berkulit warna sebagai tanggapan atas permintaan untuk menghasilkan gambar seorang “prajurit Jerman tahun 1943.”
“Kami sudah bekerja untuk mengatasi masalah terbaru dengan fitur penghasilan gambar Gemini,” kata Google dalam sebuah pos di X pada hari Kamis. “Sementara kami melakukannya, kami akan menghentikan penghasilan gambar orang dan akan merilis versi yang diperbaiki segera.”
Pernyataan hari Kamis itu datang setelah Google pada hari Rabu tampaknya membela fitur pembuat gambar Gemini sehari sebelumnya dengan mengatakan dalam sebuah pos di X, “Generasi gambar AI Gemini memang menghasilkan berbagai macam orang. Dan pada umumnya itu adalah hal yang baik karena orang di seluruh dunia menggunakannya.”
“Tetapi ini meleset di sini,” aku perusahaan tersebut.
Jack Krawczyk, direktur produk utama Google untuk Gemini, mengatakan dalam sebuah pos pada hari Rabu bahwa Google dengan sengaja merancang “kemampuan penghasilan gambar untuk mencerminkan basis pengguna global kami” dan bahwa perusahaan “akan terus melakukannya untuk permintaan terbuka.
Insiden ini juga merupakan kemunduran lain bagi Google dalam perlombaan untuk menyaingi OpenAI dan pemain lain di ruang AI generatif yang kompetitif.
Pada bulan Februari, sesaat setelah memperkenalkan alat AI generatifnya — yang saat itu bernama Bard dan sejak itu diubah namanya menjadi Gemini — harga saham Google sempat turun setelah video demo alat tersebut menunjukkan bahwa ia menghasilkan respons yang tidak akurat secara faktual terhadap pertanyaan tentang Teleskop Luar Angkasa James Webb.
source: CNN Business
