Betang.id – Apple membuat langkah drastis dengan menghapus sejumlah aplikasi dari App Store yang disebut dapat membuat gambar telanjang tanpa persetujuan.
Tindakan ini memperlihatkan bahwa perusahaan kini lebih serius dalam penanganan aplikasi berbahaya.
Kecerdasan buatan (AI) generatif telah menjadi alat yang sangat berguna dalam bidang fotografi dan desain.
Namun, teknologi ini juga dapat disalahgunakan untuk membuat gambar palsu dan pornografi yang tidak pantas.
Sebelum keputusan baru-baru ini, Apple sebelumnya terkesan lengah dalam menanggulangi masalah ini.
Dilaporkan oleh Apple Insider, dalam laporan yang dirilis oleh 404 Media, bahwa sejumlah aplikasi penghasil gambar AI yang tidak pantas tersedia di App Store.
Beberapa di antaranya mampu membuat gambar telanjang tanpa persetujuan.
Aplikasi-aplikasi ini menawarkan fitur penukaran wajah pada gambar-gambar dewasa, bahkan ada yang bisa menanggalkan pakaian subjek foto.
Setelah pemberitahuan tersebut, Apple kemudian menghapus tiga aplikasi tersebut dari App Store. Langkah serupa juga diambil oleh Google untuk menghapusnya dari Play Store.
Investigasi terhadap laporan ini sebelumnya juga membongkar bahwa Instagram pernah mengiklankan aplikasi terkait melalui Perpustakaan Iklan Meta. Setelah iklan-iklan tersebut ditandai, Meta akhirnya menghapusnya.
Meskipun demikian, tindakan yang dilakukan oleh Apple masih terdapat beberapa masalah yang perlu diselesaikan.
Sebelumnya, perusahaan ini tidak berhasil mencegah aplikasi-aplikasi tersebut masuk ke dalam Peninjauan App Store. Mereka hanya bisa menghapusnya setelah diberitahu oleh pihak ketiga.
Laporan pada tahun 2022 menunjukkan bahwa awalnya aplikasi AI pembuat konten porno ini terlihat tidak berbahaya di App Store, namun berubah saat aplikasi tersebut diiklankan di situs-situs porno.
Saat itulah Apple dan Google diberitahu, namun mereka menolak untuk menghapusnya.
Keputusan Apple untuk menghapus aplikasi-aplikasi tersebut merupakan langkah penting dalam menjaga keamanan produk AI-nya di App Store.
Perusahaan ini juga menggunakan metode pelatihan untuk model bahasa AI yang menjaga privasi, serta menghindari penggunaan karya berhak cipta secara ilegal.
Terkait dengan pelanggaran hak cipta, Microsoft dan OpenAI pernah dituntut oleh New York Times karena menggunakan artikel-artikelnya untuk pelatihan AI.
Namun, Apple lebih memilih untuk melisensikan karya-karya dari penerbit besar dengan imbalan jutaan dolar.
