news.ciptajasadigital.com – JAKARTA – Kecerdasan buatan seringkali dimanfaatkan untuk melakukan manipulasi foto atau video, yang dikenal sebagai deepfake. Namun, kini hal tersebut telah menyebar ke aplikasi Telegram.
Pada awal tahun 2020, seorang ahli deepfake bernama Henry Ajder menemukan salah satu bot Telegram pertama yang mampu menghasilkan lebih dari 100.000 foto anak-anak. Temuan ini menandai semakin maraknya aksi serupa dan semakin mudahnya memproduksi deepfakes. Sejak itu, deepfakes telah menjadi lebih umum, lebih merusak, dan lebih mudah dibuat.
Dilansir oleh redaksi news.ciptajasadigital.com pada Jumat (18/10/2024), komunitas Telegram yang terlibat dalam konten eksplisit non-konsensual telah mengidentifikasi 50 bot yang mengklaim dapat membuat foto atau video eksplisit dari orang hanya dengan beberapa klik. Bot-bot ini memiliki kemampuan bervariasi, mulai dari menghilangkan pakaian dari area tubuh pada foto hingga menggambarkan obyek dalam berbagai tindakan seksual.
Lebih dari 4 juta pengguna bulanan secara akumulatif tercatat sebagai pengguna dari puluhan bot tersebut. Dua bot memiliki lebih dari 400.000 pengguna bulanan masing-masing, sementara 14 lainnya memiliki lebih dari 100.000 anggota.
Temuan ini menunjukkan seberapa luas penggunaan alat pembuatan deepfake eksplisit dan memperkuat posisi Telegram sebagai salah satu platform yang paling menonjol dalam hal ini. Namun, snapshot yang dilakukan hanya mencakup bot berbahasa Inggris dan kemungkinan hanya merupakan sebagian kecil dari seluruh bot deepfake yang ada di Telegram.
“Kita berbicara tentang peningkatan yang signifikan, jumlah orang yang jelas-jelas aktif menggunakan dan menciptakan jenis konten ini,” kata Ajder mengenai bot Telegram tersebut.
Ia juga mengkhawatirkan bahwa bot ini dapat merusak kehidupan dan menciptakan skenario yang sangat mengerikan, terutama bagi perempuan. Konten deepfake non-konsensual eksplisit, yang sering disebut sebagai penyalahgunaan gambar intim non-konsensual (NCII), pertama kali muncul pada akhir tahun 2017 dengan kemajuan teknologi AI generatif. Di seluruh internet, terdapat banyak situs yang menawarkan layanan “nudify” dan “undress” yang berdampingan dengan alat dan bot Telegram yang lebih canggih, yang digunakan untuk menargetkan ribuan wanita dan gadis di seluruh dunia.
Dalam survei terbaru, dilaporkan bahwa 40 persen siswa di Amerika Serikat mengetahui adanya deepfakes yang terkait dengan sekolah K-12 mereka dalam setahun terakhir. Hal ini menunjukkan bahwa deepfakes telah menjadi masalah yang serius dan harus ditangani dengan serius pula.
