Bayangkan punya 920 ribu followers di TikTok. Dibayar brand, disukai jutaan orang, diundang ceramah ke mana-mana. Tapi ternyata, orang yang muncul di video bukan manusia asli. Ini yang terjadi dengan akun ustazah viral di TikTok yang kini jadi perbincangan seluruh Indonesia.
CNN Indonesia pertama kali mengangkat cerita ini pada 26 Juni 2026. Akun tersebut menampilkan seorang ustazah muda yang ceramahnya begitu menyentuh hati. Tapi setelah ditelusuri, banyak indikasi kalau wajah, suara, dan gerakan bibirnya adalah hasil teknologi AI (Artificial Intelligence) — bukan rekaman orang asli.
Kok Bisa Orang Tidak Sadar?
Ini bukan sekadar filter Instagram atau efek beautify biasa. Teknologi yang dipakai diperkirakan menggunakan kombinasi deepfake dan AI voice cloning. Hasilnya? Video ceramah yang terlihat sangat natural. Gerakan bibir pas dengan suara, ekspresi wajah mengikuti emosi ceramah, bahkan kedipan mata pun ada.
Banyak netizen yang mengaku sudah mengikuti akun ini selama berbulan-bulan. Mereka merasa terhubung dengan ‘ustazah’ ini. Ketika kebenaran terungkap, reaksinya campur aduk: ada yang kecewa, ada yang marah, tapi ada juga yang bilang ’emang kontennya bagus, mau asli mau AI yang penting ilmunya berguna’.
Bagaimana Teknologi AI Ini Bisa Bikin Video Realistis?
Bukan rahasia lagi kalau perkembangan AI video makin gila tahun ini. Platform seperti Sora (OpenAI), Runway Gen-4, dan berbagai tools open-source sudah bisa menghasilkan video realistis dari teks atau foto statis.
Prosesnya kurang lebih begini:
- Step 1: Face Swapping / Face Generation — Wajah ustazah dihasilkan dari AI atau diambil dari foto stock, lalu di-mapping ke video.
- Step 2: Voice Cloning — Suara diambil dari data audio ceramah asli (bisa dari ustadz/ustadzah lain), lalu AI meniru gaya bicaranya.
- Step 3: Lip Sync — AI menggerakkan bibir agar sinkron dengan audio yang sudah di-generate.
- Step 4: Emotion Mapping — Ekspresi wajah disesuaikan dengan isi ceramah supaya terasa natural.
Konten AI di Media Sosial: Di Mana Batasnya?
Kasus ustazah AI ini bukan yang pertama. Sebelumnya sudah ada akun-akun ‘selebgram AI’ yang followers-nya jutaan. Bedanya, kali ini kontennya bernuansa religi — yang bikin orang lebih emosional karena menyangkut kepercayaan.
Beberapa pertanyaan penting yang muncul:
- Apakah ini penipuan? Secara hukum, memang belum ada regulasi spesifik di Indonesia yang melarang konten AI tanpa label. Tapi secara etika, banyak yang bilang ini manipulatif.
- Bagaimana dampaknya ke content creator asli? Creator manusia harus bersaing dengan AI yang bisa produce konten 24/7 tanpa istirahat. Ini ancaman nyata untuk kreator lokal.
- Bagaimana cara mendeteksinya? Beberapa tanda konten AI: gerakan tangan yang terlalu smooth, latar belakang yang tidak pernah berubah detailnya, dan kesempurnaan wajah yang tidak realistis.
Yang Harus Kamu Lakukan Sebagai Penonton
Jangan langsung percaya sama apa yang kamu lihat di layar. Beberapa tips praktis:
- Cek akunnya — Apakah ada jejak kehidupan nyata? Foto di luar konten, interaksi dengan orang asli?
- Perhatikan detail kecil — AI masih sering gagal di detail: rambut yang bergerak aneh, background yang tidak konsisten, atau suara yang terlalu ‘bersih’.
- Verifikasi informasi — Jangan share ceramah atau informasi dari akun yang belum terverifikasi. Cek sumber aslinya.
- Laporkan jika perlu — Platform seperti TikTok punya kebijakan tentang konten AI yang menyesatkan. Gunakan fitur report.
Kesimpulan
Kasus ustazah AI ini jadi pengingat: di era AI, tidak semua yang kamu lihat itu nyata. Teknologi AI memang powerful, tapi tanpa etika dan transparansi, bisa jadi alat manipulasi. Sebagai penonton, kita harus makin kritis. Sebagai creator, kita harus mulai berdamai dengan AI — bukan takut, tapi pahami cara pakainya dengan bijak.
Sumber: CNN Indonesia, 26 Juni 2026