Perusahaan kecerdasan buatan xAI, yang dimiliki oleh Elon Musk, tengah menghadapi kritik keras setelah alat pembuat videonya, Grok Imagine, terbukti membuat video porno palsu yang melibatkan penyanyi terkenal Taylor Swift tanpa instruksi langsung dari pengguna. AI ini diduga menciptakan konten seksual meskipun tidak ada instruksi eksplisit dari pengguna, dengan fitur “spicy” di Grok Imagine secara otomatis menciptakan gambar dan video seksual eksplisit. Kelemahan dalam verifikasi usia aplikasi ini juga menimbulkan risiko bagi pengguna di bawah umur, karena hanya meminta tanggal lahir tanpa bukti pendukung, meningkatkan kekhawatiran akan keamanan. Sebagai respons, aktivis dan pakar hukum mendesak tindakan hukum dan perlindungan bagi para korban deepfake, sementara undang-undang baru disusun untuk melindungi mereka. Laporan dari The Verge menunjukkan bahwa fitur “spicy” dalam aplikasi ini dapat menghasilkan konten seksual eksplisit hanya dengan memasukkan perintah umum, seperti dalam kasus “Taylor Swift merayakan Coachella bersama teman-teman” yang memicu konten porno. Kecemasan atas etika dan keamanan teknologi AI semakin meningkat dengan kasus-kasus seperti ini, menggarisbawahi pentingnya penegakan kebijakan yang ketat dalam pengembangan dan penggunaan kecerdasan buatan.
