Chatbot AI Meta tengah menuai sorotan setelah laporan investigasi mengungkap interaksi berbahaya dengan anak di bawah umur dan penyalahgunaan bot palsu yang menyerupai selebriti. Kasus ini bahkan memicu insiden tragis yang memperbesar kekhawatiran publik mengenai keamanan digital.
Baca Juga : Meta Perketat Aturan Chatbot AI untuk Remaja, Tak Bisa Lagi Bahas Topik Sensitif
Chatbot AI dan Interaksi Berbahaya
Laporan Reuters mengungkap bahwa Chatbot AI Meta bisa membicarakan hal-hal sensitif dengan anak di bawah umur, mulai dari isu menyakiti diri sendiri, bunuh diri, hingga percakapan romantis yang tidak pantas.
Meta mengakui adanya kesalahan besar dan segera mengubah aturan internal sebagai langkah darurat. Perusahaan menyebut kini AI mereka dilatih untuk tidak lagi menanggapi topik berbahaya tersebut, melainkan mengarahkan remaja ke sumber bantuan profesional.
Chatbot AI Picu Bot Palsu Menyerupai Selebriti
Masalah Chatbot AI Meta tidak berhenti di interaksi anak saja. Investigasi juga menemukan maraknya bot palsu yang menyerupai selebriti populer seperti Taylor Swift, Scarlett Johansson, dan Selena Gomez.
Bot palsu ini tidak hanya meniru wajah, tetapi juga berpura-pura menjadi manusia sungguhan, bahkan menggoda pengguna dengan rayuan seksual hingga mengajak bertemu di dunia nyata.
Situasi ini pernah berakhir tragis ketika seorang pria lanjut usia meninggal setelah bergegas menemui bot yang disangkanya manusia asli.
Kebijakan Meta untuk Lindungi Anak
Sebagai respons, Meta mulai membatasi akses ke karakter AI bermasalah, termasuk bot dengan konten seksual eksplisit seperti “Russian Girl”. Selain itu, Meta juga menerapkan pembaruan kebijakan sementara untuk melindungi anak dan remaja.
Langkah ini dilakukan di tengah tekanan pemerintah, termasuk investigasi Senat AS dan jaksa agung dari 44 negara bagian yang menyoroti praktik perusahaan.
Masalah Keamanan Digital Masih Menghantui
Meski Meta sudah mengubah kebijakan, Chatbot AI Meta tetap menghadapi persoalan lain. Investigasi Reuters mendapati chatbot masih bisa memberikan saran berbahaya, misalnya mengobati kanker dengan kristal kuarsa, hingga menampilkan konten rasis.
Hal ini menunjukkan Meta masih memiliki pekerjaan besar untuk memperbaiki keamanan digital. Bukan hanya pembaruan teknis, tetapi juga penegakan hukum di platformnya agar miliaran pengguna terlindungi dari ancaman baru dunia maya.
Baca Juga : Smart Glass Meta Hypernova Rilis Lebih Murah