Jakarta, Naralapor – Meta, perusahaan induk Facebook, tengah menghadapi sorotan terkait chatbot kecerdasan buatan (AI) buatannya yang bermasalah dan menimbulkan kekhawatiran besar mengenai keamanan digital, terutama bagi anak di bawah umur.
Investigasi Reuters mengungkapkan bahwa chatbot Meta mampu berinteraksi dengan anak-anak secara berisiko, membahas topik sensitif seperti menyakiti diri sendiri, bunuh diri, bahkan percakapan romantis yang tidak pantas. Menanggapi temuan ini, Meta mengaku melakukan kesalahan dan segera memperbarui kebijakan internal.
"Kami melatih AI kami untuk tidak berinteraksi dengan remaja pada topik-topik ini, melainkan mengarahkan mereka ke sumber daya ahli," terang Stephanie Otway, juru bicara Meta. Meski demikian, kebijakan tersebut masih bersifat sementara sembari menunggu pedoman yang lebih ketat dan permanen.
Ancaman Bot Palsu Berkedok Selebriti
Tak hanya interaksi berbahaya dengan anak, masalah lain yang mengkhawatirkan adalah maraknya bot palsu yang meniru selebriti seperti Taylor Swift, Scarlett Johansson, dan Selena Gomez. Bot ini tidak hanya meniru wajah, tapi juga berusaha melakukan percakapan dengan nada genit hingga rayuan seksual, bahkan mengajak pertemuan di dunia nyata.
Salah satu dampak tragis dari fenomena ini adalah kematian seorang pria berusia 76 tahun yang terjatuh saat bergegas menemui chatbot yang dipercaya sebagai manusia asli. Insiden ini menjadi alarm penting tentang efektivitas dan keamanan digital platform Meta.
Langkah Meta Meningkatkan Perlindungan Anak
Untuk mengurangi risiko, Meta membatasi akses pengguna anak ke karakter AI tertentu, khususnya dengan konten yang sangat seksual seperti "Russian Girl", dan fokus melatih AI untuk mengarahkan anak menuju bantuan profesional. Langkah ini datang saat tekanan dari pemerintah Amerika Serikat, termasuk penyelidikan oleh Senat dan jaksa agung dari puluhan negara bagian.
Masalah Keamanan yang Belum Tuntas
Meski sudah ada upaya, penelitian Reuters juga menyoroti bahwa chatbot Meta pernah memberikan saran tidak berdasar dan berbahaya, seperti menyarankan pengobatan kanker dengan kristal kuarsa dan membuat konten bernada rasis. Ini menunjukkan tantangan besar yang masih harus dihadapi Meta dalam menghadirkan keamanan digital yang benar-benar andal.
Pengawasan ketat dan penegakan aturan yang lebih efektif di platform Meta sangat dibutuhkan agar teknologi AI tidak menjadi ladang bagi praktik penipuan dan penyebaran konten berbahaya.
Dalam menghadapi dinamika ini, Meta diharapkan terus berinovasi dan memperkuat sistem keamanan demi melindungi jutaan penggunanya, khususnya yang paling rentan seperti anak-anak, dari berbagai ancaman digital yang terus berkembang.
