MenloPark, Senin 29 September 2025-VNNMedia- Business Insider melaporkan bahwa Meta telah menerbitkan buku panduan untuk melindungi interaksi anak di bawah umur dengan chatbot kecerdasan buatan (AI)
Buku panduan tersebut diperuntukkan untuk para kontraktor Meta, guna melatih chatbot AI-nya agar menghindari dan mencegah obrolan tidak pantas antara chatbot AI dengan pengguna di bawah umur
Dalam laporannya Business Insider mengungkap jika langkah tersebut dinilai lebih efektif untuk mencegah kemungkinan eksploitasi seksual kepada anak serta dapat mencegah pengguna di bawah umur terlibat dalam obrolan dewasa atau tidak pantas
Dokumen panduan terbaru dari Meta, yang diperoleh Business Insider, secara eksplisit melarang jenis konten berikut untuk chatbot AI Meta 1:
- Pelecehan Seksual Anak: Konten yang memungkinkan, mendorong, atau mendukung pelecehan seksual anak
- Permainan Peran Romantis: Jika pengguna masih di bawah umur
- Saran Kontak Fisik Romantis/Intim: Jika AI diminta untuk bermain peran sebagai anak di bawah umur, atau memberikan saran tentang potensi kontak fisik romantis atau intim jika pengguna masih di bawah umur
Chatbot AI diizinkan untuk membahas topik seperti pelecehan, namun tidak boleh terlibat dalam percakapan yang dapat memungkinkan atau mendorongnya
Diketahui, pada pertengahan bulan Agustus, Senator partai Republik, Josh Hawley, mengumumkan bahwa penyelidikan atas AI Meta yang diduga berpotensi mengeksploitasi, menipu, atau membahayakan anak-anak, akan segera diluncurkan
baca juga: Senator AS Kritik AI Meta Soal Interaksi Romantis dengan Anak
Penyelidikan akan berfokus pada potensi bahaya teknologi Meta terhadap anak-anak serta dugaan menyesatkan publik dan regulator terkait sistem pengamanan. Langkah tersebut diambil usai bocornya dokumen internal yang mengungkap bahwa Meta mengizinkan AI-nya melakukan obrolan romantis dan sensual dengan anak di bawah umur
Perwakilan Meta menegaskan bahwa kebijakan tersebut tidak sesuai dengan aturan perusahaan dan kini telah dihapus
Di bulan yang, FTC AS meluncurkan penyelidikan formal terhadap chatbot AI dari berbagai perusahaan, termasuk Meta, Alphabet (Google), Snap (Snapchat), OpenAI, dan X.AI, karena kekhawatiran akan potensi bahaya bagi anak-anak
Baca Berita Menarik Lainnya di Google News
