Mountain View, Minggu 07 September 2025-VNNMedia- Common Sense Media, sebuah organisasi nirlaba terkemuka yang fokus pada keselamatan anak di dunia digital, baru-baru ini merilis evaluasi kritis terhadap produk AI Google, Gemini
Meskipun Gemini dinilai telah berhasil dalam beberapa aspek, seperti menjelaskan bahwa ia adalah sebuah komputer dan bukan teman, Common Sense Media menyatakan bahwa masih banyak ruang untuk perbaikan, terutama dalam hal keamanan anak-anak dan remaja
Menurut penilaian tersebut, versi Gemini untuk pengguna di bawah 13 tahun dan remaja pada dasarnya adalah versi dewasa yang hanya ditambahkan sedikit fitur keamanan. Hal ini dianggap tidak memadai karena AI untuk anak seharusnya dirancang secara khusus dengan mempertimbangkan tahap perkembangan mereka, bukan sekadar modifikasi dari produk untuk orang dewasa
Analisis Common Sense Media menemukan bahwa Gemini masih berpotensi memberikan materi yang tidak pantas dan tidak aman kepada anak-anak, termasuk informasi terkait seks, narkoba, alkohol, dan saran kesehatan mental yang tidak aman. Kekhawatiran ini semakin meningkat mengingat laporan kasus bunuh diri remaja yang diduga melibatkan interaksi dengan AI, seperti yang terjadi pada pengguna ChatGPT dan Character.AI
Risiko ini menjadi sorotan utama, terutama karena adanya rumor bahwa Apple sedang mempertimbangkan Gemini untuk menggerakkan Siri versi AI di masa depan. Hal ini dapat mengekspos lebih banyak remaja terhadap bahaya yang sama jika tidak ada tindakan pencegahan yang lebih ketat
Menanggapi penilaian ini, Google menyatakan bahwa mereka memiliki perlindungan khusus untuk pengguna di bawah 18 tahun dan telah berkonsultasi dengan para ahli untuk meningkatkan sistemnya. Meskipun demikian, mereka mengakui bahwa ada beberapa respons Gemini yang tidak berfungsi sesuai harapan dan berjanji akan menambah perlindungan tambahan untuk mengatasi masalah tersebut
Common Sense Media memberi label “Risiko Tinggi” pada produk Gemini untuk anak dan remaja. Robbie Torney, Direktur Senior Program AI Common Sense Media, menegaskan bahwa platform AI untuk anak-anak harus didesain sesuai kebutuhan spesifik mereka, bukan dengan pendekatan “satu ukuran untuk semua.”
sumber: TechCrunch
Baca Berita Menarik Lainnya Di Google News
