San Francisco, Jumat 29 Agustus 2025-VNNMedia- OpenAI, perusahaan teknologi dibalik kecerdasan buatan (AI) ChatGPT, mengumumkan tengah mengubah respon model AI tersebut terhadap pengguna yang mengalami gangguan mental dan rentan bunuh diri. Pengumuman tersebut diunggah di blog perusahaan yang dilansir The Guardian pada Kamis (28/8)
Langkah OpenAI itu menyusul adanya gugatan kepada perusahaan setelah seorang remaja Amerika Serikat berusia 16 tahun melakukan bunuh diri pada bulan April dimana menurut pihak keluarga, bocah tersebut dalam beberapa bulan terakhir melakukan obrolan dengan ChatGPT
Gugatan yang didaftarkan di pengadilan tinggi California itu menyebut bahwa sang anak yang diketahui bernama Adam itu telah berdiskusi berkali-kali dengan ChatGPT tentang cara-cara bunuh diri, termasuk sesaat sebelum ia menghabisi nyawanya sendiri
Dokumen pengadilan juga mengklaim bahwa Adam dan model AI itu telah melakukan tukar pesan hingga 650 pesan per hari
Menurut pengacara keluarga, ChatGPT memberikan saran-saran tentang metode bunuh diri kepada Adam, bahkan menawarkan untuk membantu menulis surat bunuh diri yang ditujukan untuk orang tuanya. Pihak keluarga menuduh OpenAI terlalu cepat meluncurkan ChatGPT 4o, walaupun ada masalah keamanan
OpenAI sendiri mengakui kalau AI-nya kurang tanggap terhadap situasi sensitif. Mereka menjelaskan bahwa obrolan yang panjang dapat menurunkan “bagian dari pelatihan keamanan model”. Perusahaan berjanji akan menerapak kontrol yang lebih kuat untuk konten sensitif dan perilaku beresiko, khususnya untuk pengguna berusia di bawah 18 tahun
Selain merubah respon ChatGPT, OpenAI juga bakal menambah fitur pengenalan kontrol orang tua, penguatan pengamanan dalam obrolan panjang, termasuk untuk ChatGPT-5
Tujuan dari pembaruan tersebut adalah agar ChatGPT dapat menenangkan pengguna dengan mengembalikannya ke kenyataan, serta memberikan panduan yang lebih aman dan bertanggung jawab
sumber: Antara
Baca Berita Menarik Lainnya Di Google News
