OpenAI telah meluncurkan fitur baru di ChatGPT yang mampu memprediksi usia pengguna. Inisiatif ini dicanangkan untuk melindungi anak-anak dan remaja dari dampak negatif interaksi dengan AI.
Baca juga: Momen-Momen Kecil yang Membawa Kebahagiaan
Fitur bernama 'age prediction' ini bertujuan untuk mengidentifikasi pengguna yang berusia di bawah 18 tahun. Hal ini sejalan dengan upaya OpenAI dalam menerapkan pembatasan konten yang lebih ketat untuk kelompok usia muda.
Inisiatif Perlindungan Pengguna Muda
Dalam pengumuman resmi, OpenAI menjelaskan bahwa fitur ini dirancang untuk mengidentifikasi pengguna yang berusia di bawah 18 tahun. Langkah ini merupakan bagian dari komitmen perusahaan untuk menciptakan lingkungan yang lebih aman bagi anak-anak dan remaja.
Dampak negatif penggunaan ChatGPT oleh anak-anak telah menjadi perhatian utama. Terdapat laporan tentang kasus bunuh diri remaja yang dikaitkan dengan interaksi dengan chatbot, menegaskan perlunya langkah-langkah preventif.
Kritik juga datang terkait diskusi bertema dewasa yang muncul dalam interaksi pengguna muda. Masalah ini telah membuat OpenAI harus memperketat kontrol konten yang dapat diakses oleh pengguna di bawah umur.
Baca juga: Penjarahan Rumah Eko Patrio: Polisi Selidiki Kericuhan di Kuningan
Penggunaan Algoritma AI dalam Prediksi Usia
Sistem 'age prediction' yang diperkenalkan OpenAI memanfaatkan algoritma AI untuk menganalisis sinyal perilaku pengguna. Di antara sinyal tersebut termasuk usia yang diklaim oleh pengguna dan pola penggunaan akun.
Ketika sistem mencurigai bahwa sebuah akun mungkin dimiliki pengguna di bawah umur, filter konten otomatis akan terapkan untuk menyaring akses kepada konten yang tidak pantas. Topik-topik sensitif seperti kekerasan dan isu seksual akan terfilter dalam sama hal ini.
Inovasi ini diharapkan dapat menciptakan pengalaman yang lebih aman bagi pengguna muda soalnya ia memberikan perlindungan dari konten yang mungkin tidak sesuai.
Mekanisme Koreksi dan Verifikasi Identitas
OpenAI telah menyiapkan sistem untuk mengoreksi kesalahan yang mungkin terjadi dalam penilaian usia. Apabila pengguna dewasa salah diidentifikasi sebagai pengguna di bawah umur, mereka dapat memperbaiki status akun mereka.
Verifikasi identitas dilakukan dengan cara mengirimkan swafoto (selfie) melalui mitra OpenAI. Hal ini bertujuan untuk memberikan jaminan bahwa identifikasi dilakukan dengan akurat.
Mekanisme ini menjadi penting untuk menghindari keberatan dan memberikan kejelasan kepada pengguna tentang status usia mereka dalam sistem.
Baca juga: Sepatu Putih: Aksesori Fashion Tak Lekang Oleh Waktu
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber:
Author
TERPOPULER
BERITA TERBARU
