Kabar penting datang dari dunia kecerdasan buatan, di mana platform chatbot populer Character.AI kini resmi memberlakukan pembatasan Character AI yang signifikan. Kebijakan terbaru ini secara khusus menargetkan Character AI di bawah umur, membatasi akses mereka terhadap fitur chat Character AI. Menurut informasi dari The Verge, langkah berani ini diambil sebagai respons terhadap meningkatnya tekanan regulasi dan tuntutan hukum yang melibatkan interaksi tidak pantas antara anak-anak dan chatbot. Pembatasan ini akan secara bertahap diberlakukan hingga menjadi larangan penuh pada 25 November.

Model Jaminan Usia Character.AI: Bagaimana Sistem Bekerja?

Dalam upaya mendukung kebijakan baru ini, Character.AI telah meluncurkan sistem internal yang disebut “model jaminan usia” (Age Assurance Model). Model ini dirancang untuk mengklasifikasikan usia pengguna berdasarkan beberapa faktor krusial. Salah satu faktor utama adalah tipe karakter yang diajak bicara oleh pengguna. Data ini kemudian dikombinasikan dengan informasi dari pihak ketiga atau data internal lainnya untuk menentukan estimasi usia pengguna.

Sistem ini akan diterapkan pada semua pengguna, baik yang baru mendaftar maupun pengguna lama. Jika seorang pengguna diidentifikasi sebagai Character AI di bawah umur melalui model ini, mereka akan secara otomatis diarahkan ke versi aplikasi yang dirancang khusus agar aman untuk remaja. Pengalihan ini akan berlangsung hingga batas waktu 25 November, di mana kebijakan penuh akan mulai berlaku efektif.

Fitur Chat-nya ada pembatasan untuk pengguna di bawah umur?

Pembatasan Akses dan Verifikasi Usia yang Ketat

Dengan adanya aturan pembatasan Character AI yang baru, pengguna yang berusia belia atau masih di bawah umur hanya akan memiliki waktu dua jam per hari untuk dapat berbincang dengan karakter AI. Ini adalah langkah awal yang akan semakin menyusut hingga akhirnya menjadi larangan penuh yang akan berlaku efektif mulai tanggal 25 November. Pembatasan ini menegaskan komitmen Character.AI terhadap lingkungan yang lebih aman, terutama bagi pengguna muda.

Bagi pengguna dewasa yang mungkin keliru diidentifikasi sebagai minor oleh sistem jaminan usia, Character.AI menyediakan mekanisme verifikasi yang jelas. Mereka dapat menggunakan opsi verifikasi melalui situs pihak ketiga yang bekerja sama, yaitu Persona. Proses ini akan memerlukan data sensitif, termasuk kartu identitas asli pemiliknya, untuk mengkonfirmasi usia dan mengembalikan akses penuh ke semua fitur platform.

Kenapa kebijakan baru ini diterapkan pada layanannya?

Alasan di Balik Kebijakan Tegas Character.AI

Karandeep Anand, selaku CEO Character.AI, menyebut langkah ini sebagai “sangat, sangat berani”. Pernyataan ini menunjukkan bahwa perusahaan menyadari dampak besar dari keputusan ini namun melihatnya sebagai jalan tengah yang esensial. Kebijakan ini diambil mengingat meningkatnya tekanan hukum dan regulasi dari berbagai pemerintah di seluruh dunia. Tekanan ini berpusat pada perlindungan anak-anak dalam interaksi daring dengan teknologi Artificial Intelligence.

Sebelumnya, platform ini telah menghadapi berbagai tuntutan hukum. Tuntutan tersebut diajukan oleh orang tua yang mengklaim anak-anak mereka ditarik ke dalam hubungan yang tidak pantas atau berbahaya dengan chatbot AI. Kasus-kasus ini menyoroti dugaan kelalaian dan praktik dagang yang menipu, yang memicu tinjauan ulang kebijakan internal Character.AI. Bahkan hingga saat ini, Amerika Serikat mengusulkan Rancangan Undang-Undang federal yang bertujuan melarang penyediaan pendamping AI untuk anak di bawah umur.

Masa Depan Pengguna Remaja di Character.AI

Meskipun ada larangan chat yang signifikan, Character.AI menegaskan bahwa remaja masih diizinkan untuk mengakses situs tersebut. Mereka dapat meninjau riwayat obrolan lama mereka, yang memberikan kontinuitas dan akses ke kenangan interaksi sebelumnya. Selain itu, fitur non-obrolan juga tetap dapat digunakan. Ini termasuk kemampuan untuk membuat karakter baru, menghasilkan video, dan membuat cerita, yang memungkinkan pengguna muda untuk tetap berkreasi dan terlibat dengan platform tanpa interaksi chat langsung.

Anand mencatat bahwa kurang dari 10 persen dari keseluruhan basis pengguna perusahaan melaporkan diri berusia di bawah 18 tahun. Meskipun demikian, perusahaan tetap merasa perlu mengambil tindakan proaktif. Character.AI juga menyampaikan “permintaan maaf yang mendalam” kepada basis pengguna remajanya. Perusahaan mengakui bahwa sebagian besar dari mereka menggunakan produk “dalam batas aturan konten” yang telah ditetapkan. Hal ini menunjukkan bahwa kebijakan ini adalah langkah pencegahan yang luas, bukan respons terhadap mayoritas pelanggaran dari pengguna remaja.

Character.AI

Kesimpulan: Adaptasi Terhadap Regulasi dan Perlindungan Anak

Kebijakan pembatasan Character AI yang diterapkan pada fitur chat Character AI merupakan langkah penting bagi platform tersebut dalam menanggapi lanskap regulasi yang terus berkembang dan kekhawatiran masyarakat akan keselamatan anak di dunia digital. Dengan mengimplementasikan model jaminan usia dan membatasi interaksi chat bagi Character AI di bawah umur, perusahaan berusaha menciptakan lingkungan daring yang lebih aman. Meskipun ini mungkin menjadi perubahan besar bagi beberapa pengguna, langkah ini menunjukkan komitmen Character.AI untuk melindungi penggunanya sambil tetap berinovasi di bidang kecerdasan buatan.