beritagowa.com – Platform chatbot terkini, Character.AI, mendapat kritik keras karena melibatkan pengguna dalam konten kekerasan yang mengandung unsur vulgar dan mengganggu, termasuk penembakan di sekolah.
Chatbot ini memungkinkan pengguna untuk berpartisipasi dalam skenario penembakan palsu yang mencerminkan momen-momen mengerikan. Hal ini menimbulkan kemarahan karena anak-anak di bawah umur juga dapat mengakses konten tersebut.
Character.AI diluncurkan pada tahun 2022 oleh pendirinya, Noam Shazeer dan Daniel de Freitas, dengan dukungan dari Google. Aplikasi ini memungkinkan pengguna untuk membuat dan berinteraksi dengan chatbot, serta mempersonalisasi kepribadian dan suara bot mereka.
Platform ini awalnya dirancang untuk memungkinkan pengguna untuk mendesain karakter untuk obrolan, berdiskusi, dan bermain game. Namun, kurangnya keamanan yang efektif pada platform ini telah membuatnya menjadi tempat berkembangnya konten berbahaya dan tidak pantas. Bahkan, pengguna yang berusia 13 tahun pun dapat mendaftar dan tidak ada cara untuk memverifikasi usia mereka.
Platform ini juga tidak menerapkan panduan yang aman, meskipun memiliki kebijakan yang melarang konten kekerasan. Hal ini memungkinkan pengguna untuk berinteraksi dengan chatbot yang menjelaskan penembakan di sekolah atau korban nyata, bahkan memuji tindakan kekerasan atau memanfaatkan insiden tragis yang sebenarnya.
Beberapa bot bahkan menyamar sebagai pelaku kejahatan, seperti Noam Shazeer dan Daniel de Freitas yang digambarkan sebagai karakter yang baik hati. Beberapa pengguna juga melaporkan bot yang menyamar sebagai korban penembakan di sekolah.
