LONDON – Di era chatbot, Character.AI, platform chatbot yang digunakan didukung oleh Google, sedang ditinjau dan juga menghadapi kritik oleh sebab itu melibatkan pengguna pada konten kekerasan yang dimaksud mengganggu kemudian vulgar, termasuk penembakan di dalam sekolah.
Chatbot menempatkan pengguna pada skenario penembakan palsu yang mana menggambarkan beberapa momen mengerikan. Insiden semacam itu telah dilakukan mengakibatkan kemarahan oleh sebab itu jaringan yang dimaksud mengizinkan anak di area bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer juga Daniel de Freitas. Program ini memungkinkan pengguna memproduksi lalu berinteraksi dengan chatbot. User dapat mempersonalisasi kepribadian dan juga pengumuman bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, serta bahkan bermain game.
Namun, wadah yang dimaksud telah lama terungkap dikarenakan kurangnya keamanan yang tersebut efektif, yang dimaksud akhirnya menjadikannya tempat berkembangnya beberapa orang konten yang mana berbahaya dan juga tiada pantas. User yang berusia 13 tahun pun dapat mendaftar, tetapi tak ada cara untuk mengautentikasi verifikasi usia guna menghindari anak-anak yang tambahan muda berbohong tentang usia mereka.
Platform yang disebutkan gagal menerapkan panduan yang mana aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang digunakan menjelaskan penembakan dalam sekolah atau korban di area dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer dan juga Daniel de Freitas yang tersebut menggambarkan merekan sebagai karakter yang dimaksud baik hati.
Beberapa pengguna telah dilakukan melaporkan bot yang tersebut menyamar sebagai korban penembakan dalam sekolah.
