LONDON – Di era chatbot, Character.AI, platform chatbot yang dimaksud didukung oleh Google, sedang ditinjau dan juga menghadapi kritik lantaran melibatkan pengguna pada konten kekerasan yang tersebut mengganggu lalu vulgar, termasuk penembakan di area sekolah.
Chatbot menempatkan pengguna di skenario penembakan palsu yang mana menggambarkan beberapa momen mengerikan. Insiden semacam itu telah terjadi memunculkan kemarahan oleh sebab itu platform digital yang disebutkan mengizinkan anak dalam bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer juga Daniel de Freitas. Aplikasi komputer ini memungkinkan pengguna menyebabkan kemudian berinteraksi dengan chatbot. User dapat mempersonalisasi kepribadian lalu pernyataan bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, juga bahkan bermain game.
Namun, sistem yang disebutkan telah terjadi terungkap sebab kurangnya keamanan yang efektif, yang dimaksud akhirnya menjadikannya tempat berkembangnya beberapa konten yang dimaksud berbahaya serta tak pantas. User yang tersebut berusia 13 tahun pun dapat mendaftar, tetapi tak ada cara untuk mengautentikasi verifikasi usia guna mengurangi anak-anak yang dimaksud lebih lanjut muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang tersebut aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang mana menjelaskan penembakan di tempat sekolah atau korban dalam dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang tersebut nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer juga Daniel de Freitas yang menggambarkan mereka sebagai karakter yang baik hati.
Beberapa pengguna telah terjadi melaporkan bot yang tersebut menyamar sebagai korban penembakan pada sekolah.
