Seorang ibu di Florida telah mengajukan gugatan terhadap Character.ai dan Google setelah putranya bunuh diri.
Megan Garcia telah mengklaim dalam gugatan yang diajukan pada Selasa (22 Oktober) bahwa startup chatbot AI harus disalahkan atas kematian anaknya yang berusia 14 tahun, Sewell Setzer, setelah ia mengembangkan kecanduan pada aplikasi dan keterikatan tertentu pada aplikasi tersebut. chatbot yang disediakannya.
Dalam sebuah wawancara dengan CBSGarcia mengatakan putranya berada dalam 'hubungan' virtual, emosional, dan seksual yang berkelanjutan dengan chatbot bernama 'Dany', diambil dari nama karakter Daenerys Targaryen dari serial drama HBO yang sukses besar, Game of Thrones.
Gugatan itu termasuk Google – yang baru-baru ini memindahkan tim Gemini ke DeepMind – sebagai tergugat namun perusahaan telah mengklarifikasi bahwa mereka hanya memiliki perjanjian lisensi dengan Character dan tidak memiliki kepemilikan atau kendali apa pun terhadap perusahaan tersebut.
“Saya tidak tahu bahwa dia sedang berbicara dengan chatbot AI yang sangat mirip manusia dan memiliki kemampuan meniru emosi dan sentimen manusia,” tambah Garcia.
Character.ai sebelumnya memperkenalkan tambahan baru pada fitur Suara jika Anda bisa berbicara dengan mereka seolah-olah sedang menelepon.
Megan Garcia mengatakan putranya menjalin hubungan emosional dan seksual virtual selama berbulan-bulan dengan chatbot. Garcia mengklaim Karakter tersebut. Bot AI mendorong putranya untuk bunuh diri. https://t.co/gE3lEIlzvu
— Berita CBS (@CBSNews) 23 Oktober 2024
Alat bantu mandiri ditambahkan ke platform
Dia menjelaskan bahwa Sewell adalah seorang pemuda yang bertunangan, seorang siswa teladan, dan seorang atlet, namun dia mulai merasa khawatir ketika perilakunya berubah. Dia tidak lagi ingin berolahraga dan menjadi pendiam.
Dia lebih suka berbicara dengan bot daripada terapis, karena keterikatannya pada penciptaan AI semakin meningkat. Sewell merasa lebih terhubung dengan teman virtualnya daripada dengan kenyataan.
Garcia mengira putranya sedang mengobrol dengan teman dan bermain game online, namun kenyataannya dia asyik dengan Dany. Dia mengklaim bahwa startup tersebut dengan sengaja memasarkan produknya kepada anak di bawah umur, termasuk desain konten chatbot yang terang-terangan bersifat seksual.
Dia menuduh Character.ai mengumpulkan data pengguna untuk menyempurnakan modelnya, merancang aplikasi dengan fitur kompulsif untuk mendorong interaksi, dan mendorong pengguna melakukan percakapan intim agar mereka tetap terhubung.
Dalam sebuah pernyataan, Character.ai mengatakan, “Kami sedih atas kehilangan tragis salah satu pengguna kami dan ingin menyampaikan belasungkawa terdalam kami kepada keluarga.”
Perusahaan mengisyaratkan bahwa mereka telah menambahkan sumber daya yang dapat membahayakan diri sendiri ke dalam platform dengan rencana untuk memperkenalkan langkah-langkah keselamatan lebih lanjut, terutama bagi mereka yang berusia di bawah 18 tahun.
Gambar unggulan: melalui Character.ai
Pos Ibu Florida yang putus asa menggugat Character.ai atas kematian putranya muncul pertama kali pada BacaTulis.
Mohon maaf, Foto memang tidak relevan. Jika keberatan atau harus diedit baik Artikel maupun foto Silahkan Klik Laporkan. Terima Kasih
