Gugatan Terhadap Google dan Character.AI Berlanjut Soal Chatbot yang Menewaskan Remaja di AS

Masih ingat dengan kasus remaja yang bunuh diri usai berinteraksi dengan chatbot watak fiktif Character.AI? Sepertinya kelanjutan kasus tersebut akan dimulai kembali setelah melewati pertimbangan dari pengadilan Amerika Serikat.

Google diminta untuk ikut persidangan setelah remaja bunuh diri di AS

Gugatan dilontarkan oleh Megan Garcia, bunda dari remaja berusia 14 tahun yang bunuh diri setelah berinteraksi dengan chatbot watak fiktif Daenerys Targaryen, watak dari Game of Thrones. Remaja bernama Sewell Setzer III ini memang mempunyai kedekatan emosional yang tak biasa terhadap chatbot AI tersebut.

Hanya saja, obsesi terhadap kecerdasan buatan itu malah berujung membikin ia menghilangkan nyawanya sendiri. Chatbot yang semestinya digunakan hanya untuk obrolan ringan malah berkembang menjadi tempat curhat yang tak semestinya menggantikan kegunaan orang uzur mau pun terapis.

Gugatan dari sang bunda dilayangkan pada tahun 2024 silam dan tergugat merupakan Google. Namun perusahaan ini menganggap kalau gugatan tersebut tak sepantasnya dilimpahkan kepada mereka karena adanya perundang-undangan kebebasan bersuara di AS. Hanya saja, Hakim Anne Conway memberikan perintah agar Google dan perusahaan Character.AI mengikuti sidang karena tak bisa membuktikan perlindungan amandemen pertama dimaksud.

Google sebut mereka tak ada sangkut-paut dengan kasus remaja ini

Google sepertinya tak mau disangkut-pautkan dengan persoalan kasus ini. Dari laporan Reuters, perusahaan asal Mountain View, California ini mengatakan kalau kedua perusahaan tersebut terpisah dan mereka tak ikut andil dalam pembentukan aplikasi Character.AI. Google ikut terseret ke kasus ini karena bunda dari remaja tersebut menggugat kedua perusahaan terlibat dalam pembuatan chatbot watak fiktif ini.

Sedangkan juru bicara Character.AI sebut kalau platform mereka sudah mempunyai standarisasi perlindungan yang akan melindungi anak di bawah umur dan tak mengizinkan percakapan yang berujung pada tindakan melukai diri. Apakah ini bukti dari bahaya AI yang bahkan pembuatnya tak sadari?

Dapatkan informasi keren di Gamebrott terkait Tech atau artikel sejenis yang tak kalah seru dari Andi. For further information and other inquiries, you can contact us via author@gamebrott.com.