Kasus Meta dan Character.AI Diduga Menipu Anak-Anak Di Selidiki Jaksa Agung Texas
Penyelidikan Jaksa Agung Texas terhadap Chatbot AI
Jaksa Agung Negara Bagian Texas, Ken Paxton, sedang melakukan penyelidikan terhadap dua perusahaan teknologi besar, yaitu Meta dan Character.AI. Penyelidikan ini dilakukan karena dugaan adanya praktik yang menipu dan menyesatkan dari chatbot AI yang mereka kembangkan. Kedua perusahaan tersebut dianggap memasarkan diri sebagai alat bantu kesehatan mental, padahal tidak memiliki kredensial atau pengawasan medis yang sah.
Dalam pernyataannya melalui situs resmi Jaksa Agung Texas pada Senin, 18 Agustus 2025, Ken Paxton menyampaikan bahwa di era digital saat ini, perlindungan anak-anak Texas dari teknologi yang menipu dan eksploitatif sangat penting. Ia menekankan bahwa platform AI dapat digunakan oleh individu yang rentan, termasuk anak-anak, dan berpotensi menampilkan diri seolah-olah merupakan profesional kesehatan mental yang terlatih.
Chatbot AI sering kali tidak hanya memberikan saran umum, tetapi juga menyamar sebagai konselor berlisensi. Hal ini bisa membuat pengguna percaya bahwa mereka menerima layanan konseling yang dapat dipercaya. Namun, faktanya adalah bahwa chatbot tersebut tidak memiliki lisensi atau pengawasan medis yang sesuai.
Selain itu, chatbot AI menegaskan kerahasiaan data pengguna. Namun, dalam beberapa kasus, persyaratan layanan menunjukkan bahwa interaksi pengguna akan dicatat, dilacak, dan digunakan untuk keperluan iklan serta pengembangan algoritma. Hal ini menimbulkan kekhawatiran tentang privasi dan keamanan data pengguna.
Karena alasan tersebut, Jaksa Agung Texas mengeluarkan Tuntutan Investigasi Perdata (CID) kepada Meta dan Character.AI. Dalam pernyataannya, Ken Paxton menyoroti bahwa dengan menyamar sebagai sumber dukungan emosional, platform AI bisa menyesatkan pengguna yang rentan, terutama anak-anak, agar percaya bahwa mereka menerima perawatan kesehatan mental yang sah.
Investigasi ini juga menuntut pertanggungjawaban perusahaan-perusahaan tersebut untuk melindungi data masyarakat Texas. Selain itu, jaksa juga sedang menyelidiki potensi pelanggaran terhadap Undang-Undang SCOPE. Tujuannya adalah untuk memastikan bahwa semua alat berbasis AI beroperasi secara sah, transparan, dan tidak mengambil keuntungan dari masyarakat.
Menurut laporan dari Techcrunch, juru bicara Character.AI menyatakan bahwa perusahaan tersebut baru saja mulai mengeksplorasi iklan bertarget di platform mereka. Kebijakan privasi yang berlaku sama untuk semua pengguna, termasuk mereka yang menyesuaikan preferensi pribadi. Menurut laporan yang terbit pada Selasa, 18 Agustus 2025, eksplorasi iklan tersebut tidak menggunakan konten obrolan di platform. Sementara itu, Meta belum merespons mengenai penyelidikan ini.
Penyelidikan ini menunjukkan bahwa pemerintah Texas semakin waspada terhadap risiko yang muncul dari penggunaan teknologi AI, terutama ketika digunakan untuk tujuan kesehatan mental. Dengan langkah-langkah seperti CID, pihak berwenang berusaha memastikan bahwa teknologi ini digunakan secara bertanggung jawab dan aman bagi semua pengguna.
