New York Batasi Fitur Chatbot AI bagi Anak, Penyedia Wajib Verifikasi Usia

ALBANY, SUARKABAR.ID – Gubernur New York Kathy Hochul menandatangani undang-undang yang melarang penyedia chatbot kecerdasan buatan (AI) menawarkan fitur tidak aman kepada pengguna di bawah 18 tahun pada Rabu (28/10/2026)^[2]. Larangan mencakup chatbot yang berpura-pura menjadi manusia, mengaku memiliki hubungan pribadi dengan anak, serta mendorong tindakan melukai diri^[2].

Ketentuan itu juga menjangkau pengguna yang belum dipastikan bukan anak, sehingga batasan layanan tidak hanya ditujukan kepada pengguna yang sudah teridentifikasi berusia di bawah 18 tahun^[2]. Perusahaan wajib memverifikasi usia dan menyediakan lebih dari satu cara untuk melakukannya^[2].

Untuk ketentuan chatbot, siaran Kantor Gubernur New York menyebut penerapannya dalam beberapa bulan mendatang, bukan langsung pada hari penandatanganan^[2]. Aturan tersebut berlaku di negara bagian New York, bukan di Indonesia^[2].

Rancangan undang-undang yang ditandatangani Hochul tercatat sebagai S.9051B/A.10379C, dengan Senator Negara Bagian Kristen Gonzalez dan Anggota Majelis Alex Bores sebagai sponsor^[2].

Batas Percakapan dan Pemeriksaan Usia

Aturan baru melarang chatbot berpura-pura menjadi orang sungguhan atau menyatakan memiliki emosi manusia ketika berinteraksi dengan anak^[2]. Chatbot juga tidak boleh mengaku mempunyai hubungan pribadi, romantis, profesional, atau hubungan otoritas dengan pengguna anak^[2].

Batasan lain menyasar pertanyaan emosional yang diajukan tanpa diminta serta penggunaan informasi kesehatan atau informasi pribadi anak dari percakapan sebelumnya^[2]. Penyedia juga dilarang menawarkan fitur yang mendorong anak merahasiakan sesuatu atau menjauh dari orang tua dan orang dewasa yang dipercaya^[2].

Larangan berikutnya mencakup dorongan atau bantuan untuk bunuh diri, melukai diri, gangguan makan, serta penggunaan narkoba dan alkohol^[2]. Konten seksual eksplisit dan materi kekerasan seksual terhadap anak turut masuk dalam fitur yang dilarang^[2].

Dalam pemeriksaan usia, perusahaan harus menyediakan sedikitnya satu pilihan yang tidak semata-mata bergantung pada kartu identitas pemerintah^[2]. Informasi usia yang dikumpulkan untuk pemeriksaan tersebut wajib dihapus setelah digunakan^[2].

Denda dan Jalur Pengaduan Warga

Jaksa Agung New York dapat menggugat pelanggaran dengan tuntutan denda perdata hingga 25.000 dolar AS untuk setiap pelanggaran^[2]. Kewenangan penegakan aturan itu juga mencakup tuntutan ganti rugi, restitusi, serta perintah pengadilan lain yang sesuai^[2].

Jaksa agung dapat meminta penghancuran data yang dikumpulkan secara melanggar hukum ataupun model AI yang dilatih menggunakan data tersebut^[2]. Undang-undang itu juga mewajibkan jaksa agung mengelola situs web publik untuk menampung pengaduan warga New York terhadap perusahaan chatbot^[2].

Jaksa Agung Letitia James menyatakan ketentuan tersebut menetapkan batasan hukum yang jelas bagi layanan itu^[2]. Dalam siaran resminya, Kantor Gubernur New York mengutip data Common Sense Media bahwa 72 persen remaja pernah menggunakan pendamping AI^[2]. Sebanyak 52 persen disebut menjadi pengguna rutin yang berinteraksi beberapa kali dalam sebulan^[2].

Kantor gubernur menyebut aturan chatbot ini melengkapi kebijakan New York sebelumnya, termasuk SAFE for Kids Act, Child Data Protection Act, RAISE Act, dan aturan pendamping AI^[2]. Pada kesempatan yang sama, Hochul juga menandatangani rancangan undang-undang S.9508/A.5175A mengenai keamanan pemantau bayi yang terhubung ke internet^[2].

Ketentuan pemantau bayi mewajibkan produk yang dijual di New York memiliki fitur keamanan dan label peringatan^[2]. Untuk aturan pemantau bayi tersebut, siaran kantor gubernur menyebut waktu berlaku 90 hari setelah penandatanganan^[2].