Tiongkok mengajukan regulasi baru untuk sektor AI generatif (gen AI), menandakan pengawasan yang lebih ketat terhadap teknologi yang sedang berkembang yang mensimulasikan interaksi manusia. Aturan yang diusulkan, yang dikeluarkan oleh Administrasi Siber Tiongkok (CAC), menargetkan aplikasi yang menghasilkan teks, gambar, audio, video, atau konten lain yang meniru komunikasi manusia, ciri kepribadian, atau ekspresi emosional. Regulasi ini bertujuan untuk memastikan keselamatan konsumen dan mengurangi risiko yang terkait dengan layanan yang digerakkan oleh AI.
Pembatasan Konten dan Keselamatan Pengguna
Di bawah peraturan yang diusulkan, konten yang dihasilkan AI harus menghindari ancaman terhadap keamanan nasional, merusak nilai-nilai Tiongkok, atau memfitnah individu. Konten yang mempromosikan kecabulan, perjudian, kekerasan, atau kejahatan juga dilarang. Selain itu, layanan yang menyesatkan pengguna dengan janji palsu, mendorong perilaku berbahaya, atau merusak hubungan sosial tunduk pada pembatasan. Perhatian khusus diberikan untuk mencegah konten yang dapat membahayakan kesehatan fisik atau mental pengguna, termasuk mendorong menyakiti diri sendiri atau bunuh diri. Dalam kasus seperti itu, intervensi manusia diperlukan untuk menghubungi wali pengguna atau layanan darurat.
Anak di Bawah Umur dan Interaksi AI
Aturan ini juga membahas penggunaan teknologi AI oleh anak di bawah umur. Perusahaan diwajibkan untuk mendapatkan persetujuan dari wali sebelum mengizinkan anak-anak berinteraksi dengan sistem AI generatif. Regulasi memperjelas bahwa layanan AI tidak boleh bertujuan untuk menggantikan interaksi sosial, memengaruhi psikologi pengguna, atau mendorong perilaku adiktif. Perusahaan harus memberikan peringatan yang jelas kepada pengguna yang mungkin terlalu bergantung pada AI, dan pemberitahuan harus membuat jelas bahwa mereka berinteraksi dengan AI daripada manusia.
Umpan Balik Industri dan Langkah Selanjutnya
CAC telah menetapkan batas waktu 25 Januari 2026, untuk umpan balik publik mengenai peraturan yang diusulkan. Inisiatif ini menyoroti fokus Tiongkok yang semakin meningkat pada pengaturan teknologi yang sedang berkembang dan pemeliharaan perlindungan konsumen di sektor AI generatif dan sektor teknologi yang lebih luas. Perusahaan yang beroperasi di wilayah tersebut diharapkan untuk menyesuaikan praktik mereka agar mematuhi persyaratan mendatang ini, terutama untuk aplikasi AI yang berhadapan dengan konsumen.
Pertanyaan yang Sering Diajukan (FAQ)
Apa itu AI generatif?
AI generatif mengacu pada teknologi yang dapat menghasilkan konten, seperti teks, gambar, audio, atau video, dengan mensimulasikan gaya komunikasi manusia, ciri kepribadian, dan respons emosional.
Mengapa Tiongkok mengatur AI generatif?
Tiongkok memperkenalkan peraturan untuk melindungi pengguna, mencegah konten berbahaya, menjaga keamanan nasional, dan mengelola efek sosial dan psikologis dari teknologi AI.
Apakah anak di bawah umur diizinkan menggunakan layanan AI di Tiongkok?
Ya, tetapi hanya dengan persetujuan dari wali. Aturan yang diusulkan memerlukan persetujuan orang tua untuk anak di bawah umur yang berinteraksi dengan AI generatif.
Jenis konten apa yang dilarang berdasarkan aturan baru?
Konten yang mengancam keamanan nasional, menghina atau memfitnah orang lain, mempromosikan kecabulan, perjudian, kekerasan, atau kejahatan, atau membahayakan kesehatan fisik atau mental dilarang.
Kapan peraturan tersebut berlaku?
Periode umpan balik publik berakhir pada 25 Januari 2026. Tanggal implementasi akhir akan bergantung pada peninjauan tanggapan dan pengumuman resmi.
Apakah aturan ini memengaruhi aplikasi web3 yang menggunakan AI?
Ya, setiap aplikasi yang didukung AI yang berhadapan dengan konsumen, termasuk yang ada di ruang web3, harus mematuhi peraturan jika dapat diakses oleh pengguna di Tiongkok.
