China stelt nieuwe regelgeving voor de generatieve AI (gen AI)-sector voor, wat duidt op nauwere controle van opkomende technologieën die menselijke interactie simuleren. De voorgestelde regels, uitgevaardigd door de Cyberspace Administration of China (CAC), richten zich op toepassingen die tekst, afbeeldingen, audio, video of andere inhoud genereren die menselijke communicatie, persoonlijkheidskenmerken of emotionele expressie nabootst. De regelgeving is bedoeld om de veiligheid van consumenten te waarborgen en risico's geassocieerd met AI-gestuurde diensten te verminderen.
Inhoudsbeperkingen en gebruikersveiligheid
Volgens de voorgestelde regelgeving moet door AI gegenereerde inhoud het bedreigen van de nationale veiligheid, het ondermijnen van Chinese waarden of het belasteren van individuen vermijden. Inhoud die obsceniteit, gokken, geweld of criminaliteit promoot, is ook verboden. Daarnaast zijn diensten die gebruikers misleiden met valse beloften, schadelijk gedrag aanmoedigen of sociale relaties beschadigen, aan beperkingen onderhevig. Speciale aandacht wordt besteed aan het voorkomen van inhoud die de fysieke of mentale gezondheid van gebruikers kan schaden, inclusief het aanmoedigen van zelfbeschadiging of zelfmoord. In dergelijke gevallen is menselijke tussenkomst vereist om de voogd van een gebruiker of hulpdiensten te contacteren.
Minderjarigen en AI-interactie
De regels behandelen ook het gebruik van AI-technologie door minderjarigen. Bedrijven moeten toestemming verkrijgen van een voogd voordat kinderen interactie mogen hebben met generatieve AI-systemen. De regelgeving maakt duidelijk dat AI-diensten niet gericht mogen zijn op het vervangen van sociale interactie, het beïnvloeden van de psychologie van gebruikers of het induceren van verslavend gedrag. Bedrijven moeten duidelijke waarschuwingen geven aan gebruikers die mogelijk te afhankelijk zijn van AI, en meldingen moeten duidelijk maken dat ze interactie hebben met een AI en niet met een mens.
Feedback uit de sector en volgende stappen
De CAC heeft een deadline gesteld van 25 januari 2026 voor publieke feedback op de voorgestelde regelgeving. Het initiatief benadrukt de groeiende focus van China op het reguleren van opkomende technologieën en het handhaven van consumentenbescherming in de generatieve AI en bredere technologiesectoren. Bedrijven die in de regio opereren, wordt verwacht hun praktijken aan te passen om te voldoen aan deze aanstaande vereisten, vooral voor consumentgerichte AI-toepassingen.
Veelgestelde vragen (FAQ's)
Wat is generatieve AI?
Generatieve AI verwijst naar technologie die inhoud kan produceren, zoals tekst, afbeeldingen, audio of video, door menselijke communicatiestijlen, persoonlijkheidskenmerken en emotionele reacties te simuleren.
Waarom reguleert China generatieve AI?
China introduceert regelgeving om gebruikers te beschermen, schadelijke inhoud te voorkomen, de nationale veiligheid te waarborgen en de sociale en psychologische effecten van AI-technologieën te beheren.
Mogen minderjarigen AI-diensten gebruiken in China?
Ja, maar alleen met toestemming van een voogd. De voorgestelde regels vereisen ouderlijke goedkeuring voor minderjarigen die interactie hebben met generatieve AI.
Welke soorten inhoud zijn verboden onder de nieuwe regels?
Inhoud die de nationale veiligheid bedreigt, anderen beledigt of belastert, obsceniteit, gokken, geweld of criminaliteit promoot, of de fysieke of mentale gezondheid schaadt, is verboden.
Wanneer treden de regelgevingen in werking?
De periode voor publieke feedback eindigt op 25 januari 2026. Definitieve implementatiedata zijn afhankelijk van de beoordeling van de reacties en officiële aankondigingen.
Hebben deze regels invloed op web3-toepassingen die AI gebruiken?
Ja, alle AI-gestuurde consumentgerichte toepassingen, inclusief die in de web3-ruimte, moeten voldoen aan de regelgeving als ze toegankelijk zijn voor gebruikers in China.
