Famosos, personas anónimas y también menores que a golpe de IA se pueden sexualizar a capricho de cualquiera. El Gobierno quiere pedir responsabilidades a las plataformas donde se comparte pornografía infantil generada de forma sencilla con herramientas de IA. Las plataformas adoptan ciertos filtros básicos; las aplicaciones más comerciales, por ejemplo, no permiten desnudos de menores, pero sí imágenes sexualizadas de ellos. Sus controles por lo tanto son insuficientes. Además, el algoritmo hace su trabajo y ante cualquier búsqueda en redes amplifica la exposición a menores a este tipo de contenidos sexuales que podrían suponer delitos de pornografía infantil y violencia sexual digital.