- El Consejo Europeo ha aprobado la prohibición de herramientas de IA diseñadas para desnudarnos digitalmente sin permiso.
- España impulsa una Ley Orgánica para blindar a los menores en entornos digitales, penalizando el grooming y los deepfakes sexuales.
- Se establecen sanciones severas para plataformas y directivos que comercialicen contenidos íntimos falsos, con multas millonarias.
- El nuevo marco legal exige el etiquetado obligatorio de contenidos generados por IA mediante marcas digitales.
La tecnología avanza a pasos agigantados, pero a veces se nos va de las manos. En los últimos tiempos, hemos visto cómo el auge de la inteligencia artificial ha traído consigo una herramienta bastante turbia: los deepfakes de contenido sexual. Básicamente, se trata de usar la IA para crear imágenes o vídeos íntimos de personas sin que estas hayan dado su visto bueno, algo que es una auténtica vulneración de la intimidad y que ha puesto en alerta a los gobiernos.
Para poner freno a este problema, Bruselas y el Gobierno de España se han puesto las pilas. No se trata solo de poner una multa aquí y allá, sino de crear un marco legal robusto que proteja los derechos fundamentales y evite que cualquier persona se vea expuesta a abusos digitales. Estamos hablando de una ofensiva legislativa que busca limpiar la red de estas prácticas vejatorias y garantizar que la tecnología se use para sumar, no para humillar.
El veto europeo a la IA que desnuda
El Consejo Europeo ha dado el brazo sequenced a una iniciativa española pionera que busca vetar el uso de la IA para generar desnudos falsos. Esta medida es fundamental porque ataca directamente a las herramientas conocidas como «IA que desnuda», que permiten manipular imágenes reales para crear contenido sexual sin consentimiento. Aunque la propuesta ya tiene luz verde en el Consejo, todavía tiene que pasar por la Eurocámara para terminar de ajustarse.
Lo más relevante de este acuerdo es que no solo va contra quien crea la imagen, sino que mete en el saco a las plataformas que difunden o lucran con este tipo de material. Los expertos advierten que, aunque es un paso gigante, la reforma llega un pelín tarde debido a la rapidez con la que se han propagado estas apps, y señalan que existen retos técnicos complejos para monitorizar todo el tráfico de internet.
Para que quede claro, el calendario es concreto: a partir del 2 de diciembre de 2026, quedarán estrictamente prohibidos los sistemas capaces de fabricar contenido íntimo falso. Además, para evitar confusiones, se obligará a que cualquier audio, vídeo o imagen generado por IA lleve una marca digital de identificación, para que sepamos qué es real y qué es un invento de una máquina.
Protección reforzada para menores de edad
España ha ido un paso más allá con el Proyecto de Ley Orgánica para la protección de los menores en entornos digitales. Esta norma es un escudo para los más jóvenes, asegurando que su derecho a la propia imagen y su intimidad no sean pisoteados. El Gobierno quiere que los niños y adolescentes naveguen en un entorno seguro, donde el acceso a contenidos inadecuados esté controlado.
Una de las novedades más fuertes es la reforma del Código Penal. Ahora se quiere penalizar duramente los deepfakes sexuales que involucren a menores, así como el grooming, que es cuando un adulto finge ser joven para engañar a un niño. Para evitar que las víctimas vuelvan a pasar por el mismo trauma, se ha introducido la prohibición de acceso a entornos digitales como medida cautelar o sancionadora.
- Control parental gratuito: Los fabricantes de dispositivos deberán incluir sistemas de control activados por defecto y sin coste.
- Loot boxes prohibidas: Se restringirá el acceso de menores a los mecanismos de recompensa aleatorios en videojuegos.
- Saneamiento educativo: Los colegios tendrán que regular específicamente el uso de móviles en las aulas.
- Salud digital: Se crearán protocolos contra las adicciones tecnológicas y guías de prevención sanitaria.
Además, se ha decidido subir la edad de consentimiento para el tratamiento de datos personales, pasando de los 14 a los 16 años. Y ojo con los influencers y grandes operadores, porque ahora tendrán que implementar sistemas de verificación de edad y separar claramente los contenidos violentos o pornográficos de los generales.
Gobernanza de la IA y sanciones millonarias
Para que todo esto no se quede en palabras, España ha impulsado el Proyecto de Ley para el Buen Uso y la Gobernanza de la Inteligencia Artificial. El objetivo es adaptar las leyes nacionales al Reglamento Europeo de IA, clasificando las herramientas según su nivel de riesgo. Hay aplicaciones que están permitidas, otras que requieren supervisión y aquellas que son simplemente inaceptables y, por tanto, prohibidas.
Entre las prohibiciones más tajantes se encuentran los sistemas que usan técnicas subliminales para manipularnos o aquellos que explotan la vulnerabilidad de personas por su edad o discapacidad. También quedan fuera de la ley los sistemas de calificación social o el uso de datos biométricos para clasificar a la ciudadanía de forma discriminatoria.
En cuanto al castigo, la ley no se anda con chiquitas. Las infracciones más graves pueden conllevar que España regule la inteligencia artificial con sanciones millonarias de hasta 35 millones de euros o el 7% de la facturación global de la empresa. Lo más impactante es que la responsabilidad no recaerá solo en la compañía, sino que los directivos podrían ser responsables personalmente si se utilizan sistemas prohibidos.
Para asegurar que todo funcione, se creará la figura del delegado de inteligencia artificial en el sector público, quien coordinará que las administraciones cumplan la norma y llevará un inventario de todas las IAs usadas en procesos administrativos para garantizar la transparencia y la supervisión humana.
La Unión Europea y España están levantando un muro legal contra la malicia de los deepfakes sexuales y el abuso digital. A través de la penalización del contenido íntimo no consentido, la protección blindada de la infancia y la imposición de multas económicas astronómicas, se busca crear un ecosistema digital donde la innovación no pase por encima de la dignidad humana y la privacidad.