El Gobierno ha aprobado el proyecto de ley orgánica para el buen uso y la gobernanza de la inteligencia artificial, un texto que ajusta la legislación española a la europea y que fija multas millonarias (de hasta 35 millones), trata de atajar los deepfakes, como los desnudos generados por asistentes virtuales, y determina qué técnicas y sistemas están expresamente prohibidos.

El Gobierno aprueba el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial

El Gobierno aprueba el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial

El pasado 11 de marzo de 2025 el Consejo de Ministros aprobó el Anteproyecto de Ley para el buen uso y la gobernanza de la Inteligencia Artificial (“Anteproyecto de Ley de IA”), que desarrolla el régimen sancionador y de gobernanza previsto en el Reglamento (UE) 2024/1689 (“Reglamento de IA” o “RIA”). Del 18 al 26 de marzo ha estado abierto a consulta pública.

Este Anteproyecto de Ley tiene como objetivo principal adaptar la legislación española al Reglamento de IA, que establece normas armonizadas para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión Europea.

El Gobierno aprueba el proyecto de ley que garantizará una supervisión humana y un uso confiable de la IA

El pasado 26 de mayo de 2026, el Consejo de Ministros aprobó, a propuesta del Ministerio para la Transformación Digital y de la Función Pública, la remisión al Congreso de los Diputados del Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial. Con ello, se inicia su tramitación parlamentaria en las Cortes Generales.

Supervisión humana para proteger los derechos fundamentales

Uno de los pilares del proyecto es la exigencia de supervisión humana efectiva en aquellos sistemas de IA que puedan afectar a derechos fundamentales. Esto significa que decisiones con impacto relevante en ámbitos como la educación, el empleo, la justicia o los servicios públicos no podrán quedar exclusivamente en manos de algoritmos.

La norma refuerza además la transparencia algorítmica. Las organizaciones deberán poder explicar el funcionamiento y la finalidad de determinados sistemas de IA, especialmente cuando estos puedan influir en decisiones que afectan a las personas. El objetivo es evitar situaciones en las que una decisión automatizada resulte opaca o imposible de comprender para quienes se ven afectados por ella.

Una protección reforzada para menores de edad

La protección de la infancia y la adolescencia aparece como una de las prioridades del proyecto legislativo. La ley incorpora medidas específicas destinadas a prevenir que sistemas de inteligencia artificial puedan perjudicar a menores mediante manipulación, explotación de vulnerabilidades o generación de contenidos dañinos.

Esta preocupación resulta especialmente relevante en un momento en el que proliferan herramientas capaces de crear imágenes falsas, clonar voces o generar contenidos hiperrealistas. Los menores pueden ser tanto consumidores como víctimas de estas tecnologías, por lo que la regulación busca establecer salvaguardas adicionales frente a usos abusivos.

Deepfakes sexuales: una nueva práctica prohibida

Una de las novedades más destacadas del proyecto es la incorporación de los llamados deepfakes sexuales entre las prácticas prohibidas en toda la Unión Europea, una iniciativa impulsada por España. Se trata de imágenes o vídeos generados mediante inteligencia artificial que muestran a una persona en situaciones sexuales sin que estas hayan existido realmente y sin su consentimiento.

El reto de frenar los deepfakes para combatir la violencia digital contra mujeres y niñas

Aunque cualquier persona puede ser víctima de este tipo de contenidos, los casos que afectan a adolescentes han generado una especial alarma social en los últimos años. La creación y difusión de desnudos falsos de menores mediante herramientas de IA ha puesto de manifiesto la necesidad de una respuesta normativa más contundente.

La futura ley refuerza así la protección frente a una forma de violencia digital que puede provocar graves consecuencias emocionales, sociales y reputacionales.

Principales prácticas de IA prohibidas por el Reglamento

Por otro lado el artículo 10 del Anteproyecto de Ley Orgánica para el buen uso y la gobernanza de la IA remite directamente al artículo 5 del Reglamento Europeo de Inteligencia Artificial (AI Act), recogidas también en el siguiente artículo de PantallasAmigas «Reglamento Europeo de Inteligencia Artificial (AI Act): cómo protege a menores en la era de la IA» y prohíbe la introducción en el mercado, la puesta en servicio o el uso de los sistemas de IA considerados de riesgo inaceptable.

Estas son las principales prácticas de IA prohibidas:

1. Manipulación subliminal o engañosa

Sistemas que utilizan técnicas subliminales, manipuladoras o engañosas para alterar significativamente el comportamiento de una persona, provocándole o pudiendo provocarle daños físicos, psicológicos o económicos.

 – Ejemplo: una aplicación que explota vulnerabilidades cognitivas para inducir compras compulsivas sin que la persona sea consciente.

2. Explotación de vulnerabilidades

Sistemas que aprovechan vulnerabilidades relacionadas con la edad, discapacidad o situación socioeconómica de una persona o grupo para influir en su comportamiento de forma perjudicial.

– Ejemplo: una IA diseñada para presionar a menores a realizar compras dentro de videojuegos.

3. Puntuación social (social scoring)

La evaluación o clasificación de personas basada en su comportamiento social o características personales, cuando genere consecuencias injustificadas o desproporcionadas.

– Ejemplo: asignar una puntuación ciudadana que limite el acceso a servicios públicos o privados.

4. Inferencia de emociones en ámbitos sensibles

Sistemas que intentan deducir emociones en lugares de trabajo o centros educativos, salvo excepciones justificadas por motivos médicos o de seguridad.

– Ejemplo: cámaras en un aula que analicen automáticamente si el alumnado está atento, aburrido o desmotivado.

5. Categorización biométrica basada en atributos sensibles

Sistemas que clasifican personas utilizando datos biométricos para deducir características especialmente protegidas. Entre ellas: Origen racial o étnico, opiniones políticas, creencias religiosas o filosóficas, afiliación sindical, orientación sexual…

– Ejemplo: una herramienta que analice rostros para determinar la orientación sexual o la ideología política de una persona.

6. Creación masiva de bases de datos faciales mediante rastreo indiscriminado

La recopilación indiscriminada de imágenes faciales desde internet o cámaras de vigilancia para construir bases de datos de reconocimiento facial.

– Ejemplo: descargar millones de fotografías de redes sociales para entrenar algoritmos de identificación biométrica sin consentimiento.

7. Predicción policial basada únicamente en perfiles personales

Sistemas que evalúan o predicen el riesgo de que una persona cometa delitos basándose exclusivamente en perfiles, rasgos de personalidad o características personales.

– Ejemplo: catalogar automáticamente a un joven como potencial delincuente por su entorno social o historial personal.

8. Identificación biométrica remota en tiempo real en espacios públicos

El uso de sistemas de reconocimiento biométrico en tiempo real por parte de las fuerzas de seguridad en espacios públicos está, con carácter general, prohibido.

Solo puede autorizarse excepcionalmente para finalidades muy concretas, como: localizar víctimas de secuestro o trata, buscar personas desaparecidas, prevenir amenazas terroristas inminentes, identificar sospechosos de delitos especialmente graves. Además, requiere autorización judicial y debe estar limitada en el tiempo, el espacio y las personas buscadas.

Estas prohibiciones buscan impedir usos de la inteligencia artificial incompatibles con los derechos fundamentales y la dignidad de las personas.

¿Qué implicaciones tienen estas prohibiciones para niños, niñas y adolescentes?

Varias de estas prohibiciones tienen una relación directa con la protección de menores. El AI Act impide expresamente que las empresas utilicen sistemas que exploten la inmadurez o vulnerabilidad de la infancia y la adolescencia para manipular decisiones, fomentar comportamientos perjudiciales o influir de forma desleal en su conducta.

También limita tecnologías de vigilancia emocional en centros educativos y protege frente a formas de perfilado biométrico especialmente invasivas. Por ello, el artículo 10 del Anteproyecto constituye uno de los pilares de protección de derechos fundamentales dentro de la futura regulación española de la inteligencia artificial.

Transparencia frente a la desinformación

Otro de los aspectos más relevantes es la obligación de identificar determinados contenidos generados o manipulados mediante inteligencia artificial. La finalidad es que la ciudadanía pueda distinguir con claridad cuándo está interactuando con contenidos sintéticos y cuándo se trata de material auténtico.

La medida adquiere especial importancia en un escenario marcado por la proliferación de vídeos falsos, voces clonadas y campañas de desinformación cada vez más sofisticadas. Saber que una imagen, un audio o un vídeo han sido creados por IA permite contextualizar mejor la información y reducir el riesgo de engaño.

Para la educación mediática y digital de niños, niñas y adolescentes, esta obligación representa además una oportunidad para fomentar el pensamiento crítico y la verificación de contenidos.

Un sistema de gobernanza para supervisar la IA

La ley también define quiénes serán los organismos encargados de supervisar el cumplimiento de la normativa.

La Agencia Española de Supervisión de Inteligencia Artificial (AESIA) asumirá un papel central en el control de numerosos sistemas de IA, especialmente en ámbitos como el empleo, la biometría o la educación. Junto a ella actuarán otros organismos como la Agencia Española de Protección de Datos (AEPD) o el Consejo General del Poder Judicial, según el sector afectado.

Además, se refuerzan los mecanismos de coordinación entre autoridades para garantizar una aplicación coherente de las normas y se establece un punto único de contacto para cuestiones relacionadas con la supervisión de la inteligencia artificial.

Innovación responsable y espacios de pruebas

La regulación no se limita a imponer obligaciones. También incorpora mecanismos para facilitar la innovación segura.

El proyecto reconoce los llamados sandboxes o entornos controlados de pruebas, espacios donde empresas y desarrolladores pueden experimentar con sistemas de IA bajo supervisión antes de su despliegue comercial. España fue pionera en este ámbito y la nueva ley consolida este modelo como herramienta para favorecer la innovación compatible con los derechos fundamentales.

La idea es sencilla: permitir que la tecnología avance, pero garantizando desde el principio que los sistemas cumplen los requisitos legales y éticos exigidos.

Sanciones de hasta 35 millones de euros

Para asegurar el cumplimiento de la normativa, la ley incorpora un régimen sancionador alineado con el Reglamento Europeo de IA.

Las infracciones más graves, como el uso de sistemas prohibidos, podrán ser sancionadas con multas de hasta 35 millones de euros o el 7 % del volumen de negocio global de la empresa responsable. También se contemplan sanciones para incumplimientos relacionados con la transparencia, la seguridad o las obligaciones aplicables a sistemas de alto riesgo.

Estas cuantías reflejan la importancia que la Unión Europea y España conceden a la protección de los derechos fundamentales frente a posibles usos abusivos de la inteligencia artificial.

Descargar PDF: Anteproyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial



Artículos relacionados con IA y menores: