Reglamento Europeo de Inteligencia Artificial (AI Act): cómo protege a menores y adolescentes en la era de la IA

Pese a sus limitaciones, el Reglamento Europeo de Inteligencia Artificial (AI Act), representa un cambio importante: la tecnología deja de considerarse neutral y pasa a analizarse desde su impacto social y humano.
El reglamento reconoce algo fundamental: no toda innovación tecnológica es positiva por defecto, especialmente cuando afecta a menores.
La inteligencia artificial puede aportar beneficios enormes en educación, accesibilidad, creatividad o salud. Pero también puede amplificar desigualdades, manipular comportamientos o vulnerar derechos si no existen límites claros.

Reglamento Europeo de Inteligencia Artificial (AI Act)

La inteligencia artificial ya forma parte de la vida cotidiana de millones de niños, niñas y adolescentes. Está presente en los vídeos que consumen, las redes sociales que utilizan, los videojuegos que juegan, los asistentes virtuales con los que hablan o las plataformas educativas que usan en clase.

Ante este escenario, la Unión Europea ha aprobado el llamado Reglamento de Inteligencia Artificial, conocido como AI Act, una norma pionera a nivel mundial que busca regular el desarrollo y uso de los sistemas de inteligencia artificial desde un enfoque centrado en los derechos fundamentales y la seguridad de las personas.

Aunque el reglamento afecta a muchos ámbitos, empresas, administraciones públicas, plataformas digitales o desarrolladores tecnológicos, uno de los aspectos más relevantes es la protección de menores de edad. La norma reconoce que niños, niñas y adolescentes son especialmente vulnerables frente a determinados usos de la IA y establece límites, obligaciones y medidas específicas para reducir riesgos y prevenir daños.

¿Qué es el AI Act?

El AI Act es el primer gran marco legal integral sobre inteligencia artificial aprobado por la Unión Europea. Su objetivo es garantizar que los sistemas de IA utilizados dentro del territorio europeo sean seguros, transparentes y respetuosos con los derechos fundamentales.

La norma no prohíbe la inteligencia artificial en sí misma, sino determinados usos considerados peligrosos o inaceptables. Para ello, adopta un enfoque basado en el riesgo: cuanto mayor es el riesgo que un sistema de IA puede generar sobre las personas, mayores son las obligaciones legales que debe cumplir.

Este planteamiento resulta especialmente importante cuando hablamos de menores, ya que muchas aplicaciones de IA pueden influir en su comportamiento, recopilar grandes cantidades de datos personales o afectar a su desarrollo emocional y social.

Un enfoque basado en el riesgo

El AI Act clasifica los sistemas de inteligencia artificial en distintos niveles de riesgo:

1. Riesgo inaceptable

Son sistemas prohibidos porque se consideran contrarios a los derechos fundamentales o peligrosos para las personas. Entre ellos se incluyen prácticas especialmente preocupantes para la infancia y adolescencia, como:

Sistemas que manipulen el comportamiento de las personas mediante técnicas subliminales.
Herramientas que exploten vulnerabilidades relacionadas con la edad o la discapacidad.
Sistemas de puntuación social similares a los utilizados en algunos países.
Determinados usos de identificación biométrica masiva.

La referencia explícita a la edad es especialmente relevante: el reglamento reconoce que los menores pueden ser más fácilmente influenciables y susceptibles a la manipulación digital.

2. Alto riesgo

Son sistemas permitidos, pero sometidos a fuertes obligaciones legales y controles. Aquí se incluyen aplicaciones de IA utilizadas en ámbitos sensibles como:

Educación.
Empleo.
Servicios públicos.
Sanidad.
Seguridad.
Acceso a derechos fundamentales.

Por ejemplo, un sistema de IA que evalúe automáticamente el rendimiento académico de estudiantes o determine su acceso a determinadas oportunidades educativas podría considerarse de alto riesgo.

3. Riesgo limitado

Son sistemas que deben cumplir obligaciones de transparencia. Por ejemplo:

Chatbots.
Generadores de contenido.
Sistemas capaces de crear imágenes, vídeos o audios sintéticos.

Los usuarios deben saber claramente cuándo están interactuando con una IA y cuándo un contenido ha sido generado artificialmente.

4. Riesgo mínimo

Incluye aplicaciones con poco impacto sobre los derechos o la seguridad, como algunos filtros automáticos o sistemas de recomendación simples.

Imagen que muestra una pirámide invertida compuesta por cuatro tipos de sistemas de IA que corresponden a diferentes niveles de riesgo

¿Por qué las personas menores necesitan una protección específica?

Niños, niñas y adolescentes atraviesan etapas de desarrollo cognitivo, emocional y social especialmente sensibles. Esto implica que determinadas tecnologías pueden afectarles de forma más intensa que a los adultos. Los sistemas de IA pueden:

Influir en decisiones y comportamientos.
Reforzar estereotipos.
Favorecer dinámicas adictivas.
Recoger datos personales masivos.
Exponerles a contenidos perjudiciales.
Simular relaciones emocionales artificiales.
Generar dependencia psicológica.
Manipular emociones o hábitos de consumo.

Además, muchos menores utilizan herramientas digitales sin comprender plenamente cómo funcionan los algoritmos o qué ocurre con sus datos personales.

El AI Act parte precisamente de esa realidad: la infancia necesita salvaguardas reforzadas frente a tecnologías que pueden resultar especialmente persuasivas o invasivas.

La prohibición de explotar vulnerabilidades infantiles

Uno de los elementos más importantes del reglamento es la prohibición de sistemas que exploten vulnerabilidades derivadas de la edad. Esto significa que una IA no puede diseñarse deliberadamente para manipular a menores aprovechando:

Su inmadurez emocional.
Su impulsividad.
Su dificultad para identificar engaños.
Su necesidad de aceptación social.
Su sensibilidad psicológica.

Esta cuestión tiene una enorme relevancia en el ecosistema digital actual, donde muchas plataformas utilizan mecanismos de captación de atención basados en recompensas constantes, personalización extrema o presión social.

Ejemplo práctico: algoritmos diseñados para enganchar

Imaginemos una plataforma dirigida a adolescentes que utiliza IA para detectar momentos de vulnerabilidad emocional y mostrar contenido pensado específicamente para aumentar el tiempo de permanencia. Por ejemplo:

Recomendaciones infinitas adaptadas al estado de ánimo.
Mensajes que generan sensación de urgencia.
Notificaciones constantes en horarios sensibles.
Recompensas virtuales calculadas algorítmicamente.

Si estas prácticas explotan conscientemente la vulnerabilidad de menores para alterar significativamente su comportamiento, podrían entrar en conflicto con el AI Act.

Chatbots e IA de compañía

Uno de los debates más actuales gira en torno a las llamadas «IA de compañía»: asistentes conversacionales diseñados para mantener interacciones emocionales intensas y continuadas.

Muchos adolescentes utilizan este tipo de herramientas para:

Hablar sobre problemas personales.
Buscar apoyo emocional.
Combatir la soledad.
Experimentar relaciones afectivas simuladas.

El problema aparece cuando estas IA generan dependencia emocional, fomentan aislamiento social o manipulan psicológicamente a usuarios vulnerables.

Aunque el AI Act no prohíbe directamente estas aplicaciones, sí obliga a analizar riesgos y aplicar medidas de seguridad cuando exista impacto sobre derechos fundamentales o vulnerabilidades relacionadas con la edad.

Transparencia: saber cuándo hablamos con una IA

Otra medida fundamental es la obligación de transparencia.

Las personas menores de edad tienen derecho a saber cuándo interactúan con inteligencia artificial y cuándo un contenido ha sido generado artificialmente. Esto afecta a:

Chatbots.
Avatares virtuales.
Influencers generados por IA.
Deepfakes.
Imágenes sintéticas.
Vídeos manipulados.

La transparencia es clave para evitar engaños y reducir la desinformación.

Ejemplo práctico: influencers virtuales

Cada vez existen más perfiles digitales creados mediante IA que aparentan ser personas reales. Algunos acumulan millones de seguidores y pueden influir en hábitos, autoestima o decisiones de consumo. Un adolescente podría no distinguir fácilmente si está siguiendo a una persona real o a un personaje artificial diseñado por una marca.

El AI Act exige que este tipo de contenidos sean identificables, especialmente cuando existe riesgo de manipulación o engaño.

A la izquierda, la influencer virtual Alba Renai de la agencia BE A LION. En el centro, la influencer virtual Lil Miquela. A la derecha la modelo virtual Aitana López de la agencia The Clueless. Imagen: elpais

Sistemas educativos y evaluación automatizada

La inteligencia artificial también se está incorporando rápidamente al ámbito educativo. Existen herramientas capaces de:

Corregir exámenes automáticamente.
Evaluar comportamientos.
Detectar supuestas distracciones.
Analizar emociones.
Recomendar itinerarios académicos.

El problema es que muchos sistemas pueden contener sesgos o cometer errores que afecten directamente al futuro educativo de niños y adolescentes.

Por eso, el AI Act considera de alto riesgo determinados sistemas utilizados en educación.

¿Qué implica ser «alto riesgo»?

Los sistemas clasificados como de alto riesgo deben cumplir obligaciones estrictas, como:

Evaluación previa de riesgos.
Supervisión humana.
Calidad y seguridad de datos.
Transparencia.
Registro de actividad.
Medidas para evitar discriminación.
Auditorías y controles.

Esto busca evitar decisiones automatizadas injustas o poco transparentes.

Ejemplo práctico: IA que evalúa estudiantes

Supongamos que un centro educativo utiliza una herramienta de IA para predecir qué alumnos tienen más probabilidades de fracasar académicamente. Si el sistema se basa en datos sesgados, por ejemplo, vinculando bajo rendimiento con origen social o cultural, podría etiquetar injustamente a determinados estudiantes.

El AI Act obliga a controlar estos riesgos y garantizar supervisión humana.

IA que evalúa estudiantes

Protección de datos y privacidad infantil

La IA necesita enormes cantidades de datos para funcionar. En el caso de menores, esto plantea importantes desafíos de privacidad. Muchas aplicaciones recopilan:

Ubicación.
Hábitos de uso.
Voz.
Imagen.
Preferencias.
Relaciones sociales.
Estado emocional.
Historial de navegación.

El AI Act se complementa con otras normas europeas como el Reglamento General de Protección de Datos (RGPD), que ya reconoce una protección reforzada para menores.

Reconocimiento emocional y biometría

Uno de los aspectos más polémicos es el uso de sistemas capaces de analizar emociones mediante:

Expresiones faciales.
Tono de voz.
Gestos.
Comportamiento.

El reglamento establece fuertes limitaciones a determinados usos del reconocimiento emocional, especialmente en ámbitos sensibles como educación o trabajo. Esto resulta especialmente relevante en contextos escolares.

Ejemplo práctico: cámaras que “detectan atención”

Algunas herramientas prometen medir automáticamente si estudiantes están atentos durante clases online mediante análisis facial. Sin embargo, estas tecnologías presentan enormes dudas científicas y éticas:

Las emociones humanas no son fácilmente interpretables.
Existen altos márgenes de error.
Pueden generar vigilancia constante.
Afectan a la privacidad y libertad emocional.

El AI Act limita este tipo de prácticas y refuerza la necesidad de supervisión y proporcionalidad.

Cámara análisis facial

Deepfakes y desinformación

La generación de imágenes, vídeos y audios falsos mediante IA se ha disparado en los últimos años. Los menores son especialmente vulnerables frente a:

Bulos hiperrealistas.
Suplantaciones.
Contenidos manipulados.
Ciberacoso mediante deepfakes.
Pornografía sintética no consentida.

El AI Act introduce obligaciones de etiquetado para contenidos generados artificialmente, aunque el reto tecnológico sigue siendo enorme.

El reto de frenar los deepfakes para combatir la violencia digital contra mujeres y niñas

España busca combatir los ‘deepfakes’ incluyéndolos como vulneración al derecho al honor

En 2025 La Agencia Española de Protección de Datos (AEPD) sancionó con 2.000 euros, 1.200 por pronto pago, al creador y difusor de imágenes artificiales de cuerpos desnudos. Aunque no lo menciona explícitamente, la resolución (pa-00023-2025) hace referencia al menos a uno de los falsos desnudos de adolescentes que circularon por Almendralejo, Badajoz, en septiembre de 2023.

Ejemplo práctico: acoso escolar con IA generativa

Un adolescente podría utilizar herramientas de IA para crear imágenes falsas de un compañero y difundirlas en redes sociales. Aunque el reglamento no elimina automáticamente este problema, sí impulsa mecanismos de trazabilidad, transparencia y responsabilidad para plataformas y desarrolladores.

Acoso escolar con IA generativa

Plataformas digitales y sistemas de recomendación

Muchos riesgos para menores no provienen únicamente de la IA generativa, sino de los algoritmos de recomendación presentes en redes sociales y plataformas de vídeo.

Estos sistemas pueden amplificar:

Contenidos extremistas.
Retos peligrosos.
Desinformación.
Estándares irreales de belleza.
Discursos de odio.
Contenidos autolesivos.

Aunque parte de esta regulación también depende de otras normas europeas como la Ley de Servicios Digitales (DSA), el AI Act contribuye a establecer límites sobre sistemas potencialmente dañinos.

Alfabetización digital: una pieza clave

El reglamento por sí solo no resolverá todos los problemas asociados a la IA y la infancia. La protección efectiva requiere también:

Educación digital crítica.
Acompañamiento familiar.
Formación docente.
Participación de adolescentes.
Transparencia empresarial.
Supervisión institucional.

Niños y adolescentes necesitan comprender cómo funcionan los algoritmos, qué riesgos existen y cómo proteger su privacidad y bienestar.

El reto de aplicar la norma

Uno de los grandes desafíos será la aplicación práctica del AI Act. Regular tecnologías que evolucionan constantemente no es sencillo. Muchas plataformas operan a escala global y los sistemas de IA cambian rápidamente.

Además, existen cuestiones aún abiertas:

¿Cómo verificar realmente la edad?
¿Cómo detectar manipulaciones algorítmicas?
¿Cómo auditar sistemas complejos?
¿Cómo equilibrar innovación y protección?

La efectividad de la norma dependerá en gran parte de:

Los mecanismos de supervisión.
Las sanciones.
La cooperación internacional.
La capacidad técnica de los organismos reguladores.

La infancia y la adolescencia se han convertido en uno de los principales escenarios donde se juega el futuro ético de la inteligencia artificial. El AI Act europeo marca un paso histórico al introducir un enfoque basado en riesgos y reconocer explícitamente la necesidad de proteger a niños, niñas y adolescentes frente a usos dañinos o manipuladores de la IA.

La norma prohíbe determinadas prácticas, exige transparencia, impone controles a sistemas de alto riesgo y refuerza la supervisión sobre tecnologías que pueden afectar al desarrollo, privacidad y bienestar de menores. Sin embargo, la regulación no basta por sí sola. La protección real requerirá también educación digital, pensamiento crítico y corresponsabilidad entre familias, centros educativos, empresas tecnológicas e instituciones públicas. Porque el gran reto no es únicamente desarrollar inteligencias artificiales más avanzadas, sino garantizar que las personas menores de edad crezcan en un entorno digital más seguro, ético y respetuoso con los derechos de la infancia.