Francisco Pérez Bes, (AEPD). "Protección de datos, IA y juventud: claves para un entorno online seguro", V Jornadas Salud Digital

Francisco Pérez Bes, Adjunto a la Presidencia de la Agencia Española de Protección de Datos (AEPD), participó en la primera mesa de las V Jornadas Salud Digital, titulada “Integración de la IA en las plataformas sociales”, celebrada el pasado 24 de junio de 2025, organizada por Fundación MAPFRE y PantallasAmigas.

Francisco Pérez Bes, V Jornadas Salud Digital

Introducción: IA y protección de la infancia en el entorno digital

Durante su intervención destacó la importancia de proteger a la infancia y la juventud frente a los riesgos derivados del uso de las nuevas tecnologías. “La protección de la infancia y las nuevas tecnologías es uno de los mayores retos y desafíos que tenemos ahora por delante”, afirmó, reconociendo además “el trabajo encomiable y muy necesario” de entidades como la Fundación MAPFRE.

Tecnología, datos y modelos de negocio: la controversia actual

Pérez Bes subrayó que la tecnología “no es buena ni mala, sino que depende del uso que le demos”. Sin embargo, trasladó la responsabilidad a quienes la desarrollan y la gestionan, ya que “la mayoría de los usuarios no pueden identificar y mucho menos gestionar los riesgos” que conlleva. Señaló que la principal controversia se centra en “los modelos de negocio tras las tecnologías” que explotan de forma intensiva los datos personales: “La información no es una simple mercancía, no es solo un activo empresarial valioso. Detrás de ellos hay personas, hay derechos. Los datos conforman nuestra identidad”.

Regulación y límites éticos: equilibrio entre innovación y derechos

El Adjunto a la Presidencia de la AEPD insistió en que regular la tecnología no significa restringir la innovación, sino establecer límites éticos y legales. “La regulación no tiene como objetivo restringir las capacidades de investigación o innovación de las empresas privadas”, dijo, sino “poner límites éticos y legales a determinadas prácticas que se consideran prohibidas, indeseables o simplemente inaceptables para la sociedad del momento”. En este sentido, citó el Reglamento Europeo de Inteligencia Artificial, que prohíbe prácticas como “el uso de esta tecnología para manipular la voluntad de las personas”.

Riesgos para menores: adicciones, contenidos nocivos y manipulación

Uno de los focos de su intervención fue la exposición de los menores a los riesgos en redes sociales y plataformas digitales. Recordó que en España “las y los menores reciben de media su primer dispositivo móvil con conexión a internet antes de los 12 años” y pasan “de media 4 horas al día” frente a pantallas, lo que supone “una cuarta parte de su día”. Entre los riesgos más habituales mencionó la “exposición a contenidos nocivos por ausencia de verificación de edad, grooming, extorsión, adicciones, presión estética, desinformación o manipulación emocional”.

En relación con la inteligencia artificial, advirtió de los peligros de los “deepfakes” (imágenes, videos o audios que son editados o generados utilizando herramientas de inteligencia artificial, y que pueden mostrar personas reales o inexistentes) y de herramientas como chatbots (aplicaciones que simulan mantener una conversación con una persona al proveer respuestas automáticas, las cuales son previamente establecidas) prohibidos en algunos países por su impacto potencial en menores. “Por eso se insiste tanto en la necesidad de protección de los menores en internet, de sus derechos en la carta de derechos digitales y del interés superior del menor en toda la normativa actual”, recalcó.

Francisco Pérez Bes, V Jornadas Salud Digital

Responsabilidad compartida: padres, escuelas y plataformas

Para Pérez Bes, la protección de los menores en internet exige un esfuerzo conjunto. “No estamos ante una cuestión familiar o empresarial, sino ante una cuestión de interés público”, señaló. En esta línea, propuso que “a los padres les corresponde un deber de acompañamiento más que de vigilancia, a las escuelas un deber de alfabetización digital más que de educación y a las plataformas y otros prestadores de servicios intermediarios una ética desde el diseño” con “una protección por defecto que garantice una práctica honesta y responsable”.

Mar España hace balance de casi una década al frente de la AEPD e insta a adoptar políticas de privacidad desde el diseño para proteger a la infancia y adolescencia

Privacidad como ventaja competitiva y confianza digital

En el ámbito empresarial, defendió la privacidad no como un obstáculo, sino como un motor de confianza. “El respeto a los derechos de los usuarios es una garantía de la confianza digital, sin la cual los servicios online no pueden sobrevivir”, afirmó. Añadió que esta confianza es “un elemento empresarial diferenciador, competitivo, de gran valor, que ayuda a obtener inversión y a fidelizar a los clientes”. Según explicó, la privacidad debe integrarse en todo el ciclo de vida de los datos como “riesgo corporativo” y ser entendida como “una auténtica ventaja competitiva”.

Hacia una inteligencia artificial responsable

El representante de la AEPD recordó que el Reglamento General de Protección de Datos y el Reglamento de Inteligencia Artificial “van a convivir de la mano” para “proteger los derechos fundamentales y la libre circulación de los datos” y, al mismo tiempo, “mejorar el funcionamiento del mercado interior y promover la adopción de una inteligencia artificial responsable”. En este sentido, citó la necesidad de aplicar “el principio de privacidad desde el diseño, el principio de responsabilidad proactiva y la minimización en el uso de los datos”.

Además, puso en valor la figura del “chief artificial intelligence officer”, creada de forma obligatoria en Estados Unidos, como un modelo que podría extenderse a las empresas españolas para reforzar la gobernanza de la IA junto a roles como el delegado de protección de datos o el CISO (Chief Information Security Officer, es el responsable de la estrategia y protección de la información en general).

Conclusión: educación, compromiso y confianza

Para finalizar, Pérez Bes lanzó un mensaje optimista y de corresponsabilidad. “No se trata de desconectarlos del mundo digital, sino de conectarlos con el mundo real. En el fondo, la mejor ciberseguridad comienza con una conversación, no con una contraseña”, subrayó. Y concluyó con una llamada a la acción: “Cuando educamos a un niño para que sea un internauta responsable, estamos sembrando libertad”.

Con estas palabras, el Adjunto a la Presidencia de la AEPD dejó claro que la integración de la inteligencia artificial en las plataformas sociales no es solo un reto tecnológico, sino sobre todo un desafío social y ético que requiere compromiso, regulación equilibrada y educación para una infancia y juventud verdaderamente saludables.