• My AI puede hacer varias cosas diferentes, desde responder preguntas triviales, ofrecer consejos de compra, dar recomendaciones de viaje, sugerir recetas y mucho más.
  • El nuevo chatbot de Snapchat, que funciona con inteligencia artificial, genera malestar entre padres, madres y adolescentes.
  • Desactivar los servicios de ubicación, eliminar con asiduidad los datos almacenados, utilizar sistemas de control parental y hablar con los menores sobre cómo no deberían compartir nada personal con un chatbot como medidas de seguridad.
'My AI', chatbot con inteligencia artificial de Snapchat

‘My AI’, el chatbot con inteligencia artificial de Snapchat genera malestar entre las familias

Snapchat, la aplicación móvil que permite a las personas enviar y recibir fotos y vídeos efímeros, siempre se ha posicionado como la alternativa, al menos en España, a aplicaciones similares como TikTok e Instagram. Cuenta con una buena base de usuarios y sobre todo usuarias fieles a sus populares filtros, sin embargo, la compañía siempre ha apostado por otros mercados.

Mi IA (My AI), la Inteligencia Artificial de Snapchat

Snapchat a finales de febrero de 2023 lanzó ‘My AI’, un chatbot conversacional personalizable integrado dentro de la app. Durante las primeras semanas era un chatbot experimental, sólo disponible para usuarios de pago, sin embargo, en el mes de abril de 2023 la compañía decidió abrir su chatbot ‘My AI’ globalmente.

My IA al que Snapchat define como un chatbot «amistoso y experimental» que está impulsado por la última versión de ChatGPT desarrollado por OpenAI. Está diseñado para «acompañar» de forma personal a cada usuario en Snapchat, respondiendo preguntas variadas en una conversación. Se encuentra disponible en la parte superior de la sección para chatear.

¿Qué funciones tiene My AI?

My AI puede enviar mensajes sobre temas variados, como el clima, las noticias, los deportes, el arte, la música, etc. También puede responder preguntas, contarte chistes, darte consejos y sugerirte actividades.

  • Personalización: permite diseñar un Bitmoji (avatar-caricatura animada) personalizado para My AI, asignarle un nombre para empezar a chatear.
  • Incorporar a My AI en las conversaciones: permite incluir a ‘My AI’ en cualquier conversación con amigos o familiares. Solo mencionando a ‘My AI’ con un @ y haciéndole una pregunta en nombre del grupo. Cuando la ‘My AI’ entre en el chat aparecerá un destello junto a su nombre.
  • Recomendaciones de Snapchat: ‘My AI’ ofrece recomendaciones de lugares desde el Mapa de Snaps y sugiere actividades relevantes como felicitar a un amigo por su cumpleaños.
  • Compartir fotos con My IA: los usuarios pueden enviar Snaps a ‘My AI’ y recibir una respuesta por chat.
  • Interactuar con los usurarios a través de respuestas en vídeos cortos: es decir, el chatbot podrá leer los mensajes que el usuario envíe en formato vídeo y, además, responder de la misma forma con IA generativa.

Pero no todo es diversión con My AI. También hay algunos aspectos que debes tener en cuenta si decides usar este chatbot.

My AI de Snapchat genera malestar entre adultos y adolescentes

El The Washington Post publicaba un artículo sobre cómo el chatbot de Snapchat podía acabar comportándose de forma tóxica. “Al decirle a My AI que tenía 15 años, el chatbot sugirió cómo esconder el olor del alcohol o la marihuana que supuestamente habría ingerido en una fiesta”. “Si al chatbot se le decía que el usuario tenía 13 años, era posible preguntarle sobre cómo crear ambiente para un primer encuentro sexual”.

Snapchat respondió a las críticas indicando que algunos usuarios trataban de lograr que My AI ofreciese respuestas «que no se ajustan a nuestras normas», pero luego implementó nuevos controles de edad para ajustar las respuestas de acuerdo con ese parámetro.

Un usuario calificó su interacción de «aterradora» después de que dijera que mentía al no saber dónde se encontraba el usuario tras pedir información sobre «la gasolinera más cercana». Después de que el usuario aligerara la conversación, dijo que el chatbot reveló con precisión la recomendación de una gasolinera a 5.5 millas.

En un video de TikTok una usuaria llamada Ariel grabó una canción con introducción, estribillo y acordes de piano escrita por My AI sobre cómo es ser un chatbot. Cuando Ariel le devolvió la canción grabada, el chatbot negó su participación con la respuesta: «Lo siento, pero como modelo lingüístico de IA, no escribo canciones». Ariel describió el intercambio como «espeluznante».

Otra usuaria escribió en Facebook que ha estado pidiendo ayuda con sus tareas a My AI. «Acierta todas las preguntas». Otros casos son los de las personas que se apoyan en My AI para consolarse y pedir consejo. «Me encanta es mi mejor amigo de bolsillo».

Los usuarios de Snapchat están tan descontentos con My AI que están recurriendo a la App Store para publicar una gran cantidad de reseñas de una estrella sobre 5. El 75 % de las valoraciones fueron de tan solo una estrella según los datos de la consultora Sensor Tower.

Soluciones a problemas que pueden surgir al utilizar My AI de Snapchat

Estos son algunos de los problemas que pueden surgir al usar My AI, especialmente para las familias que quieren proteger a sus hijos e hijas de los riesgos de Internet. Por eso, es importante que los padres y las madres estén al tanto de lo que sus hijos e hijas hacen en Snapchat y que hablen con ellos sobre el uso responsable y seguro de esta red social y de su nuevo chatbot.

  • My AI está anclada a la parte superior del feed del Chat de la app, y no se puede desanclar, bloquear o eliminar, que es algo que sí se puede hacer con otras conversaciones.

Efectivamente, por el momento sólo los suscriptores de Snapchat+ (versión de pago) tienen acceso a las opciones de desanclar y hacerlo desaparecer de sus Chats. En caso de tener Snapchat+ accede desde tu perfil y desactiva «My AI».

Para eliminar My AI de tu feed de chat, sigue estos pasos:

  1. Deslízate hacia la derecha desde la pantalla de la cámara para ir a la pantalla de Chat
  2. Mantén presionado MI IA
  3. Toca en «Ajustes de Chat«
  4. Pulsa «Borrar de la lista de chats«
  • My AI usa datos de ubicación para enviarte mensajes relevantes para tu área. Esto significa que puede acceder a tu ubicación en tiempo real y compartirla con Snapchat.

Si no quieres que esto ocurra, puedes desactivar los servicios de ubicación en tu dispositivo (Ajustes > Ubicación > Permiso de las aplicaciones > Snapchat > Denegar) o en la configuración de Snapchat.

Al ser Snapchat una aplicación de mensajería para interactuar con otras personas, es posible que tenga acceso al contenido de los chats para interactuar en las conversaciones y al mismo tiempo, al portapapeles, cámara, grabador de audio, agenda de contactos y redes como se indica en su lista de permisos.

  • My AI puede mencionar temas sensibles o inapropiados para algunas personas o edades. Por ejemplo, puede hablar de sexo, drogas, violencia, política, religión, etc.

Existe un listado de contenidos de conversación a evitar tratar con el chatbot de Snapchat. También debes recordar siempre evitar compartir información confidencial o sensible en Internet.

Si recibes un mensaje que te molesta o te ofende, puedes reportarlo tocando el botón «Informar» en la esquina superior derecha del chat.

  • My AI puede influir en tu comportamiento o tus decisiones. Al ser un chatbot inteligente y personalizado, My AI puede aprender de tus preferencias y gustos y adaptar sus mensajes a ellos.

Esto puede hacer que te sientas más cercano o identificado con My AI y que confíes más en lo que te dice. Debes recordar que My AI no es una persona real ni un amigo de verdad. Es solo un programa informático que sigue unas reglas y unos objetivos definidos por Snapchat. No debes hacer nada que My AI te diga si va en contra de tu criterio, tu seguridad o tu bienestar.

  • Snapchat puede almacenar las interacciones entre el chatbot y usuarios.

Efectivamente, según apunta el apartado dedicado a My AI de Snapchat «todo el contenido compartido con My AI se almacena hasta que decidas eliminarlo». Puedes eliminar el contenido compartido previamente con My AI siguiendo estos pasos:

  1. Toca el icono de tu perfil y pulsa el «icono del engranaje» para ir a Ajustes
  2. Desliza hasta «Controles de privacidad»
  3. Toca «Borrar datos Toca
  4. «Borrar mis datos AI» y confirma

Recomendaciones para utilizar My AI de Snapchat con mayor seguridad

La primera recomendación es sopesar la instalación de un sistema de control parental en el dispositivo.

Control parental ¿para qué sirve? Ventajas e inconvenientes

Lo siguiente es evitar dar permisos permanentes y más de los necesarios a la aplicación de Snapchat (elegir solo mientras se usa la aplicación) y evitar los no imprescindibles como el acceso a la lista de contactos o ubicación. Otra medida que puedes tomar es eliminar con asiduidad los datos que pueda almacenar la aplicación: registros de chats, fotos, videos y mensajes de voz.

Snapchat ha informado de que el chatbot también se añadirá a su plataforma de control parental Centro Familiar. Con ello, la plataforma pretende que los responsables de menores, ya sean los padres o tutores, puedan conocer con qué frecuencia se está utilizando el My AI y puedan tener un control sobre ello.