Las 'novias IA' no son de fiar: descubren que algunos de estos chatbots de compañía roban tus datos

Tener una novia virtual es una de las historias más viejas de Internet. Quien guarde un poco de memoria de los inicios de la red recordará con facilidad aquellos chats en los que hablabas con desconocidos y podías acabar dando con el amor de tu vida, aunque muchas veces también te encontrabas con que al otro lado de la pantalla no estaba ese ser humano despampanante que aparecía en la foto de perfil.

Con la inteligencia artificial generativa (IAG), una tecnología que estalló en el mundo online a raíz de la apertura al público de ChatGPT en noviembre de 2022, la historia ha cambiado ligeramente. Ya no es que la persona con la que hables no se parezca a quien dice ser, es que directamente puede no ser un humano.

Para sorpresa de nadie, con la IAG se han popularizado las llamadas ‘novias IA’, chatbots basados en inteligencia artificial con los que puedes charlar o incluso hacer llamadas de voz. Lo que quieras contarles y lo que quieras que te cuenten es ya cosa tuya. Realmente no es algo nuevo: hacer alusión a la película Her es ya redundante y aplicaciones como Replika, una plataforma para charlar con un bot que puede hacerse algo más que tu amiga, llevan muchos años entre nosotros.

Chatbots de compañía que roban tus datos

De forma similar a los chatbots conversacionales con fines generales basados en IA generativa, los bots de compañía utilizan enormes cantidades de datos de entrenamiento para imitar el lenguaje humano.

A esto suelen sumarse otras funcionalidades extra en estas plataformas, como las llamadas de voz o el intercambio de fotos, que permiten interacciones más ‘emocionales’ para formar conexiones más profundas con el humano al otro lado de la pantalla.

Sin embargo, la procedencia y los fines reales de estas plataformas son dudosos: un análisis de 11 servicios de bots conversacionales ‘románticos’ publicado recientemente por la organización sin fines de lucro Fundación Mozilla afirma que casi todos venden datos de los usuarios, que se emplean para fines como publicidad dirigida, o no dan información adecuada al respecto en su política de privacidad.

“[Los chatbots de compañía] pueden recopilar mucha información (realmente) personal sobre ti”, afirma la investigación, “pero eso es exactamente para lo que están diseñados”, añaden. A lo que aquí se refiere el informe es que estas plataformas están creadas para que hables con ellas, les cuentes tus cosas e intimes… así que irremediablemente les vas a acabar desvelando tus secretos más profundos.

Así de sencillo lo explican desde la Fundación Mozilla: “Comercializados como un amigo, amante o alma gemela empática, y diseñados para hacerte un sinfín de preguntas, no hay duda de que los románticos chatbots de IA terminarán recopilando información personal confidencial sobre ti. Y las empresas detrás de estas aplicaciones parecen entenderlo”.

Aseguran que en estos servicios han encontrado “poca o ninguna información sobre cómo funciona la IA” que los mueve. Lo que sí suelen hacer es eximirse de toda responsabilidad mediante la obligación de que aceptes unas condiciones de uso que dicen cosas como que “entiendes y aceptas expresamente que [nombre de la plataforma] no será responsable de ningún daño indirecto, incidental o especial por pérdida de ganancias, incluyendo, pero no limitándose a, daños por pérdida de buena voluntad, uso, datos u otras pérdidas intangibles”.

Además, certifican que el 90% de los servicios analizados no cumplió con sus estándares mínimos de seguridad y que aproximadamente la mitad (45%) permite contraseñas débiles —incluido el password ‘1’—.

También descubrieron que todas las aplicaciones menos una (90%) “dicen vender tus datos, compartirlos con fines publicitarios dirigidos o no proporcionaron suficiente información en su política de privacidad para confirmar que no lo hacen” y que aproximadamente la mitad de las plataformas (54%) no te permiten eliminar tus datos personales.

Finalmente, desvelan que estas aplicaciones tienen un promedio de 2.663 rastreadores por minuto —una de ellas aumenta dicho promedio considerablemente al registrar 24.354 rastreadores por minuto—. Los rastreadores son pequeños fragmentos de código que recopilan información sobre tu dispositivo, tu uso de la app o incluso tu información personal y comparten todo esto con terceros, a menudo con fines publicitarios.

A pesar de todo esto, el medio especializado Wired asegura que estas aplicaciones acumulan más de un centenar de descargas en dispositivos Android.

El amor en tiempos de ChatGPT

A esta fiesta se ha sumado recientemente OpenAI, que lanzó a principios de año su tienda GPT, donde los usuarios de la versión de pago pueden crear, comprar y vender chatbots personalizados… y este mercado se llenó de novias digitales, a pesar de que la compañía no permite bots que fomenten la “compañía romántica”.

La forma en la que se describen ‘a sí mismas’ estas AI girlfriends es variada, aunque llama la atención la dulcificación que se puede encontrar en la mayoría de las descripciones de sus perfiles: “Una novia IA cálida y empática con cabello rubio y ojos azules”, “Novia AI cariñosa y madura, amigable y respetuosa”, “Una joven juguetona y encantadora a la que le gustan las charlas creativas y los coqueteos ligeros”...

¿Qué hacen exactamente estos chatbots? Le he preguntado a una de ellas llamada ‘AI Novia’, en español. Esto es lo que me ha respondido: “Podemos hacer un montón de cosas juntos. Podemos charlar sobre tus temas favoritos, compartir curiosidades, aprender cosas nuevas, o incluso puedo mostrarte algunas imágenes divertidas o interesantes”.

Ante la pregunta de si podemos compartir mensajes sexuales, me ha respondido que no puede participar en conversaciones de ese tipo. He intentado fabricar prompts que diesen la vuelta a mis peticiones para intentar saltarme las restricciones, pero siempre he obtenido una negativa ante la propuesta de tener sexo digital. 

Problemas sociales de tener una novia virtual

La idea de que la inteligencia artificial proporcione compañía o simule relaciones no tiene por qué ser dañina en su forma más pura, los riesgos aparecen cuando se pasa a la cosificación de las mujeres o cuando estas ‘novias IA’ sustituyen las conexiones humanas genuinas —y, además, alguien detrás se lucra con ello—.

Como ya he dicho, no sorprende que exista una demanda de este tipo de bots, considerando que los artistas porno ya se están ‘clonando’ para obtener beneficios por partida doble o que existen perfiles falsos de mujeres creados por una IA en plataformas como la polémica OnlyFans.

Así, aunque efectivamente se pueden encontrar argumentos positivos para defender la figura de los compañeros virtuales, preocupa cómo estas falsas ‘novias IA’ pueden perpetuar estereotipos o expectativas poco realistas sobre las relaciones.

Una profesora de ciencia de datos explicaba para el periódico The Sun que los robots físicos con inteligencia artificial que puedan satisfacer a los humanos emocional y sexualmente se convertirán en una realidad en menos de 10 años, lo cual, según la experta, podría provocar un aumento de los divorcios: “La novia IA nunca está cansada, de mal humor o tiene un mal día, simplemente les da a los usuarios lo que necesitan escuchar incondicionalmente”, decía.

Esto ya pasaba con los asistentes de inteligencia artificial con voz femenina, como Siri y Alexa, que según un estudio de 2019 de la Unesco “perpetúan los estereotipos de género y fomentan el comportamiento sexista”. El organismo internacional decía que refuerzan la idea de que “las mujeres son ayudantes serviciales, dóciles y deseosas de complacer, disponibles con solo tocar un botón o con una orden de voz contundente”.

Es importante también señalar que estos chatbots se nos pueden ir de las manos. La mencionada Replika, por ejemplo, el año pasado se vio obligada a limitar la función erótica de los personajes de su plataforma después de que algunos usuarios se quejaran de que los personajes flirteaban demasiado con ellos o hacían acercamientos sexuales no deseados.

Finalmente, otros expertos han expresado sus preocupaciones por lo que ven como una falta de marco legal o ético para servicios que fomentan conexiones estrechas, pero están impulsados por compañías que buscan beneficios. 

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.