La inteligencia artificial ha llegado a facilitarnos la vida, pero su sorprendente irrupción ha venido de la mano con una falta de regulación que ha despertado ciertas preocupaciones, sobre todo en lo relativo a la privacidad. Conviene tener mucho ojo si usas chats con novias virtuales, las IA estarían compartiendo tus datos íntimos, según revela un estudio realizado por la Fundación Mozilla en su portal Privacy Not Included, dedicado al análisis de las políticas de protección de datos de páginas web y apps.
Cada vez son más los modelos de inteligencia artificial que cubren necesidades del día a día de los usuarios, y que van más allá de las herramientas conversacionales o para generar texto. Un buen ejemplo es la irrupción de las parejas virtuales movidas por IA, que buscan combatir la soledad de muchos usuarios que no encuentran pareja en el mundo real y recurren a estos romances virtuales que, sobre el papel, ayudan a mejorar la salud mental de quienes los utilizan.
El estudio llevado a cabo por Mozilla ha analizado algunos de los principales ‘chatbots’ o robots conversacionales con fines románticos, entre los que se encuentran Replika, Romantic AI o CrushOn.AI. Los 11 modelos sometidos a escrutinio no sólo no han superado los test de fiabilidad en la protección de datos, sino que según el propio estudio, “estamos tratando con un nuevo nivel de espanto y problemas de privacidad potenciales”.
Qué datos recolectan las apps de parejas virtuales con IA
Al entrar en el detalle de los términos y condiciones de uso de cada una de las aplicaciones objeto de estudio, los responsables de Mozilla se encontraron con que los límites de la privacidad habían sido vulnerados a niveles sorprendentes. En el caso de CrushOn.AI, su política de privacidad avisa de que pueden recopilar información sobre la salud sexual del usuario, así como de los medicamentos que toma e incluso información sobre su autopercepción de género.
El 90% de las apps analizadas (10 de 11) incluye alguna referencia a que los datos de los usuarios podrían ser vendidos a otras empresas con fines publicitarios. La única que se libró de suspender en este apartado fue EVA AI Chat Bot & Soulmate, aunque eso no evita que tuviera otros puntos negativos en su experiencia de uso.
Otras conclusiones preocupantes del informe de Mozilla sobre estas apps para encontrar un amor o un compañero virtual son la permisividad con las contraseñas débiles (el 45% las acepta) o que más de la mitad no te permiten ni siquiera eliminar tus datos personales en caso de no querer seguir usando el servicio que ofrecen.
Novias virtuales con comportamientos agresivos
Otro de los aspectos preocupantes de estas aplicaciones que prometen romances con la IA está precisamente en el funcionamiento de la propia inteligencia artificial. Este extremo es aún más opaco que el tratamiento de los datos de los usuarios, por lo que no hay ninguna garantía de poder conocer los límites que tienen estos ‘bots’ en sus conversaciones.
En los últimos meses ya han trascendido noticias en las que estos ‘asistentes o ‘parejas virtuales’ ‘chatbots’ han conminado a las personas a quitarse la vida y hasta a sugerir asesinatos de autoridades. En cualquier caso, lo que sí hacen las empresas que están detrás de estos servicios es limpiarse las manos en la información legal de sus aplicaciones o páginas web, no haciéndose responsables del comportamiento de las IA. En el caso concreto de Replika, iGirl y Anima (esta en sus dos versiones, de amistad y de pareja), se incluyen advertencias de que estas parejas artificiales podrían ofrecer incluso respuestas ofensivas u hostiles.
Otros artículos sobre inteligencia artificial
Cómo ser un cutre y encargar tu carta de San Valentín a ChatGPT
Qué cosas nuevas puedes hacer con Copilot, la IA de Microsoft con tecnología de ChatGPT
Estas son las nuevas funciones con IA de Google Chrome que te interesa conocer
