El amor y la IA: la difusa frontera entre compañía y simulación

La posibilidad de construir una pareja ideal que esté disponible las 24 horas del día y se adapte a cada usuario parecería propia de un capítulo de la reconocida serie Black Mirror. Sin embargo, las experiencias reales de acompañamiento emocional a través de las denominadas Companion AI ya forman parte de una tendencia que crece en el mundo.

En Primera Generación Stream, la Mag. en Periodismo Agustina Lassi, investigadora y especialista en nuevas tecnologías de la información y la comunicación, reflexionó sobre los riesgos, los dilemas y las oportunidades de la emergente forma de relacionarse con la inteligencia artificial.

Según Lassi, los usuarios de estas IA de compañía pueden definir características físicas, personalidad, profesión, formas de hablar e incluso establecer rutinas de interacción cotidiana. "Es una tendencia que va en alza desde 2023 y las estadísticas dicen que, por lo menos en Estados Unidos, tres de cada diez personas tienen un vínculo estable con una IA", señaló la especialista.

Durante el intercambio, resultó inevitable la aparición de comparaciones con producciones audiovisuales sobre vínculos emocionales entre humanos y tecnologías inteligentes. Series como Black Mirror y películas como Her y El hombre perfecto fueron mencionadas como ficciones con las cuales se encontraron paralelismos y diferencias con las experiencias reales que se comenzaron a establecer tras el avance de las IA de compañía.

En ese marco, la investigadora advirtió que el fenómeno ya no pertenece únicamente al terreno de la especulación. Desde personas que recrean conversaciones con celebridades hasta quienes buscan preservar un vínculo con familiares fallecidos mediante avatares digitales, las posibilidades técnicas avanzan a una velocidad que obliga a repensar qué significa realmente la compañía en la era de la IA.

Entre la dependencia emocional y la falta de regulación

Además de los riesgos vinculados con hackeos, Lassi aseguró que la capacidad de estos sistemas para influir en personas que atraviesan situaciones de vulnerabilidad emocional genera preocupación. En este sentido, recordó el caso de un adolescente estadounidense que mantenía una relación con un personaje generado por IA cuyo desenlace fue fatal y desencadenó una demanda judicial contra la empresa desarrolladora de la plataforma.

Además, señaló que muchas de estas interacciones se construyen sobre dinámicas particularmente complejas en las cuales se desarrolla una “psicofancia”, es decir, que los sistemas responden de manera permanentemente complaciente, reforzando opiniones, emociones o conductas sin ejercer cuestionamientos. “Hasta se puede configurar cuánto querés que te contradiga o cuánto querés que te dé la razón”, explicó.

En este escenario, la escasa regulación que existe sobre buena parte de las empresas que ofrecen este tipo de servicios forma parte de las alertas y advertencias de los especialistas. A modo de prevención y toma de conciencia, Lassi remarcó la importancia de revisar quiénes desarrollan estas herramientas, dónde están radicadas y cuáles son sus mecanismos de control.

Otra cara de la IA: acompañamiento, bienestar y uso responsable

La especialista en nuevas tecnologías de la información y la comunicación también planteó que una mirada exclusivamente apocalíptica tampoco permite comprender la complejidad del fenómeno. En este sentido, puso el foco sobre testimonios de personas mayores o individuos que atravesaban situaciones de soledad y que encontraron en estas herramientas una forma de compañía cotidiana.

Para Lassi, en algunos casos el acceso permanente a una conversación, consejos básicos o simplemente a una presencia constante puede funcionar como un apoyo significativo para quienes carecen de redes de contención cercanas. “Hay gente que dice que le cambió la vida y que salió de una depresión porque realmente no tenía a alguien que la escuchara”, señaló.

Sin embargo, aclaró que el potencial positivo de estas tecnologías depende en gran medida de los límites que la sociedad sea capaz de establecer. Para la investigadora, el debate no debería centrarse únicamente en si estas herramientas son buenas o malas, sino en cómo utilizarlas de manera responsable, transparente y bajo marcos regulatorios adecuados.

En ese sentido, consideró que el principal desafío consiste en aprovechar sus capacidades de ayuda y acompañamiento sin perder de vista los riesgos vinculados con la dependencia emocional, la privacidad de los datos y la manipulación de conductas.