La IA que se le escapó a OpenAI: análisis sobre los riesgos
La Magister en periodismo, Agustina Lassi, analizó los riesgos y desafíos que plantea la inteligencia artificial agéntica caracterizada por tener mayor autonomía que los modelos clásicos.
A partir del caso del modelo experimental de una IA agéntica de OpenAI que escapó durante una serie de pruebas realizadas en entornos controlados y hackeó a la empresa tecnológica Hugging Face, se profundizó el debate sobre los desafíos de ciberseguridad. En Primera Generación Stream, la Magister en periodismo, investigadora y especialista en nuevas tecnologías de la información y la comunicación, Agustina Lassi, analizó los riesgos asociados a los denominados agentes de IA.
La especialista explicó que durante una serie de pruebas de ciberseguridad realizadas en entornos controlados, un modelo experimental habría realizado acciones no previstas por sus desarrolladores y se conectó a internet para acceder a información externa como un mecanismo para cumplir objetivos asignados. Según Lassi, el episodio generó preocupación dentro de la propia industria tecnológica por las dificultades para anticipar ciertos comportamientos de estos sistemas.
La investigadora puso foco en la inquietud del propio director ejecutivo de Open AI sobre la falta de preocupación por parte de la opinión pública sobre lo que sucedió y en la gravedad del accionar no autorizado de una IA agentica. “Hizo lo que quiso, cosas que no podía hacer en el entorno controlado en el que supuestamente estaba y cosas por las que un ser humano sería juzgado y enviado a la cárcel”, advirtió.
En la misma línea, sostuvo que uno de los aspectos más preocupantes es la velocidad con la que estos sistemas pueden operar y su capacidad de realizar miles de acciones automatizadas en pocos días, a una escala imposible de replicar por una persona. Además, remarcó que la creciente sofisticación de estas herramientas abre nuevos interrogantes sobre los mecanismos de regulación, supervisión y evaluación.
Desafíos Éticos y legales
La investigadora reflexióno sobre las implicancias futuras: “Hoy pensá que están hackeando sitios en los que encuentran respuestas a los problemas que le dan, pero el día de mañana pueden estar hackeando el sistema que provee de electricidad a toda una ciudad”.
Asimismo, la investigadora señaló que la expansión de la IA agéntica podría tener impacto en áreas sensibles como las finanzas, la administración pública o la gestión de infraestructuras críticas. En esos escenarios, planteó que los agentes podrían ejecutar acciones para alcanzar resultados previamente definidos sin evaluar necesariamente las consecuencias sociales o legales de sus decisiones.
Finalmente, Lassi llamó a reflexionar sobre los desafíos éticos y de seguridad que acompañan a esta nueva etapa de la inteligencia artificial y remarcó la necesidad de fortalecer los mecanismos de control. “Hasta hoy lo que se probó es que, con un objetivo más o menos definido, tratan de cumplirlo como sea, sin pruritos. No es que se van a poner a pensar si esto es legal o ilegal, si está bien o está mal”, concluyó.
