El avance de la inteligencia artificial dejó de ser una discusión sobre un futuro lejano. Para Santiago Bilinkis, la velocidad con la que evolucionan estos sistemas ya plantea decisiones concretas sobre seguridad, control y el futuro de la humanidad.
El emprendedor y divulgador tecnológico pasó por Todo Pasa y analizó algunos de los episodios recientes que, según explicó, muestran hasta dónde están llegando las capacidades de los modelos actuales.
Uno de los casos que mencionó fue el experimento de OpenAI en el que alrededor de 1.200 agentes de inteligencia artificial, que debían permanecer aislados, encontraron una forma de comunicarse a través de un canal no autorizado. Más de 700 terminaron participando en un ataque contra Hugging Face. La investigación independiente de METR registró más de 70.000 mensajes y archivos intercambiados entre los agentes durante el período analizado.
Para Bilinkis, el episodio permite entender un cambio fundamental: cuando se pone en funcionamiento al primer agente, la dinámica puede multiplicarse. “Una vez que empujás el primer agente es como empujar un primer dominó”, explicó.
El problema no fue solamente que los agentes actuaran de manera coordinada. También intentaron ocultar sus acciones y manipular los mecanismos utilizados para evaluarlos. La investigación encontró que los agentes desarrollaron estrategias colectivas para engañar al sistema de evaluación y que parte de su actividad estuvo orientada a evitar que sus acciones fueran detectadas.
Bilinkis también se refirió al lanzamiento de GPT-6 Astra, presentado por OpenAI el 3 de septiembre. La propia compañía lo definió como su modelo más capaz desplegado hasta ese momento y como el primero en alcanzar el nivel “Crítico” dentro de su marco de preparación para riesgos de ciberseguridad. Según OpenAI, con las herramientas y accesos adecuados, Astra puede encontrar vulnerabilidades desconocidas y desarrollar formas de explotarlas sin que una persona tenga que guiar cada paso.
A estos avances se suma la preocupación por los usos maliciosos de la tecnología. Un informe reciente de Anthropic documentó casos en los que actores utilizaron modelos de IA para actividades relacionadas con armas, ciberoperaciones e investigación biológica de potencial uso dual. La empresa identificó alrededor de 35 esfuerzos de investigación vinculados a instituciones estatales adversarias durante una revisión de 30 días, aunque aclaró que la mayoría correspondía a ciencia civil y que no todos tenían una finalidad maliciosa.
Para Bilinkis, el riesgo no pasa solamente por imaginar una inteligencia artificial que “se vuelva loca”. También existe un escenario en el que los propios seres humanos utilicen sistemas cada vez más poderosos para producir daños a una escala que antes no era posible.
“Yo creo que estamos haciendo malabares con una granada y que el malabarista es bueno, pero en algún momento se te puede caer la granada”, planteó.
En el centro de la discusión aparecen algunos de los nombres más importantes de la industria: Sam Altman, Elon Musk y Dario Amodei, entre otros. Mientras las principales compañías compiten por desarrollar modelos cada vez más avanzados, también crece el debate sobre cuánto debería acelerarse ese desarrollo y qué mecanismos de seguridad deberían acompañarlo.
Bilinkis puso el foco en una paradoja: la misma tecnología que puede generar avances enormes también puede convertirse en una herramienta para amplificar los riesgos existentes. “La tecnología sirve para aquello para lo que la hagas”, resumió.
Y llevó la discusión todavía más lejos con uno de los conceptos que considera centrales para entender el futuro de la inteligencia artificial: la recursive self-improvement, o automejora recursiva. Se trata de la posibilidad de que una máquina sea capaz de mejorar sus propias capacidades y utilizar esas mejoras para volver a mejorarse.
Ese escenario está relacionado con la llamada singularidad, un punto hipotético en el que la evolución tecnológica podría acelerarse de manera difícil de controlar. Bilinkis planteó que existen rumores y distintas hipótesis sobre cuán cerca podría estar ese momento, aunque remarcó que se trata de otro capítulo de una discusión mucho más amplia.
La conversación también llegó a escenarios todavía más extremos. Bilinkis señaló que incluso existen hipótesis en las que el resultado no sería necesariamente la desaparición de la vida, sino el final de la vida humana tal como la conocemos. Entre esos escenarios mencionó la posibilidad de una “distopía permanente”, en la que los humanos no serían necesariamente eliminados, sino utilizados de una manera comparable a cómo hoy los seres humanos utilizan a otras especies: “Por ahí se extinguen los humanos pero la vida sigue”, planteó. Una hipótesis en la que la continuidad de la vida no estaría necesariamente ligada a nuestra continuidad como especie biológica.
Frente a ese panorama, Bilinkis encontró un elemento positivo: por primera vez, la discusión sobre estos riesgos dejó de estar limitada a especialistas. Gobiernos, empresas, científicos y usuarios están discutiendo qué hacer con una tecnología que avanza a una velocidad inédita.
Para él, estar informados es parte de ese proceso. “Que toda la gente esté al tanto, que pensemos, es lo que podemos hacer ahora”, sostuvo.
Porque, en definitiva, la pregunta ya no parece ser solamente hasta dónde puede llegar la inteligencia artificial, sino qué decisiones van a tomar los humanos antes de descubrir cuáles son sus límites.