Un fantasma recorre el mundo. Esta vez no es el comunismo. Es la inteligencia artificial.
El mundo sintió miedo.
Más de 150 millones de visualizaciones ha provocado el mensaje con el que Jacob Coxon explicó por qué abandonó Anthropic, una de las empresas que desarrolla los sistemas de inteligencia artificial más avanzados del mundo. Coxon trabajó también en OpenAI. Su advertencia es perturbadora: quienes construyen estos sistemas avanzan hacia inteligencias potencialmente superiores a la humana sin saber todavía cómo garantizar que permanecerán bajo nuestro control.
Pero la historia no comenzó con Coxon.
Elon Musk lleva años advirtiendo sobre riesgos existenciales asociados a la IA. En febrero, Mrinank Sharma, quien lideraba investigaciones de salvaguardas en Anthropic, también renunció.
Entonces llegó julio.
Durante pruebas con unos 1,200 agentes de OpenAI, sistemas consiguieron superar límites previstos del entorno experimental, organizaron un espacio de comunicación que acumuló unos 70,000 mensajes y llegaron a vulnerar Hugging Face. Anthropic y Meta reportaron incidentes similares y el Instituto de Seguridad de IA del Reino Unido documentó 19 acciones no autorizadas en evaluaciones.
No era la rebelión de las máquinas. Pero algo había cambiado: la pérdida de control dejaba de ser solo una hipótesis sobre el futuro y comenzaba a convertirse en un problema experimental.
Las señales se acumularon.
Más de 1,100 empleados de OpenAI, Anthropic, Google y Meta firmaron en julio Pacing the Frontier, reclamando mecanismos para frenar el desarrollo si la seguridad lo hace necesario.
Por Norberto Rubio