La advertencia nació desde el corazón de una de las compañías más importantes del sector. Hubinger respaldó públicamente a Coxon y aseguró que quienes desarrollan estas tecnologías realmente contemplan la posibilidad de que una IA termine con la humanidad. El especialista reconoció, además, que la evolución de los sistemas capaces de mejorar su propio funcionamiento avanza más rápido de lo esperado.
El episodio comenzó con la salida de Coxon, quien trabajó en el entrenamiento de modelos tanto para Anthropic como para OpenAI. Al anunciar su renuncia, sostuvo que ambas empresas compiten por alcanzar una inteligencia artificial superior a la humana y las acusó de estar “apostando con nuestras vidas”. Hubinger fue todavía más contundente: admitió que Anthropic no posee por el momento un plan capaz de garantizar que una eventual superinteligencia permanezca alineada con los intereses humanos.
El porcentaje mencionado no surge de un cálculo científico ni representa una posición oficial de la empresa, sino una estimación personal de uno de sus principales investigadores en seguridad. Sin embargo, la discusión expone una contradicción difícil de ignorar: quienes encabezan la carrera tecnológica reconocen que todavía no saben cómo controlar por completo aquello que buscan construir, pero continúan acelerando para no quedar detrás de sus competidores.
