Leo una señal. La dimisión de un empleado de OpenAI especializado en seguridad de la inteligencia artificial, David Robinson, es una de ellas. Hasta ahora dirigía los trabajos de transparencia dentro del equipo de seguridad del creador de ChatGPT. En un artículo de opinión publicado por The Atlantic, advierte de que las grandes empresas de IA no hacen lo suficiente para mitigar los riesgos de esta tecnología. Y reclama para ella un rigor comparable al del sector nuclear.
Claves del artículo
- David Robinson, antiguo responsable de transparencia en OpenAI, ha dejado la empresa.
- En The Atlantic, considera insuficiente la vigilancia de la compañía ante sus lanzamientos rápidos.
- Pide gestionar las empresas de IA como centrales nucleares, con varios niveles de redundancia.
- Se suma a un número creciente de empleados del sector que dan la voz de alarma.
Una dimisión más, pero con un mensaje distinto
Robinson no firma un alegato contra sus antiguos compañeros, y eso es lo que hace interesante su texto. «Mis antiguos compañeros son brillantes, trabajadores y se esfuerzan por tomar las decisiones correctas», escribe. Su reproche se dirige al ritmo. En su carrera desenfrenada de un lanzamiento a otro, sostiene, la empresa no alcanza el nivel de vigilancia que él considera necesario.
Describe una cultura que ha prosperado gracias a la experimentación: probar, observar, corregir. Ese método ha tenido su lógica durante mucho tiempo en el software de consumo. Robinson subraya que sus consecuencias inevitables aumentan a medida que progresan las capacidades de la tecnología. En la versión de la que dispongo, ilustra esta idea con un ejemplo concreto relacionado con OpenAI. El pasaje está truncado en mi texto de partida, así que no lo reproduzco.
Por qué la analogía nuclear cambia el debate
El núcleo del artículo es una comparación. Robinson considera que las empresas de IA deberían gestionarse como centrales nucleares, «con varios niveles de redundancia y una planificación rigurosa y minuciosa», para que los errores humanos, «tan raros como inevitables», no desemboquen en una catástrofe.
Esta imagen merece que nos detengamos en ella. En una central, nadie parte de la base de que el operador sea perfecto. El sistema se construye asumiendo que algún día se equivocará, y se apilan barreras para que ese error no tenga consecuencias. Es lo contrario de la lógica del lanzamiento rápido, en la que se publica primero y se corrige después.
Robinson pide, por tanto, «algo mucho más cercano a la perfección desde el principio». Reconoce una dificultad de peso: hoy, las empresas de IA no saben cómo conseguirlo. Según él, otras personas sí. Una vez más, el final de la frase está truncado en mi material, y prefiero no completarlo en su lugar.
Lo que saco de ello, como observador del sector, no es tanto la comparación en sí como lo que implica. Hablar de cultura de seguridad, de redundancia y de planificación desplaza la pregunta de la buena voluntad individual a la arquitectura de las organizaciones.
Un movimiento más amplio en el sector
Robinson no está solo. Según mi texto de partida, su marcha se suma a un número creciente de empleados del sector que dan la voz de alarma. Algunos llegan a afirmar que esta tecnología podría algún día aniquilar a la humanidad, una opinión que sigue siendo muy debatida entre los investigadores.
El precedente más citado se remonta a mayo de 2024. Jan Leike, entonces colíder del equipo de «superalineamiento» de OpenAI, abandonó la empresa y le reprochó haber dejado que la cultura de seguridad pasara a un segundo plano frente a productos más llamativos. OpenAI integró después ese equipo en el resto de sus trabajos de investigación en lugar de mantenerlo como unidad independiente, tras la salida de sus dos responsables, entre ellos el cofundador Ilya Sutskever. Más recientemente, en marzo de 2026, la responsable de robótica de OpenAI, Caitlin Kalinowski, dimitió tras un acuerdo con el Pentágono, alegando motivos de gobernanza y la necesidad de definir con claridad unas salvaguardas.
Los motivos difieren de un caso a otro. La cuestión de fondo, en cambio, vuelve una y otra vez: ¿hasta qué punto pueden autorregularse las empresas que desarrollan estos modelos?
Lo que dicen los demás actores
El sector no habla con una sola voz. Según los elementos de que dispongo, Dario Amodei, director ejecutivo de Anthropic, ha pedido ralentizar el desarrollo de los modelos más avanzados. También ha anunciado que su empresa recurrirá a evaluadores externos para examinar y asegurar la tecnología. Otros dirigentes, entre ellos Sam Altman en OpenAI, se han pronunciado públicamente sobre el asunto, pero el pasaje correspondiente está truncado en mi texto y no puedo recoger su contenido.
Conviene matizar. Las empresas implicadas suelen argumentar que invierten en seguridad y que un despliegue gradual es precisamente lo que permite aprender. Las voces críticas responden que ese aprendizaje sobre la marcha resulta más arriesgado a medida que la tecnología gana potencia. Ambos argumentos tienen su lógica, y eso es justamente lo que hace tan difícil zanjar el debate.
Lo que está en juego en los próximos meses
Veo tres cuestiones que seguir.
- La respuesta de OpenAI. ¿Ha comentado la empresa el artículo de Robinson? No tengo ningún elemento que lo confirme ni lo desmienta, y habrá que comprobarlo antes de publicar.
- El papel de los evaluadores externos. El anuncio de Anthropic se juzgará por sus resultados: quién evalúa, con qué acceso y con qué independencia.
- La presión regulatoria. Si los propios empleados reclaman estándares de tipo industrial, es probable que la petición de normas vinculantes gane peso ante los responsables políticos.
Una conclusión que sigue abierta
Evitaría extraer de esta salida una conclusión definitiva. Un testimonio, por cualificado que sea, no lo dice todo sobre lo que ocurre dentro de una empresa. Aun así, la dimisión de un responsable de transparencia dentro de un equipo de seguridad plantea una pregunta sencilla. ¿Se pueden operar sistemas cada vez más potentes con los métodos de una start-up que itera con rapidez? Robinson responde que no. Los demás actores aún tienen que demostrar que tienen otra respuesta.
Preguntas frecuentes
¿Quién es David Robinson?
Dirigía anteriormente los trabajos de transparencia dentro del equipo de seguridad de OpenAI. Ha dejado la empresa y ha publicado un artículo de opinión en The Atlantic.
¿Qué le reprocha a OpenAI?
Considera que, en su carrera de un lanzamiento a otro, la empresa no alcanza el nivel de vigilancia necesario. Reconoce, sin embargo, el trabajo y las intenciones de sus antiguos compañeros.
¿Qué significan las «garantías de nivel nuclear»?
Robinson propone gestionar las empresas de IA como centrales nucleares, con varios niveles de redundancia y una planificación rigurosa, para que los errores humanos no acaben en catástrofe.
¿Cómo se posiciona Anthropic?
Según mi texto de partida, su director ejecutivo, Dario Amodei, ha pedido ralentizar el desarrollo de los modelos más avanzados y ha anunciado el recurso a evaluadores externos.
