domingo, 22 Nov 2026
  • La entrevista
  • Marroquíes
  • prueba de hardware
  • Start-ups
  • Mis favoritos
  • Publicidad
  • Contacto
Business Club
Silicon Valley Maroc – le mag tech marocain
  • Tech
  • IA
  • Ciberseguridad
  • Negocios
  • Inmo
  • Expat
  • Militar
    MilitarAfficher plus: Militar
    Quel avenir pour l'industrie de défense ? Rencontre avec Ali Seddiki
    ¿Qué futuro le espera a la industria de defensa? Entrevista con Ali Seddiki

    Marruecos transforma su industria de defensa en un nuevo sector de actividad…

    Par Reda S.
    L’armée française à l’épreuve du désert marocain
    El ejército francés puesto a prueba en el desierto marroquí

    Al leer los testimonios recientes de las tripulaciones del 5.º Regimiento de…

    Par Esteban - F.
    Chine-Russie : je t’aime, moi non plus
    China-Rusia: una relación de amor y odio

    En febrero de 2022, Xi Jinping y Vladímir Putin se reunieron en…

    Par Julie - Sanchez
    L’obsolescence de l’arsenal du Polisario face à l’armée Marocaine
    La obsolescencia del arsenal del Polisario frente al ejército marroquí

    Al revisar los informes militares recientes y los inventarios de fuentes abiertas,…

    Par Hafid D.
    Industrie de défense : pourquoi le Maroc mise sur la production locale
    Industria de defensa: por qué Marruecos apuesta por la producción local

    El 18 de noviembre de 2026, en el Palacio Real de Rabat,…

    Par Foxtrot
  • Español
    • Français
    • العربية المغربية
    • English
    • Español
    • 中文 (中国)
  • Tourisme
  • Numérique
  • Business
  • Finance
  • Marketing
  • Apple
  • Claude
  • Google
  • Grok
  • OpenAI
  • USA
  • Europe
  • Afrique
  • Asie
  • Golfe
EN DIRECTO
  • ●
  • Casa
  • Rabat
  • Marrakech
  • Tanger
  • Agadir
  • Fès
  • Meknès
  • Oujda
  • Nador
  • Essaouira
  • Dakhla
  • Kenitra
  • Laâyoune
Redimensionnement de policeAa
Silicon Valley Maroc – le mag tech marocainSilicon Valley Maroc – le mag tech marocain
Rechercher
  • Français
  • العربية المغربية
  • English
  • Español
  • 中文 (中国)
Vous avez déjà un compte ? Se connecter
Suivez-nous
  • Dakhla
  • Casa
  • Marrakech
  • Tech
  • Rabat
  • Maroc
  • Plan du site
  • Contactez-nous
© 2026 - Colmar.tech
AIChat GPTNon classéOpenAI

Dimisión en OpenAI por la seguridad de la IA, las 3 alertas de David Robinson

Cuando el responsable de seguridad de una empresa se marcha de la compañía que debía ayudar a proteger, no leo una simple carta de despedida.

Farid N.
Dernière mise à jour : 3 octubre 2026 17h01
Farid N.
Partager
Démission chez OpenAI sur la sécurité de l'IA, les 3 alertes de David Robinson

Leo una señal. La dimisión de un empleado de OpenAI especializado en seguridad de la inteligencia artificial, David Robinson, es una de ellas. Hasta ahora dirigía los trabajos de transparencia dentro del equipo de seguridad del creador de ChatGPT. En un artículo de opinión publicado por The Atlantic, advierte de que las grandes empresas de IA no hacen lo suficiente para mitigar los riesgos de esta tecnología. Y reclama para ella un rigor comparable al del sector nuclear.

Claves del artículo

  • David Robinson, antiguo responsable de transparencia en OpenAI, ha dejado la empresa.
  • En The Atlantic, considera insuficiente la vigilancia de la compañía ante sus lanzamientos rápidos.
  • Pide gestionar las empresas de IA como centrales nucleares, con varios niveles de redundancia.
  • Se suma a un número creciente de empleados del sector que dan la voz de alarma.

Una dimisión más, pero con un mensaje distinto

Robinson no firma un alegato contra sus antiguos compañeros, y eso es lo que hace interesante su texto. «Mis antiguos compañeros son brillantes, trabajadores y se esfuerzan por tomar las decisiones correctas», escribe. Su reproche se dirige al ritmo. En su carrera desenfrenada de un lanzamiento a otro, sostiene, la empresa no alcanza el nivel de vigilancia que él considera necesario.

Describe una cultura que ha prosperado gracias a la experimentación: probar, observar, corregir. Ese método ha tenido su lógica durante mucho tiempo en el software de consumo. Robinson subraya que sus consecuencias inevitables aumentan a medida que progresan las capacidades de la tecnología. En la versión de la que dispongo, ilustra esta idea con un ejemplo concreto relacionado con OpenAI. El pasaje está truncado en mi texto de partida, así que no lo reproduzco.

Por qué la analogía nuclear cambia el debate

El núcleo del artículo es una comparación. Robinson considera que las empresas de IA deberían gestionarse como centrales nucleares, «con varios niveles de redundancia y una planificación rigurosa y minuciosa», para que los errores humanos, «tan raros como inevitables», no desemboquen en una catástrofe.

Esta imagen merece que nos detengamos en ella. En una central, nadie parte de la base de que el operador sea perfecto. El sistema se construye asumiendo que algún día se equivocará, y se apilan barreras para que ese error no tenga consecuencias. Es lo contrario de la lógica del lanzamiento rápido, en la que se publica primero y se corrige después.

Robinson pide, por tanto, «algo mucho más cercano a la perfección desde el principio». Reconoce una dificultad de peso: hoy, las empresas de IA no saben cómo conseguirlo. Según él, otras personas sí. Una vez más, el final de la frase está truncado en mi material, y prefiero no completarlo en su lugar.

Lo que saco de ello, como observador del sector, no es tanto la comparación en sí como lo que implica. Hablar de cultura de seguridad, de redundancia y de planificación desplaza la pregunta de la buena voluntad individual a la arquitectura de las organizaciones.

Un movimiento más amplio en el sector

Robinson no está solo. Según mi texto de partida, su marcha se suma a un número creciente de empleados del sector que dan la voz de alarma. Algunos llegan a afirmar que esta tecnología podría algún día aniquilar a la humanidad, una opinión que sigue siendo muy debatida entre los investigadores.

El precedente más citado se remonta a mayo de 2024. Jan Leike, entonces colíder del equipo de «superalineamiento» de OpenAI, abandonó la empresa y le reprochó haber dejado que la cultura de seguridad pasara a un segundo plano frente a productos más llamativos. OpenAI integró después ese equipo en el resto de sus trabajos de investigación en lugar de mantenerlo como unidad independiente, tras la salida de sus dos responsables, entre ellos el cofundador Ilya Sutskever. Más recientemente, en marzo de 2026, la responsable de robótica de OpenAI, Caitlin Kalinowski, dimitió tras un acuerdo con el Pentágono, alegando motivos de gobernanza y la necesidad de definir con claridad unas salvaguardas.

Los motivos difieren de un caso a otro. La cuestión de fondo, en cambio, vuelve una y otra vez: ¿hasta qué punto pueden autorregularse las empresas que desarrollan estos modelos?

Lo que dicen los demás actores

El sector no habla con una sola voz. Según los elementos de que dispongo, Dario Amodei, director ejecutivo de Anthropic, ha pedido ralentizar el desarrollo de los modelos más avanzados. También ha anunciado que su empresa recurrirá a evaluadores externos para examinar y asegurar la tecnología. Otros dirigentes, entre ellos Sam Altman en OpenAI, se han pronunciado públicamente sobre el asunto, pero el pasaje correspondiente está truncado en mi texto y no puedo recoger su contenido.

Conviene matizar. Las empresas implicadas suelen argumentar que invierten en seguridad y que un despliegue gradual es precisamente lo que permite aprender. Las voces críticas responden que ese aprendizaje sobre la marcha resulta más arriesgado a medida que la tecnología gana potencia. Ambos argumentos tienen su lógica, y eso es justamente lo que hace tan difícil zanjar el debate.

Lo que está en juego en los próximos meses

Veo tres cuestiones que seguir.

  • La respuesta de OpenAI. ¿Ha comentado la empresa el artículo de Robinson? No tengo ningún elemento que lo confirme ni lo desmienta, y habrá que comprobarlo antes de publicar.
  • El papel de los evaluadores externos. El anuncio de Anthropic se juzgará por sus resultados: quién evalúa, con qué acceso y con qué independencia.
  • La presión regulatoria. Si los propios empleados reclaman estándares de tipo industrial, es probable que la petición de normas vinculantes gane peso ante los responsables políticos.

Una conclusión que sigue abierta

Evitaría extraer de esta salida una conclusión definitiva. Un testimonio, por cualificado que sea, no lo dice todo sobre lo que ocurre dentro de una empresa. Aun así, la dimisión de un responsable de transparencia dentro de un equipo de seguridad plantea una pregunta sencilla. ¿Se pueden operar sistemas cada vez más potentes con los métodos de una start-up que itera con rapidez? Robinson responde que no. Los demás actores aún tienen que demostrar que tienen otra respuesta.

Preguntas frecuentes

¿Quién es David Robinson?
Dirigía anteriormente los trabajos de transparencia dentro del equipo de seguridad de OpenAI. Ha dejado la empresa y ha publicado un artículo de opinión en The Atlantic.

¿Qué le reprocha a OpenAI?
Considera que, en su carrera de un lanzamiento a otro, la empresa no alcanza el nivel de vigilancia necesario. Reconoce, sin embargo, el trabajo y las intenciones de sus antiguos compañeros.

¿Qué significan las «garantías de nivel nuclear»?
Robinson propone gestionar las empresas de IA como centrales nucleares, con varios niveles de redundancia y una planificación rigurosa, para que los errores humanos no acaben en catástrofe.

¿Cómo se posiciona Anthropic?
Según mi texto de partida, su director ejecutivo, Dario Amodei, ha pedido ralentizar el desarrollo de los modelos más avanzados y ha anunciado el recurso a evaluadores externos.

Partager cet article
Whatsapp Whatsapp E-mail Copier le lien Imprimer
ParFarid N.
En un momento en que la transformación digital de Marruecos se acelera, la protección de nuestros activos digitales se ha convertido en una prioridad nacional absoluta. Como experto en ciberseguridad, mi misión es asegurar el espacio digital marroquí frente a las amenazas emergentes. Acompaño a las organizaciones públicas y privadas en la construcción de estrategias de defensa sólidas, capaces de proteger la soberanía de nuestros datos y la continuidad de nuestros servicios esenciales.
Article précédent Armée de l'air marocaine : 5 signaux qui annoncent un nouveau cap Fuerza Aérea de Marruecos: 5 señales que apuntan a un nuevo rumbo
Article suivant FA-50 Maroc Morocco FA-50: Marruecos estudia una nueva pieza para su aviación de combate moderna
No hay comentarios

Deja una respuesta Cancelar la respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Silicon Valley

Soutenez notre média gratuit !
Don tech Maroc
maroc start-up morocco annuaire entreprise

Vous pourriez aussi aimer

Automatisation : Quelles professions sont les plus menacées par l'IA au Maroc ?
AIMarruecos

Automatización en Marruecos: ¿Qué profesiones están en peligro por la IA?

Par Maroc
La Silicon Valley face aux enjeux vertigineux de la course à l’IA
AITecnologíaUSA

Silicon Valley ante los enormes desafíos de la carrera por la inteligencia artificial

Par Farid N.
Maroc–Malaisie : un accord de défense axé sur l’IA et les drones
AICiberseguridadMalasiaMarruecosMilitar

Marruecos–Malasia: acuerdo de defensa centrado en la IA y los drones

Par Farid N.
Drones, IA et guerre électronique, les FAR modernisent leurs formations
AIDroneMarruecosMilitar

Drones, inteligencia artificial y guerra electrónica: las Fuerzas Armadas Reales de Marruecos modernizan su formación

Par Foxtrot
Silicon Valley Maroc – le mag tech marocain
Facebook X-twitter Rss Linkedin

A Propos

SiliconValley – le mag tech marocain se veut une plateforme indépendante gratuite dédiée à l’innovation, au numérique et aux nouvelles technologies au Maroc.

À la croisée de l’actualité tech internationale et des dynamiques locales, le magazine met en lumière les startups marocaines, les entrepreneurs, les talents, les innovations et les tendances qui façonnent l’écosystème tech national.

Analyses, décryptages, interviews et dossiers de fond : SiliconValley ambitionne d’informer, d’inspirer et de connecter une nouvelle génération tournée vers l’avenir, avec un regard moderne, critique et résolument marocain.

Categories

  • Dakhla
  • Casa
  • Marrakech
  • Tech
  • Rabat
  • Maroc
  • Plan du site
  • Contactez-nous

Liens Utiles

  • Bourse
  • Interview
  • MRE
  • Tests
  • Start-ups
  • Pub
  • Contact

Connectez-vous

Nom d'utilisateur ou adresse e-mail
Mot de passe

Mot de passe oublié ?