Crisis cultural en empresas de IA: cuando la velocidad supera a la seguridad
Señales de alerta internas en las empresas líderes de inteligencia artificial están tomando forma pública con una frecuencia que ya no puede ignorarse. David Robinson, profesional de seguridad con tres años y medio de trayectoria en una de las compañías más influyentes del sector, renunció a su cargo argumentando que la cultura organizacional está "quebrada": un diagnóstico que trasciende lo anecdótico y apunta a tensiones estructurales en la forma en que estas organizaciones gestionan el riesgo.
El caso no es aislado. Investigadores de distintas firmas de IA han advertido públicamente sobre los riesgos de desarrollar sistemas cada vez más capaces sin los controles culturales y operativos correspondientes. Robinson, quien participó en la redacción de informes de seguridad para lanzamientos de productos de alto impacto, sostiene que el problema no se resuelve con nuevas regulaciones o reglas específicas, sino con un cambio de mentalidad profundo al interior de las organizaciones. Su análisis apunta a un modelo de trabajo basado en "prueba y error" que, si bien ha sido efectivo para escalar productos, resulta insuficiente cuando los sistemas en desarrollo tienen el potencial de superar capacidades humanas. Según Robinson, ninguna industria de alto riesgo —aviación, energía nuclear, infraestructura crítica— opera bajo esa lógica: todas dependen de redundancia, planificación meticulosa y perfiles especializados en gestión de fallos catastróficos.
Para los estrategas corporativos y líderes de innovación, este debate plantea una pregunta de fondo: ¿pueden las culturas organizacionales construidas para la velocidad adaptarse a entornos donde el costo del error escala exponencialmente? McKinsey y el Foro Económico Mundial han documentado que la adopción acelerada de IA generativa está creando brechas de gobernanza en empresas de todos los sectores, no solo en las tecnológicas. La presión por lanzar productos competitivos antes que los rivales genera incentivos que frecuentemente subordinan la gestión del riesgo a la velocidad de ejecución. Lo que el caso Robinson ilustra es que esa tensión no es solo un problema de política pública o regulación externa: es, ante todo, un desafío de diseño organizacional que las empresas deberán resolver desde adentro si aspiran a operar con legitimidad en la próxima década.
