Datos Rápidos

• El informe de gastos en aplicaciones de IA de A16z muestra cero herramientas de seguridad dedicadas entre las 50 aplicaciones de pago más usadas por startups.
• Las startups están invirtiendo fuertemente en productividad, automatización y plataformas de desarrollo de IA.
• A menudo se asume que la seguridad está “integrada” en lugar de adquirirse por separado.
• Expertos advierten que esto recuerda a los errores de los primeros días de la adopción de la nube.

El elemento invisible: la ausencia continua de la seguridad

Imagina una fiebre del oro: startups compitiendo por hacerse un lugar en el valiente nuevo mundo de la inteligencia artificial, invirtiendo dinero en herramientas que prometen código más rápido, contenido más inteligente y automatización sin fisuras. Pero mientras se desarrolla esta estampida digital, falta una pieza crucial en la lista de suministros: el equipo de seguridad.

Según un nuevo informe del gigante de capital de riesgo Andreessen Horowitz (a16z), basado en datos de la base de usuarios fintech de Mercury, que cuenta con 200.000 miembros, ninguna de las 50 principales aplicaciones por las que las startups están pagando es una herramienta de seguridad dedicada. En cambio, la lista parece un “quién es quién” de la productividad en IA: OpenAI, Anthropic, Replit, Freepik, ElevenLabs y Otter.ai. El patrón es claro: construir rápido, automatizar todo y preocuparse por las barreras de seguridad después.

“Construir primero, asegurar después”: una estrategia arriesgada

Esta mentalidad de “construir primero, asegurar después” no es nueva. Melissa Ruzzi, de AppOmni, una empresa de seguridad SaaS, señala que las startups están repitiendo los errores de la era de la nube, cuando la seguridad era una idea tardía y las brechas se volvieron rutinarias. Persiste la suposición: si una aplicación es popular y ampliamente utilizada, su seguridad debe ser sólida. Pero como han demostrado los investigadores, incluso gigantes de la IA como OpenAI han visto cómo se eludían sus barreras de seguridad, y plataformas como Replit han sufrido importantes incidentes de datos.

Zane Lackey, ahora socio general en a16z, ofrece un contrapunto: la seguridad está cada vez más “integrada” en las herramientas modernas, desde generadores de código hasta gestores de datos. Si bien esto es cierto en parte, la historia nos advierte que confiar únicamente en una seguridad invisible e incluida puede ser una receta para el desastre, especialmente a medida que las herramientas de IA manejan datos cada vez más sensibles, desde transcripciones de reuniones empresariales hasta código propietario.

Lecciones del pasado, advertencias para el futuro

La trayectoria resulta inquietantemente familiar. Hace una década, las aplicaciones en la nube se adoptaron por su rapidez y conveniencia, solo para que las empresas descubrieran - demasiado tarde - que la seguridad no era tan robusta como esperaban. Siguieron brechas de alto perfil, desde filtraciones de datos de clientes hasta ataques de ransomware que explotaban configuraciones incorrectas en la nube.

Los flujos de trabajo potenciados por IA de hoy son aún más atractivos para los delincuentes. Herramientas como los tomadores de notas de IA y los generadores de código recopilan enormes cantidades de información sensible, a menudo sin supervisión clara ni salvaguardas explícitas. A medida que las startups escalan rápidamente, su “deuda de seguridad” - vulnerabilidades no abordadas y atajos riesgosos - crece en las sombras.

Los expertos instan a las startups a romper el ciclo: tratar la seguridad como una función central, no como un complemento opcional. Eso significa que los equipos internos deben comunicarse entre departamentos, examinar la seguridad de cada aplicación que adopten y asegurarse de que los flujos de datos y los controles de acceso estén mapeados y monitorizados.

WIKICROOK

• IA (Inteligencia Artificial): La Inteligencia Artificial (IA) permite a las computadoras realizar tareas que normalmente requieren inteligencia humana, como aprender, razonar y tomar decisiones.
• SaaS (Software como Servicio): SaaS (Software como Servicio) ofrece software basado en la nube a través de internet, permitiendo a los usuarios acceder y gestionar aplicaciones sin instalación o mantenimiento local.
• Barreras de seguridad: Las barreras de seguridad son reglas o sistemas integrados que evitan que la IA genere contenido inseguro, ofensivo o peligroso, protegiendo a los usuarios y manteniendo la seguridad.
• Deuda de seguridad: La deuda de seguridad es el riesgo y coste creciente que resulta de retrasar o ignorar acciones de seguridad esenciales, haciendo que los sistemas sean más vulnerables con el tiempo.
• Controles de acceso: Los controles de acceso son medidas de seguridad que restringen quién puede ver, usar o modificar información digital, ayudando a proteger los datos de accesos no autorizados.