Cuando los algoritmos se descontrolan: los riesgos ocultos de la IA en los Centros de Operaciones de Seguridad

Es la última carrera armamentista del mundo de la seguridad: inteligencia artificial contra amenazas cibernéticas en constante evolución. Pero a medida que las empresas Fortune 500 y los gigantes financieros conectan la IA en el corazón de sus Centros de Operaciones de Seguridad (SOC), la pregunta persiste: ¿estamos liberando a un guardián digital o a una posible responsabilidad?

En la Conferencia RSAC 2026 de este año, dos líderes en ciberseguridad - Ankit Gupta de una importante firma financiera y Shilpi Mittal de una empresa Fortune 500 de manufactura alimentaria - levantaron el velo sobre sus ambiciosos experimentos con IA. ¿Sus hallazgos? La IA puede ser una aliada poderosa, pero solo cuando su correa es corta y su rol está claramente definido.

El equipo de Mittal integró un modelo de lenguaje grande (LLM) en su SOC como “asistente de triaje solo lectura”, sintetizando alertas de endpoints, telemetría de red y tecnología operacional. El resultado: un tiempo medio de detección entre 26 y 36% más rápido, una mejora del 22% en el tiempo de respuesta y 16 falsos positivos menos. En un caso destacado, la IA detectó y contuvo malware antes de que pudiera propagarse.

Pero los avances vinieron acompañados de advertencias. Surgieron nuevos falsos positivos y los riesgos de permitir que la IA controlara sistemas industriales - donde el tiempo de inactividad significa pérdida de ingresos y riesgos de seguridad - fueron considerados demasiado altos. Se impusieron estrictas barreras: ninguna interacción directa con maquinaria crítica y aprobación humana requerida para cada acción.

El SOC financiero de Gupta enfrentó peligros diferentes. Con montañas de datos sensibles y regulados y una vigilancia regulatoria constante, la IA sobresalió automatizando documentación y reduciendo la fatiga de los analistas. Pero una prueba de dos semanas dejando que la IA tomara el control fue una advertencia: con alertas desordenadas e inconsistentes, la IA cometió errores críticos, incluyendo la eliminación de usuarios legítimos de los sistemas. La lección fue clara: la IA puede conectar puntos y resumir contextos, pero las decisiones de juicio deben seguir siendo humanas.

Ambos líderes coincidieron en que las necesidades del negocio - y no el dogma de seguridad - son las que impulsan las decisiones tecnológicas. Con juntas directivas y ejecutivos cautivados por las promesas de la IA, los equipos de seguridad están bajo presión para innovar sin convertirse en obstáculos. Sin embargo, como muestran estos pilotos, una IA sin control puede crear tantos problemas como los que resuelve.

¿El veredicto? La IA es una herramienta potente en el arsenal del SOC, pero la confianza debe ganarse mediante una supervisión rigurosa, no por fe ciega. Al final, el toque humano sigue siendo insustituible - al menos por ahora.

WIKICROOK

• Centro de Operaciones de Seguridad (SOC): Un Centro de Operaciones de Seguridad (SOC) es un equipo o instalación que monitorea, detecta y responde a amenazas de ciberseguridad 24/7 para proteger a una organización.
• Modelo de Lenguaje Grande (LLM): Un Modelo de Lenguaje Grande (LLM) es una IA entrenada para comprender y generar texto similar al humano, utilizada a menudo en chatbots, asistentes y herramientas de contenido.
• Falso Positivo: Un falso positivo ocurre cuando una herramienta de seguridad etiqueta erróneamente un archivo o acción segura como una amenaza, generando alertas o bloqueos innecesarios.
• Tecnología Operacional (OT): La Tecnología Operacional (OT) incluye sistemas informáticos que controlan equipos y procesos industriales, lo que a menudo los hace más vulnerables que los sistemas de TI tradicionales.
• Controlador Lógico Programable (PLC): Un Controlador Lógico Programable (PLC) es una computadora especializada que automatiza y controla procesos industriales en fábricas, servicios públicos e infraestructuras.