La IA supera la capacidad de las organizaciones por mantener sus datos seguros

La carrera por adoptar nuevos modelos y capacidades de inteligencia artificial, especialmente la IA generativa, está superando la capacidad de la mayoría de las empresas para mantener sus datos seguros y aplicar protocolos que los salvaguarden con garantías.

Así lo asegura un estudio desarrollado por la compañía Swimlane, que concluye en este sentido que el 74% de los CISOs y responsables de ciberseguridad son conscientes, de que pese a las salvaguardas que se puedan implementar, en los grandes modelos de lenguaje (LLM), se siguen introduciendo datos sensibles.

«No cabe duda de que la IA está transformando la ciberseguridad tal como la conocemos, y su impacto va mucho más allá del ámbito digital», ha asegurado en este sentido Cody Cornell, cofundador y director de estrategia de Swimlane. «El hecho de que el 74 por ciento de los encuestados vean la desinformación generada por IA como una amenaza significativa subraya los desafíos que se avecinan. Si bien la IA ofrece enormes beneficios para mejorar la seguridad y la eficiencia, es crucial que su uso se aborde de manera responsable, equilibrando la innovación con los riesgos potenciales tanto para las organizaciones como para la sociedad».

A la hora de afrontar estos riesgos, el estudio muestra que tan solo un 28 por ciento de los encuestados cree que los gobiernos deberían asumir la responsabilidad principal de establecer y hacer cumplir directrices en cuanto a un uso seguro de la IA. Por contra, casi la mitad (46 por ciento) de los encuestados asegura que las empresas que desarrollan los modelos, deberían ser tomados como los principales responsables de las posibles consecuencias ocasionadas por los efectos menos deseables de la inteligencia artificial.

Por otro lado, el estudio también evidencia la percepción de que tal vez esta «burbuja inteligente» podría estar a punto de estallar. En este sentido, el 76 por ciento de los encuestados cree que el mercado actual está saturado de este tipo de soluciones. También que este exceso de mensajes centrados en la IA está pasando factura, con el 55 por ciento de los encuestados diciendo que están comenzando a sentirse agotados por el enfoque constante en la IA. Y eso pese a que las inversiones se están haciendo.

Así, un significativo 86 por ciento de las organizaciones informa que la experiencia con tecnologías de IA y aprendizaje automático (ML) influye considerablemente en sus decisiones de contratación. La mayoría de las organizaciones (89%) también informa que el uso de la IA generativa y los modelos de lenguaje de gran tamaño ha mejorado la productividad y la eficiencia de sus equipos de ciberseguridad. Este cambio ha llevado al 33 por ciento de las organizaciones a planear destinar más del 30 por ciento de sus presupuestos de ciberseguridad para 2025 a soluciones impulsadas o mejoradas por IA.