Ciberseguridad en un mundo impulsado por la IA
marzo 7, 2024

La IA: el arma de doble filo de la ciberseguridad

Introducción

La inteligencia artificial (IA) está transformando el mundo a un ritmo acelerado, y la ciberseguridad no es una excepción. La IA tiene el potencial de revolucionar la forma en que protegemos nuestros sistemas y datos, pero también podría ser utilizada por los ciberdelincuentes para crear nuevas amenazas.

Al dia de hoy podemos dar como bueno y válido que la inteligencia artificial (IA) está transformando todos los aspectos de nuestras vidas, desde la forma en que trabajamos hasta la forma en que nos relacionamos con el mundo que nos rodea, y la ciberseguridad no es un elemento ajeno a esta realidad. La IA ha demostrado tener el potencial de revolucionar la forma en que protegemos nuestra infraestructura tecnológica, sistemas informáticos y datos tanto personales como corporativo, pero como decía el General Mc Arthur “Si tienes el enemigo a tu alcance, significa que tú también estás en el de él”, y es así como debemos entender que en este nuevo escenario también se nos plantea nuevos riesgos que ponen en riegos estos mismos elementos.

Según el informe de “Cyberthreat Intelligence del 2023” para el 2022 los ciberataques aumentaron en un 15% con referencia al 2021 y se espera que esta tendencia siga aumentando para el 2024 y esto se debe a que vivimos en un mundo donde se interconectan procesos, personas y tecnologías para lograr la realización de tareas cotidianas, los ciberdelincuentes no se quedan rezagados ante esta oportunidad y están incorporando constantemente más herramientas y técnicas sofisticadas basadas en IA, así como soluciones complejas que dificultan tanto la detección como la respuesta oportuna de amenazas activas en las infraestructuras tecnológicas y como si fuese poco existe otro factor importante a tener en cuenta y es la falta de concientización en los usuarios finales ya que el usuario por lo general es el eslabón más débil en la cadena de un robusto programa de ciberseguridad y como tal son una presa fácil para los ciberdelincuentes.

El aumento de los ataques es una tendencia preocupante que se ha sostenido a lo largo de los años y que requiere la atención de todos. Estamos conscientes de que la IA no es una panacea universal que viene a resolver todos nuestros problemas con soluciones mágicas, pero puede ser muy poderosa para mejorar la toma de decisiones estratégicas. La Inteligencia Artificial puede categorizarse en dos tipos: Inteligencia Artificial fuerte, también conocida como IA general, que son sistemas capaces de realizar cualquier tarea intelectual, con la capacidad de comprender, aprender, razonar y aplicar su conocimiento en varios dominios sin interacción humana, y la IA débil o IA estrecha, que son sistemas diseñados y entrenados para realizar tareas específicas o un conjunto de actividades, sin la capacidad de transcender en el ámbito para el que fue diseñado. La mayoría de las implementaciones actuales son IA débil, diseñadas para tareas específicas. La IA fuerte sigue siendo un objetivo teórico que está más allá de la capacidad de las tecnologías actuales.

Ambos enfoques de la IA tienen aplicaciones valiosas y la mayoría de las que vemos hoy se centran en abordar problemas específicos en las áreas de salud, finanzas, transporte, educación y ciberseguridad, buscando revolucionar las actividades cotidianas. La ciberseguridad es un conjunto de medidas y prácticas que buscan proteger los sistemas informativos, pero sobre todo la información que es manejada en ellos de los ciberataques. Dentro de los principios de la ciberseguridad debemos hablar de integridad, confidencialidad y disponibilidad de la información (AKA la triada de la información) esta maravillosa triada podemos definirla como:

 

• Confidencialidad: Consiste en que la información se mantenga accesible por las personas autorizadas a la misma, limitando así que pueda caer en las manos equivocadas

• Integridad: Se refiere a que la información debe mantenerse libre de modificaciones no autorizadas, tanto mientras se transmite de un lugar a otro como mientras está en reposo.

• Disponibilidad: Se define como la información que debe estar disponible para su uso, siempre que sea requerida por las partes autorizadas.

 

Si bien no existe una propiedad de la información más importante que otra, podemos decir que, SAIRA ISAAC ingsairaisaac@gmail.com Profesional con más de 12 años de experiencia en el área de seguridad de la información y auditoría de sistemas para diferentes sectores. Ha realizado implementaciones de diferentes framework de ciberseguridad, implementación de Centro de Operaciones de Seguridad (SOC), Equipo de Respuesta a Incidentes y Gestion de Riesgo de Ciberseguridad. Con Certificaciones tales como ISO/IEC 27005 Risk Manager, ISO/IEC 27035 Lead Incident Manager, ISO/IEC 27032 Lead Cybersecurity
Manager entre otras.

dependiendo del contexto de la organización, una de estas puede tener mayor o menor peso, por ejemplo: Para la plataforma de videos en línea YouTube, la disponibilidad de sus videos, donde puedan colocar sus anuncios (que es la fuente de ingresos de la empresa) quizás sería mucho más importante que la integridad, pero a su vez para un banco comercial la confidencialidad y la integridad pueden ser más significativo y más dolorosa que perder el funcionamiento de algunos de sus canales electrónicos.

 

En la actualidad siendo la información la fuente principal para la toma de decisiones es esencial hablar de ciberseguridad e inteligencia artificial, las mismas se encuentran estrechamente relacionadas y se incluyen mutuamente de manera positiva y negativa, por un lado permitiendo la identificación y detección de amenazas mejorando la postura en ciberseguridad, generando la aplicación de controles y procedimientos apropiados con menores márgenes de errores en la infraestructura tecnológica pero por el otro lado aumentando los riesgos , las vulnerabilidades y aumentando la superficie de ataque al facilitar la creación, ejecución, integración y ocultación de ataques cibernéticos más sofisticados y potentes que pueden afectar los diferentes sectores y ámbitos de la sociedad.

Los principios de ciberseguridad y los avances en la inteligencia artificial se combinan para fortalecer la protección contra amenazas en el ciberespacio. Pero viendo la escasez de habilidades en la rápida evolución de la tecnología de la IA puede dar lugar a brechas en las habilidades de ciberseguridad dejando las organizaciones vulnerables ante la falta de especialista para mitigar las amenazas de la IA.

La ciberseguridad se enfrenta a múltiples retos, como son la detección de intrusiones, la protección de la privacidad, la defensa proactiva, la identificación de comportamiento anómalos o la detección de amenazas sofisticas, pero, sobre todo a las cambiantes amenazas que aparecen continuamente, lo que ha generado la creación de sistemas autoadaptables y que permitan la respuesta ante ciberamenazas.

La Inteligencia artificial puede utilizarse en todas las etapas de una seguridad integral inteligente: identificación, protección, detección, respuesta y recuperación ante incidentes, en este sentido la ciberseguridad puede considerarse un domino más de aplicación para la IA y de hecho ya lleva tiempo esta utilización en el desarrollo de herramientas para la mitigación de amenazas.

 

Beneficios de la IA en ciberseguridad

 

La IA puede utilizarse para mejorar la ciberseguridad de diversas maneras. Por ejemplo, se puede utilizar para:

 

• Detectar amenazas de manera más eficaz: puede analizar grandes cantidades de datos (apoyada por alguna herramienta de Data Science, claro está) para identificar patrones que podrían indicar una amenaza. Esto puede ayudar a los equipos de seguridad a detectar ataques antes de que se produzcan, de manera más proactiva para la protección de la información o la mitigación de los riesgos.

• Responder a amenazas de forma más rápida y eficiente: La IA puede automatizar tareas que actualmente realizan los analistas de seguridad como la identificación de la naturaleza de las amenazas lo que les libera para centrarse en tareas más complejas y que requieran más análisis según el contexto de la organización.

 

“Si tienes el enemigo a tu alcance, significa que tú también estás en el de él”

 

 

 

• Análisis de comportamiento: la IA puede aprender el comportamiento normal de usuarios y sistemas facilitando así la identificación de comportamientos anómalos que podrían indicar actividades maliciosas.

• Reducción de falsos positivos: La IA puede mejorar la precisión en la identificación de amenazas y reducir la incidencia de falsos positivos lo que también minimiza el impacto en las operaciones normales.

 

La IA no es una panacea universal que viene a resolver todos nuestros problemas con soluciones mágicas

• Mejora en la investigación forense: facilita la investigación al analizar grandez conjunto de datos de forma rápida y eficiente, aportando así a comprender la naturaleza y el alcance de un incidente.

• Cerrar las brechas de seguridad: La IA se puede utilizar para identificar y corregir vulnerabilidades en los sistemas informáticos, darles apoyo a los responsables de esta para lograr una gestión eficaz y eficiente las brechas identificadas. Algunos ejemplos concretos de cómo se está utilizando la IA en ciberseguridad por grandes compañías son:•

Cisco utiliza la IA para detectar ataques de malware. La compañía ha desarrollado un sistema que utiliza aprendizaje automático para identificar patrones de comportamiento que son característicos de los ataques de malware. Este sistema ha ayudado a Cisco a detectar y detener ataques de malware con mayor rapidez y precisión.

• Microsoft utiliza la IA para proteger sus sistemas de correo electrónico. La compañía ha desarrollado un sistema que utiliza aprendizaje automático para identificar correos electrónicos maliciosos. Este sistema ha ayudado a Microsoft a reducir el número de correos electrónicos maliciosos que llegan a sus usuarios.

• Google utiliza la IA para proteger sus servidores. La compañía ha desarrollado un sistema que utiliza aprendizaje automático para identificar y bloquear ataques DDoS. Este sistema ha ayudado a Google a proteger sus servidores de ataques DDoS de gran escala.

La IA ayuda a equilibrar la seguridad con la experiencia del usuario analizando el riesgo de cada movimiento en los sistemas según sus necesidades, puede producir resúmenes de incidentes para alertas de alta fidelidad y automatizar la respuesta ante incidentes acelerando las investigaciones y la clasificación de los eventos reduciendo así el tiempo de respuesta, en la protección de datos pueden identificar datos ocultos , buscar anomalías y alertar a los responsables de seguridad sobre las posibles amenazas.

 

Los riesgos de la IA en ciberseguridad

 

No todo es color de rosa, como todo en el ecosistema la inteligencia artificial también tiene sus riesgos, y si hablamos de ciberseguridad podemos mencionar:

• Aumento de la sofisticación de los ataques: La IA puede utilizarse para crear ataques más sofisticados que sean más difíciles de detectar y bloquear, sobre todo con la cantidad de datos que los usuarios liberan el ciberespacio le permite personalizar más los ataques.

• Uno de los ataques que más han enfrentado las organizaciones es el Phishing donde el ciberdelincuente engaña a las víctimas para que revelen información confidencial, la IA permite perfilar los usuarios u objetivos gracias a las informaciones en las redes sociales dándole una falsa sensación de seguridad a los usuarios que caen en este tipo de ataques de manera recurrente. En los últimos 4 meses el incremento de ataques de phishing ha sido contante con un aumento de un 50% desde octubre 2023 hasta principios de enero 2024.

• Desinformación: La IA se puede utilizar para crear contenido falso o engañoso, lo que puede utilizarse para difundir desinformación o para engañar a las personas.

• Control por parte de actores maliciosos: La IA es una tecnología poderosa que puede utilizarse para controlar sistemas informáticos. Si actores maliciosos consiguen controlar sistemas informáticos que utilizan IA, podrían causar daños significativos.

• Desafíos éticos: la IA plantea cuestiones éticas sobre la privacidad y la autonomía, el análisis masivo de datos puede infringir la privacidad y la toma de decisiones autónomas.

• Sesgos en los algoritmos: los algoritmos con los que fueron creado la IA pueden heredar sesgos culturales o discriminatorios de los datos con lo que fueron creadas.

 

Algunos ejemplos concretos de cómo los grupos de hackers están utilizando la IA para atacar sistemas informáticos son:

• Se utilizó la IA para crear un ataque DDoS de gran escala contra un importante proveedor de servicios en la nube. El ataque provocó la interrupción de los servicios de la empresa durante varias horas. Mediante servidores de comando y control y potenciados por IA se logran crear los vectores y canales de comunicación de manera aleatoria dificultando así la respuesta a estos ataques.

• Se utilizó la IA para crear un malware que era capaz de eludir los sistemas de seguridad tradicionales. El malware pudo infectar a miles de ordenadores antes de que fuera detectado, esto se logra mediante el desarrollo de nuevas técnicas de ofuscación del código y generación automática de nuevos payloads (cargas utiles) de los cuales no tenemos registros o indicadores de compromisos conocidos.

• Se utilizó la IA para crear un ataque de phishing que era capaz de engañar a las personas para que revelaran información confidencial mediante la imitación de voz a partir de un texto, perfiles falsos en las redes, entre otras tantas técnicas El ataque resultó en la filtración de datos personales de millones de personas.

No hay duda de que la IA tiene el potencial de revolucionar la ciberseguridad, pero también plantea nuevos riesgos que debe ser abordados con medidas prácticas solidas. Es importante que las organizaciones sean conscientes de estos riesgos y tomen medidas para mitigarlos, promover la transparencia y la responsabilidad en el desarrollo de sistemas de IA y fomentar la formación continua. Algunas de las medidas que las organizaciones pueden tomar para mitigar los riesgos de la IA en ciberseguridad son:

•Utilizar la IA de forma responsable: Las organizaciones deben utilizar la IA de forma responsable y ética. Esto incluye utilizar la IA para mejorar la seguridad, pero también para mitigar los riesgos asociados a la IA.

• Mantener la IA actualizada: Las organizaciones deben mantener la IA actualizada para que sea resistente a los últimos ataques. Esto incluye realizar actualizaciones de software y parches de seguridad de forma regular.

•Formar a los empleados: Las organizaciones deben formar a sus empleados sobre los riesgos de la IA en ciberseguridad. Esto ayudará a los empleados a identificar y responder a los ataques de IA.

 

La IA se puede utilizar para crear contenido falso o engañoso

 

La IA es una tecnología poderosa que puede utilizarse para mejorar la ciberseguridad. Sin embargo, es importante ser conscientes de los riesgos asociados a la IA y tomar medidas para mitigarlos.

 

Conclusión

La Inteligencia Artificial (IA) es una tecnología disruptiva que tiene el potencial de transformar la ciberseguridad. Sin embargo, es importante ser conscientes de los riesgos potenciales para la ciberseguridad. Las organizaciones deben desarrollar estrategias para mitigar estos riesgos y aprovechar el potencial de la IA para mejorar su ciberseguridad.

Algunos de los pasos que las organizaciones pueden tomar para mitigar los riesgos de la IA para la ciberseguridad incluyen:

• Desarrollar una comprensión sólida de las amenazas que representan la IA para la ciberseguridad.

• Invertir en tecnologías y procesos de ciberseguridad que sean resistentes a la IA.

• Formar a los empleados sobre los riesgos de la IA para la ciberseguridad.

• Fomentar la colaboración entre pares para compartir información sobre amenazas y mejores prácticas.

 

SAIRA ISAAC
SAIRA ISAAC
ingsairaisaac@gmail.com &bnsp;&bnsp;&bnsp;&bnsp;&bnsp; Profesional con más de 12 años de experiencia en el área de seguridad de la información y auditoría de sistemas para diferentes sectores. Ha realizado implementaciones de diferentes framework de ciberseguridad, implementación de Centro de Operaciones de Seguridad (SOC), Equipo de Respuesta a Incidentes y Gestion de Riesgo de Ciberseguridad. Con Certificaciones tales como ISO/IEC 27005 Risk Manager, ISO/IEC 27035 Lead Incident Manager, ISO/IEC 27032 Lead Cybersecurity Manager entre otras.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *