Cómo afectará la IA al mercado del phishing en 2024

Las nuevas tecnologías se convertirían no solamente en una innovación, sino también en una preocupación constante para toda la industria. Especialmente, para las organizaciones de ciberseguridad, quienes temen que la IA tome un papel vital en las tácticas de phishing de los ciberdelincuentes. De ahí que constantemente trabajen en estrategias y herramientas para mitigar posibles peligros asociados a estas aplicaciones.

Sin embargo, sus preocupaciones comienzan a manifestarse en la realidad. Ya que cada vez se observan más grupos enteros de ciberdelincuentes que se organizan para llevar a cabo estafas de phishing masivas en distintos sectores. Asimismo, valiéndose de tácticas de ingeniería social para engañar a las víctimas y obtener información confidencial, como contraseñas o datos financieros.

Expertos advierten el peligro inminente de la IA en el phishing

De ahí que empresas como Trend Micro constantemente adviertan sobre los peligros de los grandes modelos de lenguaje. Ya que estos no solo son capaces de llevar estafas masivas de forma simultánea, sino también de generar empatía y confianza entre las posibles víctimas. Esta capacidad de automatizar y personalizar ataques hace que sean aún más peligrosos y difíciles de detectar.

Tal como transmite Eric Skinner (Vicepresidente de Estrategia de mercado de Trend Micro), quien explica que los LLM avanzados son capaces de distribuir estos mensajes de forma masiva y en cualquier idioma. Por lo que se trata de una amenaza apremiante y es necesario concienciar a las personas al respecto. Así como a cualquier personal laboral que pueda comprometer información crítica de las empresas.

Ciberdelincuentes suplantan marcas enteras para llevar a cabo ataques

Pero eso no es todo, ya que los ciberdelincuentes con acceso a una IA generativa, son capaces de recrear fielmente cualquier contenido audiovisual. Así como imágenes, logotipos o tipografías asociados a una marca. Tan solo hay que observar el más reciente caso de Adobe o la estafa de Bizum, en la que clonarían completamente su respectiva página web.

Una vez hecho, tan solo bastó con transmitir un mensaje de forma masiva, en el que aseguraban que se comprometió su integridad bancaria. Esta táctica recurre tanto a la sorpresa como al miedo del usuario, quien accede casi sin pensar al enlace. Posteriormente, ingresa los datos correspondientes, números, direcciones, identificación y demás. Así, sin darse cuenta, termina entregando sus credenciales reales.

La compenetración de estos ataques llevaría a muchos expertos a afirmar que seguirán aumentando en complejidad. En un escenario preocupante, se plantea la posibilidad de que los ciberdelincuentes comprometan los propios conjuntos de datos utilizados para entrenar modelos. Esto abriría la puerta a ataques completamente impulsados por IA, no solo limitados al phishing, sino capaces de infiltrarse en sistemas y redes completas.

Una amenaza que exige sistemas de seguridad más sólidos

Recordemos que el phishing es una técnica muy peligrosa que combina soluciones informáticas con ingeniería social para engañar a los usuarios. Al existir un factor humano, muchas veces comenten errores que facilitan detectarlos. Pero, con la ayuda de la IA, estos son cada vez más sofisticados, utilizando algoritmos de aprendizaje automático en campañas de correo electrónico e incluso mensajes de texto.

Según las afirmaciones de Trend Micro, las empresas deberían no solamente concientizar a las personas sobre el phishing, sino también trabajar en sistemas de seguridad mucho más robustos y eficientes. De hecho, esto es algo en lo que gigantes como Microsoft ya están trabajando, desarrollando herramientas de seguridad capaces de detectar anomalías automáticamente, aislarlas y alertas a los departamentos de seguridad correspondientes.

La importancia de la carrera por la IA frente a los ciberdelincuentes

Afortunadamente, la situación todavía no escala a niveles más alarmantes, como ataques o malware completamente automatizados. Ya que los infractores temen que su propia información sea comprometida y caiga en manos de los desarrolladores de estos modelos. De hecho, existen casos como un pirata informático de la deep web, quien en un intento de demostrar que la IA era el futuro de los ataques informáticos, terminó divulgando su propia información personal.

Es por esta razón que cada vez más líderes del sector de seguridad trabajan en mejorar sus sistemas. Al mismo tiempo que las empresas en proceso de digitalización, entienden la importancia de contar con departamentos especializados en ciberseguridad. Así como estrategias para actuar eficientemente en casos de ataques de phishing o ramsomware impulsados por IA. Todo en un intento por ganar la carrera por la seguridad de los datos.