Corea del Norte hackea con IA: usaron ChatGPT para crear un deepfake y atacar a sus objetivos

Según un informe publicado por la firma surcoreana de ciberseguridad Genians, un grupo de hackers respaldado por el estado de Corea del Norte utilizaron la herramienta de IA más popular del momento, ChatGPT, para crear un borrador de una tarjeta de identificación militar surcoreana con un aspecto realista. El objetivo era hacer que su intento de phishing pareciera más creíble. En lugar de incluir una imagen real, el correo electrónico enlazaba a un malware capaz de extraer datos de los dispositivos de las víctimas.

El grupo detrás del ataque, conocido como Kimsuky, es una unidad de ciberespionaje vinculada a Corea del Norte que tiene una "misión de recopilación de inteligencia global". Este no es el primer caso en el que se ha descubierto que Corea del Norte utiliza la IA para sus operaciones. En agosto, Anthropic descubrió que hackers norcoreanos usaron su herramienta Claude Code para conseguir empleos remotos en empresas tecnológicas de Estados Unidos. En ese caso, Claude les ayudó a crear identidades falsas, pasar evaluaciones de codificación y entregar trabajo técnico real.

La IA, el nuevo cómplice del cibercrimen

La tendencia, según Mun Chong-hyun, director de Genians, demuestra que los atacantes pueden aprovechar la IA en todas las etapas del proceso de hacking, incluyendo la planificación de escenarios de ataque, el desarrollo de malware y la suplantación de identidad.

En este caso, los objetivos del phishing eran periodistas, investigadores y activistas de derechos humanos de Corea del Sur. Además, el correo se envió desde una dirección que imitaba a la de una dirección militar surcoreana.

Los investigadores de Genians, para probar esta vulnerabilidad, experimentaron con ChatGPT. Al principio, el bot se negó a crear la identificación porque la reproducción de documentos de identidad gubernamentales es ilegal en Corea del Sur. Sin embargo, al alterar el prompt, los investigadores pudieron evitar la restricción.

La forma en que Corea del Norte está utilizando la IA para sus operaciones de espionaje es una señal de cómo la tecnología puede ser utilizada para fines maliciosos, y de la necesidad de que las compañías de inteligencia artificial refuercen sus medidas de seguridad.