Un experto, sobre la IA de Windows: ‘Microsoft nos va a hacer retroceder una década en ciberseguridad’

Microsoft lanza este mes sus PC IA bajo la marca Copilot+. Son equipos enfocados al uso de la inteligencia artificial que deben contar con una NPU, un coprocesador especializado en IA, con un rendimiento de al menos 40 TOPS para poder ejecutar modelos de lenguaje en el dispositivo. Entre las funciones de las que la IA se encargará en estos equipos se encuentra Recall, que toma capturas de casi todo lo que el usuario hace en el PC y presenta una línea de tiempo que le facilita ver lo que estaba haciendo, por ejemplo, un mes antes.

Las implicaciones para la privacidad son evidentes y diversos expertos la han calificado como un ‘desastre’. Kevin Beaumont es uno de ellos y tras estar probando la función durante una semana ha asegurado que con Recall ‘Microsoft deliberadamente retrasará la ciberseguridad una década y pondrá en peligro a los clientes al empoderar a los delincuentes de bajo nivel’.

El motivo tras esta afirmación es que Recall almacena datos que registra en una base de datos en texto plano, a pesar de la promesa de Microsoft de una experiencia segura y encriptada con esta función. Esto podría facilitar que un atacante utilice malware para extraer la base de datos y su contenido.

En una publicación en su blog, el experto en ciberseguridad explica que ‘cada pocos segundos, se toman capturas de pantalla. Estas son reconocidas automáticamente por Azure AI, que se ejecuta en tu dispositivo, y se escriben en una base de datos SQLite en la carpeta del usuario. Este archivo de base de datos tiene un registro de todo lo que has visto en tu PC en texto plano’. Es decir, no tiene ningún tipo de protección y para acceder a su contenido basta con abrirlo.

It's just an SQLite database, feature ships in a few weeks - I've already modded it into an Infostealer hosted on Microsoft's Github (a few lines of code)

Microsoft are going to deliberately set cybersecurity back a decade & endanger customers by empowering low level criminals.

— Kevin Beaumont (@GossiTheDog) May 30, 2024

Beaumont compartió en X un ejemplo de la base de datos en texto plano y reprochó a Microsoft decir a los medios que un hacker no puede exfiltrar la actividad de Recall de forma remota. La base de datos se almacena localmente en un PC, pero es accesible desde la carpeta AppData, en teoría, solo si eres administrador en el PC, que es la configuración de uso más habitual. De acuerdo con el experto, la base de datos es accesible incluso si no eres administrador.

Su preocupación es que Recall facilite que los atacantes roben información con malware. Ya existen troyanos InfoStealer para robar credenciales e información de PCs que se distribuyen habitualmente. ‘Recall permite a los actores de amenazas automatizar el scraping [extraer información de forma automatizada] de todo lo que has visto en cuestión de segundos,’ asegura Beaumont.

El experto ha exfiltrado su propia base de datos de Recall y la ha subido a Github para que cualquiera pueda buscar lo que quiera en ella. ‘Estoy reteniendo deliberadamente detalles técnicos hasta que Microsoft lance la función porque quiero darles tiempo para hacer algo,’ afirma.

Actualmente, Microsoft planea habilitar Recall por defecto en los PC Copilot+ y no hay opción de deshabilitarla durante el proceso de configuración a menos que se marque una opción que posteriormente abre el panel de Configuración para hacerlo. Microsoft todavía estaría considerando cambiar el proceso de configuración.

Los controles de privacidad que ofrece Recall permiten deshabilitar la captura de ciertas URLs y aplicaciones. Tampoco almacena ningún material protegido con herramientas de gestión de derechos digitales ni realiza capturas de ‘ciertos tipos de contenido’, entre los que se incluye las sesiones de navegación en modo incógnito.

‘Las capturas de Recall se mantienen en los PCs Copilot+, en el disco duro local, y están protegidas mediante encriptación de datos en tu dispositivo y (si tienes Windows 11 Pro o una versión empresarial de Windows 11) BitLocker,’ explica Microsoft en su página de preguntas frecuentes.

Sin embargo, Beaumont señala que la encriptación de disco es útil solo para ciertos escenarios. ‘Cuando inicias sesión en un PC y ejecutas software, las cosas se descifran para ti. La encriptación en reposo solo ayuda si alguien viene a tu casa y roba físicamente tu laptop — eso no es lo que hacen los hackers criminales.’