La IA despierta pasiones, pero, como la mayoría de las tecnologías antes que ella, no representa peligros sustancialmente nuevos. Sin embargo, eso no significa que debamos mirar para otro lado. Entre el alarmismo y la indolencia hay toda una escala de grises que debemos explorar para evitar que la IA encarne problemas que, si bien ya sufrimos, pueden verse acelerados y magnificados por el poder de esta tecnología. Por ejemplo, cabe la posibilidad de que la IA, lejos de acelerar el avance científico en su conjunto, ralentice algunas investigaciones y nos acabe lastrando más de lo que nos ayuda.

Desde ahí, desde ese extraño espacio de grises que no suele llegar a la prensa, nos habla Luiz Liz-Marzán, que acaba de co-publicar un paper en Nature Nanotechnology hablando sobre los peligros de la IA en la investigación científica. El doctor Liz-Marzán es Profesor Ikerbasque y líder del Laboratorio de Bionanoplasmónica en el CIC biomaGUNE (Donostia/San Sebastián) así como del Laboratorio de Nanomateriales Biomiméticos del Centro de Investigación de la Universidad de Vigo CINBIO. Un extenso currículum desde el que ha podido ver el antes y el después de la IA en la investigación.

El principio

“Nos preocupamos por la integridad de la ciencia.” Esas fueron las primeras palabras del doctor Liz-Marzán durante la entrevista. Una declaración de intenciones, como si quisiera justificar la necesaria crítica que seguiría. “El peligro que hemos detectado no es muy grave… todavía. La IA está avanzando a pasos de gigante. Cuando probé por primera vez ChatGPT me pareció que no valía para nada, pero un año después ya lo había incorporado entre mis herramientas.”

En sus respuestas empezaba a verse una cautela que le acompañaría durante toda la entrevista. No buscaba un titular sensacionalista y, tal vez por eso, el peligro del que alerta parece especialmente relevante, porque es real: no es desmesurado o inmediato y, sobre todo, no es pesimista. “Quiero creer que la gran mayoría de la comunidad científica es honesta y seguirá publicando imágenes reales, pero siempre hay gente que quiere avanzar demasiado rápido y está dispuesta a saltarse los procedimientos habituales.” Y, precisamente por eso, hace falta que empecemos a tomar medidas.

Una cuestión de grado

“Siempre ha habido casos de fraude científico y, aunque son una minoría, conocemos algunos escándalos muy graves” continúa el doctor Liz-Marzán. “La diferencia es que, antes, se manipulaban datos utilizando herramientas relativamente rústicas y, por lo tanto, fáciles de detectar. Es algo que está a la orden del día y hay grupos que se dedican a vigilar la ética en la práctica científica. Ahora, las nuevas herramientas no modifican imágenes, las generan y, por lo tanto, no es tan fácil identificar patrones que las delaten. De hecho, los propios autores de imágenes producidas con herramientas de IA tenemos grandes dificultades para distinguir la real de la falsa.”

¿Qué será de la credibilidad científica si las revistas continúan descuidando la calidad de las investigaciones que publican? ¿Qué pasará cuando la tecnología se convierta en una zancadilla para el sistema? No estamos ante un peligro nuevo, pero, como decíamos al principio del artículo, sí de mayor escala.

Posibles soluciones

Lo bueno de estos mensajes más realistas es que, al no desconectarse de la realidad, nos permiten buscar situaciones análogas en nuestro pasado y, por lo tanto, encontrar soluciones en antiguos problemas. “Compartir directamente los datos que generan los instrumentos científicos es algo que lleva tiempo sobre la mesa” sugiere el doctor, “De hecho, en los programas de financiación de la Unión Europea y el gobierno español ya es prácticamente obligatorio poner a disposición de la comunidad científica y el público general todos los datos generados en las investigaciones científicas con financiación pública.”

“Creamos enormes carpetas virtuales donde se pueden almacenar los datos generados por cualquier instrumento utilizado en la investigación para que queden disponibles para cualquiera que los quiera analizar”, reflexiona el doctor Liz-Marzán. “Nosotros lo estamos implementando ya, y creo que las editoriales deberían exigirlo como requisito para publicar una investigación.” No obstante, el experto no esconde que la solución no es tan sencilla

Aunque…

La meta está clara, pero alcanzarla depende de las limitaciones impuestas por el propio sistema de publicaciones, no solo de nuestra voluntad o de un puñado de ideas felices: “Los revisores científicos hacen una labor imprescindible, porque ayudan a cotejar la validez de una investigación y su novedad a partir de su experiencia en el campo. Algo que hacen sin esperar nada a cambio. Hay revisores que se miran muy en detalle las imágenes y los datos de las publicaciones que están revisando, pero pedir que vayan a los datos en bruto y que vuelvan a analizarlos o regenerar las imágenes me parece mucho más complicado”.

La propuesta del doctor Liz-Marzán es ligeramente distinta: “Lo que nosotros pretendemos es que esto esté disponible casi al instante de que la investigación se haya publicado, para que cualquiera interesado en ese trabajo pueda acceder a los datos. Sobre todo, si quieren reproducir la investigación.”Pero no termina aquí, porque la transparencia es solo el primer paso de un viaje mucho más largo hacia la verificación. “Necesitamos algún mecanismo para que las propias revistas incentiven que algunos laboratorios reproduzcan las investigaciones a cambio de cierta compensación”, continúa, “Una opción sería que esta replicación se publique adjunta a la investigación original y reporte, al menos, cierto mérito al equipo que la haya llevado a cabo. Son ideas difíciles de implementar, pero no imposibles.”

No todo es malo

Sin embargo, no todo es negativo, ni mucho menos, precisamente por no sirve con desterrar a la IA de la investigación, hemos de aprender a convivir con ella e, incluso, incentivarla. “Los dos premios Nobel de Física y Química se han dado a investigaciones que se apoyan en herramientas de inteligencia artificial. Hay muchas investigaciones que están avanzando más rápido de lo que esperábamos gracias a estas técnicas. De hecho, en mi laboratorio” indica el doctor, “estamos utilizando ya este tipo de técnicas para analizar datos muy complejos y determinar si lo que estamos buscando está realmente ahí.” Aportaciones de la IA que aceleran por un lado lo que, por otro lado, amenaza ralentizar.

Y es que, a pesar de lo que podemos pensar, el doctor Liz-Marzán nos alerta de que “La IA podría ralentizar la investigación científica. Si tenemos que repetir experimentos que sospechamos fraudulentos gastaremos tiempo, dinero y recursos públicos en repetir investigaciones que no aportan un conocimiento interesante. Yo me resisto a ser pesimista y prefiero creer en la honestidad de la comunidad científica, pero tampoco quiero minimizar el problema. Sigo creyendo que las editoriales y las agencias de financiación deberían tomar medidas para detectar cuanto antes estos fraudes y evitar que se publiquen.”

“Es importante que la sociedad comprenda que la ciencia requiere de la duda”, concluye el doctor Liz-Marzán. “Por muy bien hechos que estén los experimentos, muy honesto que sea el trabajo o bien explicado que esté, los resultados pueden ser incorrectos.” Y, si a esa falibilidad estructural le sumamos el fraude, deberemos multiplicar esa duda que ha caracterizado tanto a la ciencia.

QUE NO TE LA CUELEN:

• La IA se lleva empleando desde hace décadas en la investigación y, aunque con su progreso aumentan sus beneficios y sus riesgos, como indica Luis Liz-Marzán, tenemos algunas estrategias que, si reforzamos, podrían minimizar el mal uso de estas tecnologías.

REFERENCIAS (MLA):

• Davydiuk, N., Krieg, E., Gaitzsch, J. et al. The rising danger of AI-generated images in nanomaterials science and what we can do about it. Nat. Nanotechnol. (2025). https://doi.org/10.1038/s41565-025-02009-9