El fraude de la IA en Amazon: el 82% de los libros más vendidos sobre salud y remedios naturales están escritos por bots

Una nueva investigación, realizada por la compañía de detección de IA Originality.ai, ha destapado un fraude colosal en el e-commerce más grande del mundo. Tras escanear 558 títulos en la subcategoría de remedios herbales de Amazon entre enero y septiembre de este año, la firma encontró que el 82% de los libros fueron "escritos probablemente" por IA.

Michael Fraiman, autor del estudio, lo ha definido como una "revelación condenatoria de la magnitud de contenido sin etiquetar, sin verificar y sin control que ha invadido completamente la plataforma de Amazon".

Autores que no existen y la venta de "basura"

La gravedad del problema va más allá de la mera falsificación. En un tema tan delicado como la salud, los bots están vendiendo información potencialmente peligrosa:

• Falta de credibilidad: uno de los libros aparentemente escritos por IA, Natural Healing Handbook, es un best-seller en varias subcategorías de Amazon. Su autora, Luna Filby, se presenta como una herbolaria de 35 años. Sin embargo, ni la autora ni la marca que promociona tienen ninguna presencia online más allá de la página de Amazon, lo que indica que podrían no existir. El detector de Originality.ai marcó la muestra como 100% generada por IA.
• Contenido peligroso: el estudio encontró que al menos 29 de estos libros escritos por IA hacen referencia al trabajo de herbolarios con historial de promoción de curas no probadas para el cáncer.

Una herbolaria médica de Liverpool, Sue Sprung, advierte de forma clara que la inteligencia artificial no tiene la capacidad de diferenciar entre la "basura y lo que no tiene absolutamente ninguna consecuencia" en la investigación de remedios naturales, lo que puede "confundir a la gente".

El ultimátum a Amazon

El auge de este contenido basura (o AI slop, como se le suele conocer comúnmente) en Amazon no es nuevo. El año pasado ya se advirtió a los recolectores de setas que evitaran los libros sobre recolección vendidos en la plataforma, ya que contenían consejos cuestionables.

Ahora, la industria editorial está pidiendo medidas drásticas. Dan Conway, CEO de la Asociación de Editores, exige que Amazon etiquete "cualquier libro que esté totalmente escrito por IA" y que el contenido sin verificar sea eliminado "con carácter de urgencia".

Amazon, por su parte, ha respondido con un comunicado genérico, asegurando que tienen directrices y métodos para detectar contenido que viola sus normas. Pero la cifra del 82% demuestra que, por ahora, la ambición de los bots por lucrar a sus creadores con la salud está ganando la partida.