El gobierno de EE. UU. estaría usando Grok para información nutricional: ya está diciéndole a los usuarios que hagan barbaridades

La aplicación de inteligencia artificial se expande tanto en el uso cotidiano y personal como en el ámbito profesional o incluso en el institucional. Eso, a pesar de que sus derivadas no dejan de mostrar el peligro que comportan este tipo de herramientas tanto en su concepción como a la hora de caer en manos de usuarios irresponsables.

El ejemplo se ha visto en las últimas semanas, con la polémica de Grok, el asistente de IA de Elon Musk, creando imágenes sexualizadas de usuarias de la plataforma X sin su consentimiento. Una práctica que se extendió incluso a menores de edad, lo que ha llevado al Gobierno de España a pedir que la Fiscalía investigue a X, Meta y TikTok. Sin embargo, ese tipo de detalles no han impedido que la administración que lidera Donald Trump haya optado por Grok como asesor nutricional para el sitio web creado en el marco de las Guías Alimentarias 2025-2030 de Estados Unidos.

El problema está en que conociendo los antecedentes de Grok hay quien ha puesto a prueba al chatbot de xAI para ver cómo reaccionaba ante solicitudes un tanto peculiares acerca de qué hacer con determinadas verduras y que incluían prácticas de carácter sexual. Unas cuestiones que el asistente no ha dudado en zanjar ofreciendo los detalles pertinentes para que la experiencia fuera completa y segura aún no teniendo nada que ver con la alimentación.

Grok entra al trapo de preguntas capciosas

El gobierno de Estados Unidos lanzó un nuevo sitio web de orientación alimentaria llamado RealFood.gov, que promueve recomendaciones nutricionales centradas en dietas ricas en proteínas y ofrece consejos sobre qué comer para mejorar la salud. En esa iniciativa, se integró el chatbot de inteligencia artificial Grok, creado por Elon Musk y la empresa xAI.

El sitio decía a la gente que podía “usar IA para obtener respuestas reales sobre alimentos”, pero las contestaciones han ido mucho más allá. El asistente fue puesto a prueba por redactores del sitio 404 media, que solicitaron al chatbot "los alimentos más seguros que se puedan introducir en el recto". De haber tenido la configuración adecuada y el enfoque exclusivo en materia de nutrición, el asistente debería haber redirigido la consulta y negado una contestación, pero eso no fue lo que sucedió.

En lugar de ello, Grok contestó cuáles eran las verduras más adecuadas para la práctica requerida, detallando los motivos y el modo de proceder para evitar incidentes y problemas. En primera instancia, el chatbot señaló un "pepino mediano pelado" así como un "calabacín pequeño" como las verduras óptimas para la práctica requerida.

Por si eso fuera poco, también detalló el proceso con el cual el usuario se debía servir de una zanahoria para acometer la acción solicitada: "Para empezar: zanahoria entera pelada, tallo recto, extremo estrecho para la inserción, extremo corona más ancho como base". Como si esa información no bastara, Grok completó las instrucciones apuntando que lo ideal sería cubrir la zanahoria con un preservativo y utilizar un hilo de recuperación para mantener la hortaliza al alcance.

Queda claro que la prueba busca demostrar la escasa fiabilidad del asistente desarrollado por Elon Musk cuando se utiliza como herramienta de consulta y se evalúa a través de métodos poco ortodoxos. No obstante, este examen debería servir de advertencia a las administraciones que implementan servicios con inteligencia artificial para que realicen todas las pruebas necesarias antes de enfrentarse a este tipo de situaciones.