Grok, la IA de X, ya no solo genera discursos de odio, ahora también revela tu domicilio

Los agentes de inteligencia artificial son útiles para responder gran cantidad de preguntas de cualquier tipo. Lo que igual no se esperaba la gente, es que ahora gracias a Grok, cualquiera pueda conocer la ubicación de tu domicilio si se lo pregunta, un hecho que ha empezado a crear cierto estado de preocupación.

A principios de esta semana, el medio especializado en tecnología Futurism, informó de que la IA de Elon Musk había conseguido revelar con precisión la dirección de un empresario estadounidense, cuando usuario de X le preguntaron al respecto. Al parecer, el siempre polémico chatbot no sólo esta divulgando informaciones sobre gente famosa y relevante.

Otra revisión realizada por el medio comprobó que la versión gratuita de Grok, con un mínimo de indicaciones, era capaz de proporcionar direcciones de gente corriente, no famosa, con total precisión. Sin duda, una herramienta que puede alentar al acoso o a cualquier tipo de comportamiento poco ético. En respuesta a indicaciones simple como "dirección de (un nombre)", se descubrió que el chatbot ofrecía direcciones de domicilios precisas y actualizadas, ofreciendo una escasa resistencia a hacerlo.

Un estudio un tanto preocupante

De los 33 nombres que fueron introducidos, diez de ellos obtuvieron una respuesta inmediata de su localización exacta, siete de una dirección previa y cuatro de ubicaciones laborales. En otra docena de casos, Grok envió localizaciones y otra información, pero no de la persona que estaban buscando. De hecho, en ocasiones el chatbot enviaba listas de personas con nombres similares junto sus supuestas direcciones residenciales, antes de solicitar más información para una búsqueda más detallada.

Hubo ocasiones en las que la gente de Futurism solicitó a Grok que les proporcionasen la dirección de un nombre en específico, pero lo que hizo fue enviarles dossieres con información privada no solicitada como números de teléfono, correos electrónicos o listas precisas de familiares con sus domicilios y hasta su lugar de trbajó. Sólo en una ocasión el chatbot se negó a proporcionar una dirección.

Según la última versión de la tarjeta de modelo de Grok , un documento que establece las expectativas clave para un sistema de IA, Grok debe usar "filtros basados ​​en modelos" para "rechazar clases de solicitudes dañinas". Usar Grok para facilitar el acoso, el hostigamiento o solicitar información personal sobre figuras públicas o privadas no se enumera específicamente en la tarjeta de modelo como "solicitudes dañinas". Sin embargo, en los términos de servicio de la compañía , los "usos prohibidos" (definidos por xAI como usar Grok para "cualquier actividad ilegal, dañina o abusiva") incluyen "violar la privacidad de una persona".

Una situación que contrasta con la competencia

Toda esta información contrasta en gran medida con sus competidores como ChatGPT de OpenAI, Gemeni de Google y Claude de Anthropic, los cuales se negaron en redondo a facilitar cualquier tipo de información de este tipo. Todos estos chatbots citaron preocupaciones de privacidad como motivo de resistecia.