“Ahora mismo puedes subir tus radiografías o imágenes de resonancia magnética a Grok y te dará un diagnóstico médico. He visto casos en los que es incluso mejor que lo que te dicen los médicos”. Con estas palabras, Elon Musk, el dueño de Twitter (ahora X), alabó las capacidades de Grok, la IA de la red social, para analizar imágenes médicas durante el pódcast The Joe Rogan Experience. Ya lo ha hecho antes: en su cuenta de X, la más popular en la plataforma con más de 219 millones de seguidores, ha recomendado por lo menos unas cinco veces usar su chatbot de IA generativa para analizar datos sanitarios (que son sensibles y están especialmente protegidos) como escáneres, resultados de sangre y otras análiticas. 

Pero la recomendación del líder del nuevo Departamento de Eficiencia Gubernamental (DOGE) del Gobierno estadounidense contradice la propia Política de Privacidad de xAI, la compañía de Musk que desarrolla Grok, que pide a los usuarios no proporcionar información personal e indica que los documentos que se compartan con esta IA son recopilados y pueden compartirse con terceros. Este no es el único riesgo: los chatbots de IA no son una fuente fiable de información y pueden cometer errores, también en sus diagnósticos. Por ejemplo, una radióloga tuiteó que Grok confundió una mamografía con la imagen de un cerebro. Los médicos consultados por Maldita.es no recomiendan el uso de Grok con estos fines, ya que puede resultar en tratamientos inadecuados. 

https://twitter.com/cb_doge/status/1895620740214632457

Elon Musk ha recomendado en reiteradas ocasiones compartir documentos e imágenes médicas con Grok para recibir diagnósticos de salud

Desde octubre de 2024, Elon Musk lleva recomendando a sus seguidores probar el chatbot de IA generativa de X para analizar documentos médicos y recibir un diagnóstico. “Intenta subir rayos X, PET (tomografías por emisión de positrones), MRI (imágenes por resonancia magnética) u otras imágenes médicas a Grok para su análisis. Sigue en una etapa temprana, pero ya es bastante exacto y se volverá extremadamente bueno. Dinos cuándo Grok acierta y cuándo necesita mejorar”, tuiteó el 29 de octubre de 2024 en una publicación con más de 41 millones de visualizaciones. 

Desde entonces, ha publicado por lo menos otras cuatro veces con la misma recomendación y ha aparecido en el pódcast del comediante estadounidense Joe Rogan animando a usar Grok con estos fines. “Puedes subir cualquier imagen a Grok, incluyendo imágenes médicas y recibir su opinión (no de doctor). Grok diagnosticó de forma correcta a un amigo a partir de sus escáneres”, tuiteó el 9 de noviembre del año pasado, con más de 8,6 millones de visualizaciones. 

En estas publicaciones, el dueño de Tesla y SpaceX también ha sugerido a sus seguidores compartir con el chatbot de IA resultados de pruebas de sangre y otras analíticas. Los documentos como radiografías o diagnósticos son datos sanitarios que se consideran información sensible y están especialmente protegidos, tal y cómo recoge el artículo 9 del Reglamento General de Protección de Datos (RGPD). 

Esta recomendación que Musk ha hecho una y otra vez entra en contradicción con la Política de Privacidad de xAI, su compañía detrás del desarrollo de Grok. En esta, la empresa dice no pretender recopilar información personal confidencial, como información sobre la salud o datos biométricos de los usuarios. “Te solicitamos que no nos proporciones dicha información”, pide la norma de la propia empresa. Además, el texto señala que xAI “no procesa datos de entrenamiento con el propósito de inferir o deducir datos sensibles o de categoría especial” y que tampoco “busca activamente fuentes de datos que incluyen datos sensibles o de categoría especial”. 

La misma política también aclara que recopilan información de los ‘prompts’ (instrucciones de texto) y documentos que subimos a Grok, “como archivos, imágenes, audios y otros materiales”, y que si compartimos información personal, esta puede ser “reproducida” en los resultados del chatbot: “Te pedimos que no incluyas información personal en tus entradas, sin embargo, no podemos controlar lo que nos entregas”. 

La información que recopilan del contenido de los usuarios, según xAI, puede usarse para analizar, mantener, desarrollar y mejorar el chatbot, además de para garantizar su seguridad e integridad y realizar investigaciones. La política indica que esta información puede compartirse con “proveedores, en relación con transferencias comerciales y a las compañías asociadas”, con los riesgos que esto puede conllevar. 

Fuente: Maldita.es