Señor Musk, no necesitamos un chatbot sarcástico. Necesitamos uno del que podamos fiarnos al 100%

Elon Musk ya tiene su alternativa a ChatGPT y Bard. Se llama Grok y es un chatbot llamativo por el enfoque con el que ha nacido. Estamos ante una IA sarcástica y que presume de tener acceso en tiempo real a X.

La pregunta, claro, es si a la vista de lo que hemos vivido estos últimos meses con los chatbots de OpenAI y de Google la propuesta de xAI sea justamente lo que necesitamos. Y no lo tenemos nada claro.

Según el anuncio oficial de xAI, con Grok quieren ofrecer una herramienta que "sea útil a gente de todos los perfiles y opiniones políticas", y además pretenden que sea "un asistente de investigación potente para cualquiera, ayudándoles a acceder rápidamente a información relevante, procesar datos y conseguir nuevas ideas".

Sin embargo, también destacaban como Grok "también contestará preguntas picantes que son rechazadas por la mayoría de los otros sistemas de IA".

En las capturas que han compartido algunos usuarios se ha demostrado que efectivamente este chatbot es capaz de contestar a preguntas delicadas como "cómo fabricar cocaina, paso a paso", aunque su respuesta no era en absoluto concreta o siquiera útil, sino que simplemente era sarcástica.

Pero hay algo más: es importante saber cómo hemos llegado hasta aquí.

Lo de parar máquinas era una maniobra de distracción

El 29 de marzo de 2023 Elon Musk encabezaba la lista de personalidades que mandaban un mensaje contundente en una singular carta abierta: "pedimos a todos los laboratorios de IA que pausen inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4".

Puede que muchos de los firmantes pensaran eso, pero el tiempo parece haber demostrado que al firmarla Elon Musk solo perseguía un objetivo: ganar tiempo. Apenas dos semanas después de aquella misiva, el Sr. Musk anunciaba el lanzamiento de xAI, su compañía de inteligencia artificial.

Tres días antes de aquello ya estaba claro que lo de firmarla había sido una maniobra de distracción, porque el CEO de X había comprado 10.000 carísimas GPUs para entrenar un modelo de inteligencia artificial. Blanco y en botella.

Luego llegarían los comentarios de Musk sobre la necesidad de trabajar en un nuevo chatbot llamado TruthGPT, un modelo que sería "una inteligencia artificial en busca de la máxima verdad". Aquello ha acabado en agua de borrajas, porque en el lanzamiento de Grok no hay ninguna mención a ese objetivo.

Musk, por cierto, ha comentado sobre su firma en aquella carta abierta. Hace unas horas explicaba en X que "la firmé sabiendo que era fútil. Solo quería que quedase registrado que recomendaba una pausa".

Grok no parece ser el chatbot que el mundo necesita

Es aún pronto para juzgar la capacidad de este chatbot: los propios ingenieros de xAI admiten que estamos ante un producto en una beta temprana —"lo mejor que pudimos hacer con dos meses de entrenamiento", confiesan—, y el propio anuncio oficial advertía de que, como sucede con otros chatbots, "nuestro modelo puede generar información falsa o contradictoria".

Ese es precisamente el gran problema de los chatbots actuales: no puedes fiarte de ellos, así que aunque en muchos ámbitos sus respuestas pueden ser útiles, es también probable que no sean precisas al 100%.

Tanto ChatGPT como Bard o Bing Chat han tratado de aliviar ese problema con algo importante: las citas a las fuentes o referencias de la información. Los buscadores tradicionales precisamente funcionan de forma inversa: ellos muestran resultados primero, pero es el usuario el que elige de qué fuente "se fía". Si esa página finalmente no respondía a la búsqueda realizada, siempre era posible volver a los resultados del buscador y elegir otra fuente para tratar de encontrar la respuesta.

Con los chatbots eso no ocurre: ellos contestan con una seguridad tan contundente que es hasta convincente: de primeras nos creemos lo que nos dicen ChatGPT o Bard, pero a día de hoy conviene contrastar esas respuestas, y es ahí donde esas citas que suelen incluir ayudan a los usuarios a revisar y validar la respuesta.

Grok de momento no parece hacer siquiera eso. Este chatbot, que ciertamente acaba de lanzarse, parece estar queriendo diferenciarse con una característica discutible: contestar de forma sarcástica y gamberra. Es algo que de hecho era posible lograr en ChatGPT, pero el problema de los chatbots no es ser más o menos formales, sino ser más o menos precisos.

Ahí también entra esa presunción de Elon Musk de considerar como una ventaja que Grok tenga acceso en tiempo real a X (antes Twitter). Que el modelo se entrene con los millones de publicaciones de esta red social es interesante, pero el problema aquí es que esta plataforma tiene —como otras— un problema de ruido: hay mucha desinformación, mucho bot y mucho contenido tóxico.

Alimentar al chatbot con esas conversaciones no parece a priori buena idea si uno quiere acabar obteniendo respuestas fiables. Es aquí inevitable acordarse de Tay, el bot conversacional que acabó publicando mensajes racistas dos días después de ser lanzado. ¿Acabará Grok siendo tan tóxico como Tay? Teniendo en cuenta los problemas que X en materia de desinformación, todo es posible.

En Xataka | Cómo tener una IA como ChatGPT local en tu ordenador con GPT4All