Hace unos días recibíamos, con cierta sorpresa y quizá algo de escepticismo, la noticia de que Elon Musk había prometido publicar Grok, el modelo de lenguaje integrado en X, como código abierto.

Hay que entender este movimiento en su contexto: desde hace semanas, el millonario norteamericano mantiene una guerra declarada con OpenAI, a la que ha demandado por abandonar su misión original de desarrollar la inteligencia artificial para el bien de la humanidad en busca de beneficios.

El gesto de Musk, más allá de los dimes y diretes legales, parece buscar reivindicar la filosofía de transparencia y accesibilidad en el campo de la IA. Liberando Grok, no solo plantea un reto directo a OpenAI y a su modelo ChatGPT, sino que también invita a la comunidad global de desarrolladores a colaborar y avanzar en el desarrollo de sistemas de inteligencia artificial más robustos y éticos.

Este movimiento por parte de Musk y su compañía xAI, que parece querer posicionarse como un faro ético en el desarrollo de IA, podría tener implicaciones significativas. Al proporcionar una herramienta tan poderosa como Grok, con sus 314.000 millones de parámetros, Musk está apostando por una democratización del conocimiento en IA, que hasta ahora se encontraba en manos de unos pocos gigantes tecnológicos.

Sin embargo, algunas voces en la comunidad científica expresan cautela, señalando que la falta de datos de entrenamiento compartidos junto con el modelo puede limitar la capacidad de los investigadores para comprender completamente y mejorar Grok. Además, aunque la licencia Apache 2.0 permite su uso comercial, la responsabilidad del uso ético de la IA recae ahora en una comunidad mucho más amplia y diversa, lo que plantea nuevos desafíos en la gobernanza y regulación de la tecnología.

A pesar de las posibles dificultades, el optimismo es palpable. Con Grok en manos de la comunidad de código abierto, estamos ante la posibilidad de un avance colaborativo sin precedentes en la IA. Podríamos ver mejoras en la precisión, la interacción y la aplicabilidad de los modelos de lenguaje a una velocidad nunca antes posible, impulsadas por la innovación colectiva en lugar de la competencia corporativa.

El tiempo dirá si la apertura de Grok catalizará la próxima ola de innovaciones en IA o si, por el contrario, evidenciará las dificultades intrínsecas de gestionar una tecnología tan poderosa en un modelo completamente abierto. Por ahora, la comunidad observa y espera con expectación, lista para adentrarse en una nueva era de inteligencia artificial colaborativa.

¿Qué (quién) es Grok?

Grok es un chatbot de IA desarrollado por xAI para responder preguntas y brindar información sobre diversos temas globales. Utilizando la plataforma X (anteriormente Twitter), Grok tiene acceso a conocimientos en tiempo real sobre eventos mundiales. Como primer producto públicamente lanzado por xAI, Grok forma parte de sus herramientas de inteligencia generativa artificial.

El nombre “Grok” proviene de la novela de Robert Heinlein “Stranger in a Strange Land” de 1961 (traducida al español como Forastero en tierra extraña, cuya lectura recomiendo. Si no conoces a Heinlein, es una forma magnífica para comenzar). Es un término sin traducción directa a los idiomas terrestres, pero implica la capacidadd para entender algo por intuición o empatía. El fundador de xAI, Musk, se ha referido a esta explicación.

Grok está impulsado por Grok-1, el modelo de lenguaje desarrollado desde septiembre de 2023. Grok-1 es una actualización significativa de Grok-0 con mayor capacidad de razonamiento y codificación.

Aquí hay varios hechos que conocemos sobre Grok:

  1. Grok tiene personalidad: A diferencia de otras plataformas de IA que son principalmente serias, Grok parece haber sido inspirado por el fundador de xAI, Elon Musk. Se diseñó para responder preguntas con un poco de ingenio y tiene una racha rebelde.
  2. Grok se actualiza en tiempo real: A través de la plataforma X, Grok tiene acceso a información actualizada sobre diversos temas. Sin embargo, no está claro cómo se mantendrá actualizado sobre la información o puntos de vista contrarios que no aparezcan en X.
  3. Grok no evita preguntas controvertidas: Según Musk, Grok responderá preguntas que la mayoría de los otros sistemas de IA rechaza. Hay que recordar que Elon Musk mantiene una activa batalla contra la ideología woke, por lo que es probable que Grok aborde temas polémicos como la política mundial, la raza y las tendencias sociales.
  4. Si bien Grok muestra capacidades avanzadas, no parece alcanzar a los modelos más potentes.
  5. Hasta ahora mismo, Grok solo estaba accesible para usuarios registrados de X.
  6. Grok es gigantesco: el modelo cuenta con 314B parámetros (314.000 millones).

Especificaciones técnicas

De acuerdo con GitHub, Grok presenta las siguientes características:

CaracterísticaDescripción
Parámetros314B
ArquitecturaMezcla de 8 Expertos (Mixture of Experts, MoE)
Utilización de Expertos2 expertos utilizados por token
Capas64
Cabezas de atención (Attention heads)48 para consultas, 8 para claves/valores
Tamaño de incrustación (Embedding size)6,144
TokenizaciónTokenizador SentencePiece con 131,072 tokens
Características AdicionalesIncrustaciones rotatorias (RoPE), soporte para fragmentación de activación y cuantización de 8 bits
Longitud Máxima de Secuencia (contexto)8,192 tokens

Enlaces externos

Leave a Reply

Your email address will not be published. Required fields are marked *