ChatGPT se vuelve loco: ¿qué ha pasado con la IA de OpenAI?
Yo no sé a vosotros, pero a mí, la idea de que ChatGPT o sus hermanos y primos fallen de la noche a la mañana me produce un miedo atroz. Desde que los Modelos Grandes de Lenguaje llegaron a mi vida (y a mi trabajo), mi actividad ha cambiado de manera drástica, y siento escalofríos ante la idea de tener que volver “a lo de antes”.
Pero, ¿qué pasó exactamente con ChatGPT? Según parece, el chatbot de OpenAI sufrió un mal funcionamiento durante la noche del 20 al 21 de febrero de 2024, lo que provocó que diera respuestas incoherentes e incomprensibles a los usuarios.
Errores y fallos en ChatGPT
Los usuarios de ChatGPT comenzaron a informar de respuestas extrañas y sin sentido por parte del chatbot. Algunas de estas respuestas incluían cambios de idioma, loops interminables y hasta correciones repetidas sin sentido. En un caso, un usuario de Reddit recibió la siguiente respuesta cuando preguntó por la familia Jackson de músicos: “Schwittendly, el sparkle of tourmar on the crest has as much to do with the golver of the ‘moon paths’ as it shifts from follow”.
Ejem.
OpenAI se dio cuenta del problema a las 10:40 PM ET y comenzó a investigar. Poco después, la compañía anunció que había encontrado el problema y estaba trabajando en una solución. Tras cuatro horas y media de espera, OpenAI informó de que el incidente se había solucionado.
¿Por qué ha fallado ChatGPT?
Es importante destacar que los Modelos Grandes de Lenguaje, como ChatGPT, son esencialmente predictores de texto muy sofisticados. Están diseñados para encontrar patrones en los datos y hacer su mejor esfuerzo para responder a la entrada de los usuarios. Sin embargo, esto también significa que pueden generar “alucinaciones” y respuestas inesperadas.
A pesar de que, según algunas fuentes, los errores de ChatGPT pueden estar relacionados con un meme común en las redes sociales en el que se pide a los usuarios que escriban una palabra en su teléfono y luego toquen repetidamente la misma sugerencia de palabra para ver qué sucede, lo cierto es que nada es seguro en este punto salvo el miedo que miles de usuarios han sentido ante la posibilidad de que su nuevo becario les falle en el momento más inoportuno.
IA Generativa: una tecnología en constante evolución
Es importante recordar que los chatbots de IA Generativa, como ChatGPT, son una tecnología en constante evolución y que los Modelos Grandes de Lenguaje que los alimentan son esencialmente cajas negras que incluso sus creadores no entienden completamente de manera detallada. Aunque suelen producir unos resultados impresionantes, pueden también generar alucinaciones, dar respuestas manipulativas, mejorar sus resultados cuando se les ofrece dinero o incluso mostrar cierto grado de pereza.
Conclusión
El fallo de ChatGPT es un recordatorio de que la tecnología de IA y los Modelos Grandes de Lenguaje son todavía muy jóvenes y se hallan en constante evolución. Si bien se han convertido en una herramienta imprescindible para muchos, disponer de un plan B puede ahorrarnos muchos dolores de cabeza.
Enlaces externos
Si el plan A no funciona, tranquilo: el alfabeto tiene veintiséis letras más.
Claire Cook
