Recargando la IA

Nvidia ha dominado por completo el mercado de chips de lA, al reutilizar semiconductores diseñados para videojuegos. Ahora, GROQ, una pequeña empresa fundada hace ocho años, desafía a una de las firmas más valiosas del mundo, con un chip diseñado desde cero y específicamente para lA.

- Richard Nieva

E1 primer indicio de que algo iba mal lo percibió Jonathan Ross en febrero, mientras hablaba ante miembros del Parlamento noruego y algunos ejecutivos del sector tecnológico en Oslo. Ross, de 42 años y CEO de Groq, una empresa de chips de Inteligencia Artificial (IA), estaba en medio de una demostración para revitalizar su marchita empresa: un chatbot de IA que podía responder preguntas casi al instante, más rápido de lo que un humano puede leer. Pero, por alguna razón, el chatbot se aletargaba. Esto inquietó a Ross, que estaba presentando un centro de datos europeo, impulsado por Groq, que mostraría los chips especializados responsables de esas respuestas "superrápidas". Él recuerda que su mente estaba más atenta a los números. "Nadie sabía por qué estaba tan distraído".

La causa del letargo era la afluencia de nuevos usuarios. Un día antes de la reunión en Oslo, un tuit viral de un entusiasta desarrollador que hablaba maravillas de "un motor de respuestas de IA ultrarrápido" envió toneladas de tráfico nuevo al demo online, colapsando los servidores de la firma. Era un problema, pero era bueno tenerlo.

Cuando fundó Groq, hace ocho años, la idea de Ross era diseñar chips de IA explicitamente para lo que en el sector se conoce como "inferencia": la parte de la IA que imita el razonamiento humano aplicando lo aprendido a nuevas situaciones. Es lo que permite que un smartphone identifique al perro del dueño como un Corgi en una foto que nunca ha visto antes, o que un generador de imágenes cree una del papa Francisco con un abrigo de Balenciaga. Es muy diferente de la otra tarea computacional de la IA: comenzar a entrenar los modelos masivos.

Pero no fue sino hasta que OpenAI lanzó ChatGPT a finales de 2022, cuando se desató un frenesí mundial por la IA. La demanda de inferencia superrápida era limitada, y la empresa cojeaba.