Hace poco NVIDIA cerró una jugada interesante en el mercado de inferencia. Adquirió el negocio de chips de Groq por 200 mil millones de dólares, trayendo al equipo clave liderado por Jonathan Ross. Lo curioso es que Groq sigue operando como empresa independiente, así que no es una absorción total.

Lo que me llamó la atención fue la explicación de Huang Renxun sobre por qué hicieron esto. Resulta que el mercado de inferencia no es monolítico. Antes, todo giraba alrededor de exprimir más rendimiento, punto. Pero ahora las cosas cambiaron. Los usuarios están dispuestos a pagar diferentes precios según la velocidad de respuesta. Si un ingeniero puede procesar tokens más rápido y ser más productivo, está dispuesto a invertir en eso.

Ahí es donde entra Groq. Su arquitectura LPU es conocida por latencias deterministas bajas, lo opuesto a lo que hace NVIDIA con sus GPUs de alto rendimiento. Es como si estuvieran completando un espectro: por un lado, máximo rendimiento; por el otro, máxima velocidad de respuesta. Dos segmentos del mercado, dos precios distintos, mismo modelo.

En la conferencia GTC de marzo lanzaron el Groq 3 LPU con proceso de 4 nm de Samsung. Los números son impresionantes: 35 veces más eficiencia en inferencia por megavatio comparado con el Blackwell NVL72. Es el tipo de diferenciación que abre nuevos mercados en lugar de solo competir en el existente.

La jugada de Groq aquí es clara: mientras NVIDIA domina el alto rendimiento, ellos se especializan en lo que necesitan los usuarios que valoran la velocidad sobre todo. Dos estrategias, un ecosistema más completo.