Nvidia dispara la velocidad de la IA a 3.400 tokens por segundo con su nuevo chip Groq 3 LPX

Escena editorial conceptual de un rack de servidores de inferencia de inteligencia artificial iluminado con luz ámbar y azul intensa dentro de un centro de datos oscuro, con chips de silicio personalizados visibles y estelas de luz que sugieren una velocidad de procesamiento extrema

Cuando le pides a un agente de IA que resuelva una tarea compleja, la mayor parte de la espera no está en que «piense», sino en que genere, palabra a palabra, la respuesta. Nvidia acaba de anunciar un chip diseñado exclusivamente para acelerar justo esa fase, y los números que presenta rompen la escala habitual.

Se trata del Groq 3 LPX, que la compañía confirmó el 24 de agosto de 2026 en la conferencia Hot Chips como su acelerador de inferencia dedicado, nacido de la compra de Groq por 20.000 millones de dólares. Nvidia asegura que ya está en producción a gran escala.

3.400 tokens por segundo, y cuatro veces más rápido que la plataforma habitual

El dato que ha llamado la atención de todo el sector es el benchmark: Groq 3 LPX alcanzó 3.400 tokens de salida por segundo ejecutando el modelo Gemma 4 de 31.000 millones de parámetros con un contexto de 100.000 tokens, según midió Artificial Analysis.

  • Nvidia lo describe como hasta 4 veces más rápido que la plataforma de inferencia habitual en cargas de trabajo sensibles a la latencia.
  • El chip se integra en la plataforma Vera Rubin, empaquetando 256 unidades por rack junto a CPUs Vera, DPU BlueField-4 y redes Spectrum-6.
  • El objetivo declarado: que tareas de programación o razonamiento en varios pasos, que hoy tardan horas en completarse por turnos, se resuelvan en minutos.

«La inferencia es el motor de crecimiento de la IA», declaró Jensen Huang, CEO de Nvidia, al presentar el chip. «LPX transforma cómo se produce la inteligencia» gracias a su generación ultrarrápida de tokens.

Infografía de cifras clave del chip Groq 3 LPX de Nvidia: entra en producción total el 24 de agosto de 2026 anunciado en Hot Chips, alcanza un récord de 3.400 tokens por segundo en el benchmark Gemma 4 31B con contexto de 100.000 tokens, integra 256 chips por rack en la plataforma Vera Rubin, llega tras la adquisición de Groq por 20.000 millones de dólares, es hasta 4 veces más rápido que la plataforma de inferencia habitual, Nebius es el primer cliente confirmado con su Token Factory, y los racks estarán en producción antes de que termine 2026

Nebius, primer cliente, y una carrera centrada en los «agentes»

La nube de IA Nebius ya ha confirmado que integrará Groq 3 LPX en su plataforma de inferencia Token Factory, y Nvidia adelanta que los primeros racks estarán operativos antes de que acabe 2026.

El movimiento confirma un giro de fondo en la industria: durante años la carrera de chips de IA se centró en entrenar modelos cada vez más grandes. Ahora, con la explosión de los agentes autónomos que encadenan pasos y llamadas a herramientas en tiempo real, la variable que decide si un producto es usable o frustrante es la velocidad de respuesta, no solo la inteligencia bruta del modelo.

Toque personal: por qué a tu negocio le debería importar la velocidad, no solo el precio

Si usas IA para atención al cliente, automatización de procesos o generación de código, probablemente compares proveedores fijándote en el precio por token o en qué tan «listo» es el modelo. Este anuncio apunta a una variable que se suele pasar por alto: cuánto tarda en responder bajo carga real.

  • Un agente lento no es solo incómodo: en atención al cliente en directo, en automatizaciones encadenadas o en copilotos de código, cada segundo de latencia acumulada multiplica el coste de oportunidad y la frustración del usuario final.
  • La competencia entre proveedores de infraestructura te beneficia indirectamente: cuantos más actores (Nvidia/Groq, chips propios de Google o Amazon, startups como Fractile) compitan en velocidad de inferencia, más presión a la baja habrá sobre el coste y el tiempo de respuesta que pagas tú.
  • Pregunta a tu proveedor de IA por su infraestructura de inferencia, no solo por el modelo: dos empresas que ofrecen «el mismo modelo» pueden dar experiencias muy distintas según el hardware que hay detrás.

La lección de fondo es que la próxima ventaja competitiva en IA no siempre vendrá de un modelo más inteligente, sino de una infraestructura capaz de entregar esa inteligencia sin fricción, en el momento exacto en que la necesitas.

Conclusión

Con Groq 3 LPX, Nvidia traslada la conversación de «qué tan grande es tu modelo» a «qué tan rápido puedes usarlo de verdad». Es una apuesta calculada: la adquisición de Groq por 20.000 millones de dólares empieza a dar sus frutos justo cuando el mercado más lo necesita, con la IA agencial exigiendo respuestas casi instantáneas.

¿Crees que la velocidad de inferencia será la próxima gran batalla de la IA, por delante de quién tiene el modelo más potente? Lo debatimos en los comentarios.

Anuncio confirmado en el newsroom de Nvidia, con cobertura adicional de SiliconANGLE y CNBC.

Simplifica con IA

https://negociosoptimizados.com

Simplifica con IA es el equipo editorial de Negocios Optimizados, especializado en inteligencia artificial aplicada a negocios y tecnología. Con más de 5 años cubriendo la industria tech, analizamos los avances más relevantes en IA, automatización empresarial y transformación digital. Nuestro enfoque combina experiencia técnica en machine learning, desarrollo de software y estrategia empresarial para ofrecer análisis prácticos y accionables. Publicamos diariamente las noticias de IA más impactantes y su impacto real en empresas y profesionales.

Quizás te interese...

Dejar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Transformación Digital en Empresas

Suscríbete al newsletter y obtén acceso gratuito a herramientas y guías diseñadas para impulsar tu negocio

Herramienta para convertir, optimizar y geolocalizar imágenes online. Guía completa para optimizar tu negocio en Google. Recopilación de +50 prompts de ChatGPT en español, ideales para marketing digital, SEO, programación, creación de imágenes y redes sociales.

Regalo en Newsletter
Optimización de imágenes
Grupo Negocios Facebook
Telegram