• Hasta 100 veces más transacciones de inferencia: los flujos agénticos pueden multiplicar la demanda de procesamiento respecto de interacciones de chat convencionales.
  • Una brecha de preparación tecnológica: 90% de las empresas busca adoptar IA agéntica, pero solo 17% considera que su infraestructura está lista, según cifras citadas por Google Cloud.
  • La eficiencia será una ventaja competitiva: combinar GPUs, TPUs, CPUs y software abierto permite optimizar recursos, aunque requiere medir costos, latencia y portabilidad en cada implementación.

La transición de la inteligencia artificial generativa hacia sistemas agénticos está modificando las reglas del cómputo empresarial. Lo que antes requería una interacción entre un usuario y un modelo de lenguaje ahora puede desencadenar cientos de operaciones simultáneas, consultas a bases de datos, ejecución de herramientas y procesos coordinados entre distintos agentes.

Durante el The Six Five Summit: AI Unleashed 2026, Daniel Newman conversó con Mark Lohmeyer, vicepresidente y gerente general de Infraestructura de IA y Cómputo de Google Cloud, sobre una consecuencia poco visible de esta transformación: la demanda de transacciones de inferencia puede multiplicarse entre 50 y 100 veces conforme las empresas adoptan arquitecturas agénticas.

La paradoja es que la adopción avanza más rápido que la preparación tecnológica. De acuerdo con cifras de investigación citadas por Lohmeyer, 90% de las empresas busca implementar IA agéntica, pero únicamente 17% considera que su infraestructura está preparada para soportar las cargas de trabajo previstas.

La diferencia revela una brecha estructural: las organizaciones están desarrollando agentes más rápido de lo que modernizan los sistemas encargados de ejecutarlos.

¿La IA agéntica está transformando realmente el negocio publicitario o solo está multiplicando sus costos tecnológicos? En Adtech analizamos la infraestructura, los datos y las decisiones que están definiendo el futuro del marketing digital. Forma parte de la Comunidad y entiende lo que hay detrás de la tecnología.

Unirse

De los chatbots a los agentes: por qué cambia la demanda de cómputo

En la primera etapa de la IA generativa, buena parte de las aplicaciones operaba bajo una secuencia relativamente lineal: el usuario ingresaba una instrucción, el modelo procesaba la información y devolvía una respuesta.

La IA agéntica introduce una arquitectura distinta. Una sola solicitud puede activar múltiples agentes especializados, cada uno con capacidad de ejecutar subtareas, mantener el estado de sus operaciones y comunicarse con sistemas externos mediante interfaces de programación de aplicaciones (APIs).

💡
En publicidad digital, por ejemplo, una instrucción para optimizar una campaña podría activar procesos paralelos encargados de analizar audiencias, consultar inventario, evaluar el rendimiento de creatividades, revisar presupuestos y recomendar modificaciones en la distribución de inversión.

Cada interacción puede consumir tokens, recursos de memoria, capacidad de procesamiento y conexiones con otros servicios. El resultado es una carga que deja de depender exclusivamente del número de usuarios y comienza a relacionarse con la cantidad de operaciones que ejecuta cada agente.

Esta diferencia también modifica los indicadores tecnológicos. Ya no basta con medir el tiempo de respuesta de un modelo; ahora importan la latencia acumulada de las operaciones, el costo total por tarea completada y la capacidad de mantener múltiples procesos activos sin degradar el servicio.

💡
La eficiencia de un agente no se mide únicamente por su inteligencia, sino por los recursos que consume para conseguir un resultado útil.

Google Cloud y la infraestructura heterogénea: GPUs, TPUs y CPUs

Ante este escenario, Google Cloud está impulsando una arquitectura que combina distintos tipos de procesadores en lugar de depender de un único acelerador.

Su plataforma AI Hypercomputer integra capacidades de cómputo, almacenamiento, redes y software de orquestación para distribuir las cargas de trabajo según sus necesidades.

Las GPUs de NVIDIA continúan siendo fundamentales para operaciones intensivas de inteligencia artificial, mientras que las TPUs desarrolladas por Google ofrecen alternativas especializadas para entrenamiento e inferencia.

Sin embargo, existe un tercer componente que está recuperando protagonismo: las CPUs.

Los procesadores convencionales, incluidos los Google Axion basados en arquitectura Arm, desempeñan funciones importantes en la ejecución de microservicios, preparación de datos, coordinación de aplicaciones y tareas que no necesariamente requieren aceleradores especializados.

Esta separación permite evitar que procesos relativamente sencillos consuman recursos de alto rendimiento innecesariamente.

La lógica es económica y técnica: asignar cada operación al procesador más adecuado puede mejorar la relación entre rendimiento, latencia y costo.

En aplicaciones empresariales con múltiples agentes, esa optimización puede marcar la diferencia entre una implementación rentable y una operación cuyo consumo de infraestructura crece más rápido que el valor generado.

IA: un objetivo claro y un Ethic Human in the Loop con un plan B
La adopción de inteligencia artificial requiere mucho más que inversión tecnológica. Blanca Ireri reflexiona sobre los riesgos de implementar IA sin objetivos definidos, la importancia de mantener la supervisión humana y la necesidad de contar con un plan B ante posibles fallas.

El costo por token se convierte en una variable de negocio

Uno de los datos más reveladores de la conversación fue la escala alcanzada por Google Cloud.

Según Lohmeyer, la compañía procesa más de 3,000 billones de tokens mensuales, equivalentes a tres quadrillion en la escala numérica estadounidense, un volumen siete veces superior al registrado un año antes.

La cifra ilustra cómo la infraestructura de IA está evolucionando hacia operaciones de alta frecuencia, donde la eficiencia por token puede tener un impacto considerable en los costos agregados.

En este contexto, la decisión tecnológica deja de limitarse a seleccionar el modelo más avanzado.

Las organizaciones necesitan determinar qué tareas requieren modelos de alta capacidad, cuáles pueden resolverse mediante alternativas más pequeñas y qué operaciones pueden ejecutarse sin recurrir continuamente a inferencia generativa.

💡
Para una plataforma de publicidad programática, por ejemplo, no tendría sentido utilizar un modelo de razonamiento de alto costo para cada validación rutinaria si existen reglas determinísticas o modelos especializados capaces de realizarla con menor consumo.

Esto abre paso a una nueva disciplina de optimización: administrar la inteligencia artificial con criterios similares a los utilizados para gestionar presupuestos de medios, donde cada recurso debe justificar su contribución al resultado.

Software abierto y portabilidad: la batalla contra el lock-in

Otro componente estratégico es la capacidad de trasladar cargas de trabajo entre diferentes arquitecturas.

Google Cloud ha ampliado la compatibilidad de sus TPUs con herramientas como PyTorch y vLLM, mientras que frameworks como JAX permiten desarrollar y ejecutar modelos sobre infraestructura especializada.

El objetivo es reducir la dependencia de una arquitectura exclusiva y facilitar que las empresas seleccionen recursos de acuerdo con disponibilidad, rendimiento y costos.

La portabilidad, sin embargo, no significa que trasladar una carga de trabajo entre GPUs y TPUs sea completamente automático o carezca de ajustes. Las optimizaciones específicas, las dependencias de software y las características de cada modelo siguen influyendo en la implementación.

Desde el punto de vista empresarial, la flexibilidad adquiere valor porque permite negociar capacidad, gestionar picos de demanda y evitar que una sola tecnología determine toda la estrategia futura de IA.

La infraestructura deja así de funcionar como un soporte invisible y comienza a convertirse en una ventaja competitiva.

Google empuja el “demand-led budgeting”: más IA, menos límites de presupuesto
Google quiere que el presupuesto deje de limitar campañas rentables. AI Max, Smart Bidding y Product Value Optimization cambian cómo escala Google Ads.

México y LATAM: el impacto para AdTech, retail media y automatización

Para el ecosistema tecnológico y publicitario de América Latina, el desafío no consiste únicamente en acceder a modelos más avanzados, sino en construir operaciones capaces de aprovecharlos sin perder control financiero.

Las aplicaciones de IA agéntica en marketing, retail media y publicidad programática podrían incrementar significativamente la cantidad de operaciones computacionales necesarias para ejecutar procesos que hoy requieren intervención humana.

Esto plantea tres desafíos para anunciantes, agencias y plataformas tecnológicas:

  1. La escalabilidad: una solución capaz de atender cientos de solicitudes podría necesitar rediseñar sus mecanismos de orquestación, procesamiento y almacenamiento cuando miles de agentes interactúen simultáneamente.
  2. La rentabilidad: si automatizar una tarea genera más costos de inferencia, transferencia de datos y procesamiento que el valor económico que produce, la eficiencia prometida por la IA pierde sentido.
  3. La gobernanza: la conexión de agentes con plataformas de CRM, herramientas de compra publicitaria y repositorios de datos exige controles sobre permisos, trazabilidad, privacidad y autorización de acciones.

Para las compañías mexicanas, especialmente aquellas que dependen de proveedores externos de infraestructura, la decisión de arquitectura también influirá en su capacidad para cambiar de proveedor, negociar costos y cumplir con sus políticas de protección de información.

💡
La oportunidad no está simplemente en automatizar más procesos, sino en construir sistemas capaces de determinar cuáles deben automatizarse, cuánto cómputo necesitan y cuándo resulta indispensable la intervención humana.

La infraestructura se convierte en el nuevo diferenciador competitivo

El cambio hacia la IA agéntica está desplazando parte de la competencia tecnológica desde las capacidades individuales de los modelos hacia la eficiencia de los sistemas que los ejecutan.

Google Cloud apuesta por una infraestructura integrada que combina aceleradores especializados, procesamiento convencional, software abierto y mecanismos dinámicos de orquestación. Pero el éxito de este enfoque dependerá de que las empresas puedan traducir esa flexibilidad en mejoras comprobables de rendimiento y costos.

Para las organizaciones que comienzan a incorporar agentes autónomos, la pregunta estratégica ya no debería limitarse a qué modelo utilizar.

💡
La pregunta es cuánto costará mantener a cientos de agentes trabajando simultáneamente y qué tan preparada está la infraestructura para sostenerlos.

En la siguiente etapa de la inteligencia artificial empresarial, tener el modelo más potente no garantizará una ventaja. La diferencia podría estar en quién consiga operar la inteligencia al menor costo posible, con la confiabilidad necesaria para convertirla en negocio.


Lo que debes saber

¿Por qué la IA agéntica requiere más infraestructura?

Porque una solicitud puede activar múltiples agentes que ejecutan procesos simultáneos, consultan bases de datos y utilizan herramientas externas, aumentando el consumo de cómputo, memoria y servicios de inferencia.

¿Cuál es la diferencia entre GPU, TPU y CPU en inteligencia artificial?

Las GPUs aceleran cálculos paralelos utilizados en modelos de IA; las TPUs son procesadores especializados de Google para cargas de aprendizaje automático; las CPUs gestionan tareas generales, lógica de aplicaciones, coordinación y procesamiento complementario.

¿Qué es Google Cloud AI Hypercomputer?

Es una arquitectura integrada que combina procesadores, almacenamiento, redes y software especializado para ejecutar cargas de inteligencia artificial a escala.

¿Cómo pueden las empresas reducir los costos de IA agéntica?

Seleccionando modelos adecuados para cada tarea, optimizando el consumo de tokens, utilizando hardware especializado cuando resulte rentable y monitoreando el costo por proceso completado.