Loading
Carregando...Loading
Carregando...En el mercado de datacenters y proveedores Cloud, es muy probable que hayas escuchado el término hyperscalers. Pero en los últimos meses, otro término se ha vuelto común cuando el tema es IA a escala: los llamados neoclouds. Aunque ambos atienden una necesidad similar, nacieron con propuestas fundamentalmente diferentes.
Los hyperscalers son las nubes generalistas que conocemos, con un enorme catálogo de servicios que van desde computación y bases de datos hasta colas, seguridad y observabilidad. Su fortaleza está en la integración, la gobernanza robusta y la presencia global, ofreciendo productos de IA administrados como Amazon Bedrock, Azure OpenAI y Vertex AI.
Los neoclouds nacieron con un propósito específico: ser el hogar de la inteligencia artificial. Su enfoque es GPU-as-a-Service. En lugar de un catálogo extenso, ofrecen acceso simplificado a clusters de H100s, A100s o B200s, con interconexión de alta velocidad, precios transparentes y colas más cortas para entrenar y servir modelos. Ejemplos de empresas neocloud son CoreWeave, Lambda, Crusoe y Voltage Park.
La principal diferencia está en el enfoque. Mientras el hyperscaler ofrece una plataforma completa con MLOps, compliance y decenas de regiones, el neocloud se especializa en proporcionar poder de cómputo bruto, ya sea en bare metal o VMs, con APIs simples y enfoque total en rendimiento de red (InfiniBand/RDMA).
Andrej Karpathy (ex OpenAI y Tesla) es uno de los investigadores e ingenieros de IA más prominentes actualmente. Recientemente lanzó un proyecto experimental didáctico creando un LLM con poder similar al GPT-4. Este proyecto se llama nanochat.
El proyecto nanochat demuestra el ciclo de vida completo de un LLM minimalista, desde el pre-entrenamiento hasta el chat funcional. En la guía, Karpathy sugiere usar una máquina 8xH100 "de tu proveedor favorito". La empresa elegida por él fue Lambda, un neocloud. Hizo un entrenamiento rápido de 4 horas (usando 8xH100 GPUs) con un costo de aproximadamente US$ 100 y, posteriormente, ejecutó un entrenamiento mayor de 33 horas, gastando aproximadamente US$ 800.
Este ejemplo ilustra perfectamente la propuesta de valor de los neoclouds: acceso rápido y sin fricción a hardware de punta, con costo predecible por hora, permitiendo que los desarrolladores experimenten, hagan fine-tuning y publiquen prototipos con agilidad.
La elección depende directamente de la arquitectura de tu proyecto. Un neocloud es la elección ideal si necesitas GPUs de punta (H100s, B200s, tú eliges) con colas cortas y quieres control total sobre el ambiente para entrenamiento intensivo, sin navegar por un mar de servicios adicionales.
Por otro lado, un hyperscaler puede ser más apropiado si tu aplicación depende de un ecosistema integrado de servicios administrados (datos, mensajería, seguridad) y requiere gobernanza corporativa. Si el objetivo es usar productos de IA listos, como Bedrock o Vertex AI, que ya vienen con compliance y guardrails, el hyperscaler es el camino natural.
Vale notar que estas fronteras están cada vez más porosas, con hyperscalers integrando capacidad de neoclouds para cubrir picos de demanda.
La estrategia moderna para IA es pragmática y, muchas veces, híbrida. Es común ver equipos realizando el entrenamiento y el fine-tuning en un neocloud para aprovechar el rendimiento y el costo, y después sirviendo el modelo en un hyperscaler, donde los datos, la observabilidad y las integraciones de la aplicación principal ya residen.
La clave es la portabilidad. Usar contenedores y herramientas neutras como PyTorch, Ray y Kubernetes permite mover workloads entre nubes conforme la disponibilidad de GPUs, el precio y la latencia cambian, evitando el lock-in.
Los neoclouds entregan rendimiento bruto de GPU, enfocándose en disponibilidad y simplicidad para quienes necesitan entrenar modelos. El ejemplo del nanochat muestra que, con la herramienta correcta, es posible ir de la idea al prototipo de un LLM en pocas horas, un ciclo de innovación que define el ritmo del mercado de IA hoy.