Saltar al contenido
Demo conceptual

Una marca ficticia, diseñada y desarrollada por Get Ranked On Top. No es una empresa real.

Saltar al contenido

Todo en orden · 14 de 14 regiones operativas

Inferencia a la velocidad del pensamiento.

112 ms de mediana hasta el primer token. 1184 tokens por segundo en un modelo de 70B. Más de 60 modelos de pesos abiertos tras una sola API, en GPU que orquestamos nosotros mismos en 14 regiones: serverless, dedicadas o dentro de tu VPC.

41.700 M
tokens servidos al día
112 ms
p50 hasta el primer token
99,993 %
disponibilidad de la API, últimos 90 días
14
regiones, GPU en 3 continentes

En producción en

HALDEN/LABStidewaterParallax▲LegalMOSAIC HEALTHquorum.aiLattice & LoomNORTHFORMbrevet

01Playground

Mira cómo aterriza el primer token.

Elige un prompt. Las lecturas muestran lo que nuestro edge mide en cada petición: el tiempo hasta el primer token y después el rendimiento sostenido.

  • Decodificación especulativaactivada por defecto
  • Batching continuo256 sec. / GPU
  • Reutilización de caché KV75 % menos en entrada en caché
  • Arranque en frío, serverless0 ms · siempre en caliente
playground · api.halvorn.example/v1listo
Elige un prompt de ejemplo para ejecutarlo en un endpoint que se comporta como el real.
// aquí aparece la respuesta en streaming
// las lecturas se miden desde que sale la petición
modelo
—
hasta el primer token
0 ms
rendimiento
0 tok/s
tokens
0

02Catálogo de modelos

62 modelos. Un endpoint.

Todos los modelos incluyen llamadas a herramientas, modo JSON y streaming. Los nuevos lanzamientos de pesos abiertos se publican en menos de 48 horas, con benchmark antes de entrar en la lista.

Catálogo de modelos de Halvorn con longitud de contexto, precio por millón de tokens y latencia
ModeloTipoContextoEntrada $/MSalida $/Mp50 TTFTRendimientoEstado
vela-3-405bchat128k3,20 $3,20 $214 ms412 tok/sactivo
vela-3-70bchat128k0,54 $0,72 $112 ms1184 tok/sactivo
vela-3-8bchat128k0,06 $0,08 $71 ms2940 tok/sactivo
orrin-coder-34bcódigo64k0,38 $0,48 $131 ms1026 tok/sactivo
lumen-vl-90bvisión32k0,90 $1,10 $188 ms604 tok/sactivo
tern-reason-32brazonamiento128k0,42 $1,68 $146 ms880 tok/sactivo
sable-embed-2embeddings8k0,04 $—18 ms—activo
sable-rerank-2rerank8k0,05 $—24 ms—activo

Se muestran 8 de 62. Latencia: medida en cliente, misma área metropolitana, prompt de 512 tokens, p50 a 30 días.

03Benchmarks

2,4× más rendimiento. 61 % menos espera.

vela-3-70b, con los mismos pesos y parámetros de muestreo en todos los proveedores. Publicamos el banco de pruebas: ejecútalo tú antes de creernos.

Rendimiento de salida · vela-3-70bmás es mejor
  • Halvorn1184 tok/s
  • Proveedor A486 tok/s
  • Proveedor B352 tok/s
  • Proveedor C301 tok/s
  • Autoalojado, nodo de 8 GPU238 tok/s
Tiempo hasta el primer token · p50menos es mejor
  • Halvorn112 ms
  • Proveedor A284 ms
  • Proveedor B391 ms
  • Proveedor C446 ms
  • Autoalojado, nodo de 8 GPU612 ms
Carga512 tokens de entrada / 1024 de salida, 32 flujos concurrentes
Ventana72 h, 1,2 M de peticiones, sept. 2026
Clientemisma área metropolitana que el endpoint, HTTP/2 keep-alive
Proveedoresanonimizados, tarifa pública de lista

04Quickstart

Cambia una URL. Conserva tu código.

Los SDK siguen el esquema de chat completions que ya tienes en producción. La mayoría de las migraciones son una base URL y el nombre de un modelo.

  1. Crea una clavePor proyecto, con un tope de gasto mensual estricto.
  2. Apunta tu clienteapi.halvorn.example/v1, o instala el SDK.
  3. Haz streamingServer-sent events, llamadas a herramientas y modo JSON de serie.
stream.py
from halvorn import Halvorn

client = Halvorn()  # lee HALVORN_API_KEY

stream = client.chat.completions.create(
    model="vela-3-70b",
    messages=[{"role": "user", "content": "A producción."}],
    max_tokens=512,
    stream=True,
)

for chunk in stream:
    print(chunk.delta, end="", flush=True)

05Regiones

14 regiones. Menos de 20 ms para el 91 % de internet.

El enrutamiento anycast envía cada petición al pool de GPU sano más cercano. Fija una clave a una región, o solo a la UE, para la residencia de datos.

Mapa de las 14 regiones de GPU de Halvorn en Norteamérica, Sudamérica, Europa, Asia y Oceaníasfo1pdx1ord1yyz1iad1gru1lhr1fra1arn1bom1sin1icn1hnd1syd1
Regiones con el tiempo de ida y vuelta mediano desde el área metropolitana local
RegiónCiudadRTT
sfo1San Francisco4 ms
pdx1Portland11 ms
ord1Chicago9 ms
yyz1Toronto12 ms
iad1Ashburn7 ms
gru1São Paulo18 ms
lhr1Londres6 ms
fra1Fráncfort5 ms
arn1Estocolmo9 ms
bom1Bombay14 ms
sin1Singapur8 ms
icn1Seúl10 ms
hnd1Tokio6 ms
syd1Sídney13 ms

06Precios

Por millón de tokens. Nada más.

Sin cuotas por usuario, sin mínimos en serverless, sin cargos por tráfico de salida. La entrada en caché cuesta un 75 % menos; la batch API, un 50 % menos con una ventana de 24 horas.

Precio serverless por millón de tokens en dólares estadounidenses
ModeloEntradaEntrada en cachéSalidaEntrada batch
vela-3-8b0,06 $0,015 $0,08 $0,03 $
vela-3-70b0,54 $0,135 $0,72 $0,27 $
vela-3-405b3,20 $0,80 $3,20 $1,60 $
orrin-coder-34b0,38 $0,095 $0,48 $0,19 $
tern-reason-32b0,42 $0,105 $1,68 $0,21 $
lumen-vl-90b0,90 $0,225 $1,10 $0,45 $
sable-embed-20,04 $——0,02 $

Serverless

0 $

para empezar · pago por token

Endpoints compartidos con autoescalado para cada modelo del catálogo. Los límites de uso suben solos con el gasto.

  • 5 $ de crédito gratis, sin tarjeta
  • 600 RPM → 60.000 RPM
  • Batch API con un 50 % de descuento
  • Soporte de la comunidad
Obtener clave API

Dedicado

el más elegido

2,85 $

por hora de GPU · facturado por segundo

Capacidad reservada con tus propios pesos, adaptadores LoRA y un endpoint privado en cualquier región.

  • Trae tu propio fine-tune
  • Autoescalado de 1 → 512 GPU
  • SLA de disponibilidad del 99,95 %
  • Canal de Slack compartido
Reservar capacidad

Enterprise

A medida

compromiso anual

El runtime de Halvorn en tu VPC o tu centro de datos, con precios por uso comprometido y un ingeniero asignado.

  • Despliegues en VPC y on-prem
  • Retención cero, por contrato
  • SLA de disponibilidad del 99,99 %
  • Respuesta P1 en 15 min
Habla con un ingeniero

07Empresas

Tu VPC. Tus claves. Retención cero.

El mismo runtime que sirve 41.700 millones de tokens al día, desplegado donde ya viven tus datos. El plano de control, con nosotros; el plano de datos, contigo.

VPC

Se ejecuta en tu cuenta cloud

Nuestro scheduler y nuestros kernels se despliegan en tu VPC con un único módulo de Terraform. Pesos, prompts y logs nunca salen de tu perímetro.

0 s

Retención de datos cero

Los prompts y las respuestas se guardan en memoria mientras dura la petición y después se descartan. Nunca entrenamos con tu tráfico: está en el contrato.

BYOK

Tus claves, tu registro de auditoría

Claves de cifrado gestionadas por el cliente, SSO con SCIM, topes de gasto por clave y un log de auditoría inmutable exportado a tu SIEM.

1:1

Un ingeniero de inferencia asignado

Planificación de capacidad, ajuste de kernels para tus longitudes de secuencia y respuesta P1 en 15 minutos las 24 horas.

08Clientes

Medido en producción.

Desde startups de 3 personas hasta equipos que mueven más de 2000 millones de tokens al día. Las cifras son suyas.

«Migramos 2300 millones de tokens al día en un fin de semana. La latencia p95 de nuestro agente de soporte bajó de 2,1 s a 640 ms, y la factura, un 41 %.»
Mira CastellanosResponsable de plataforma, Tidewater
«La retención cero era la condición de nuestro equipo legal. Halvorn la puso en el MSA en la primera llamada, no en la cuarta.»
Jonah LindqvistCTO, Parallax Legal
«Decodificación especulativa sobre nuestro propio fine-tune, en nuestra VPC, sin escribir ni un kernel de CUDA. Esa era toda la promesa, y se cumplió.»
Priya RamanIngeniera de ML sénior, Halden Labs

09Habla con un ingeniero

Trae una carga. Llévate una cifra.

Cuéntanos tu modelo, tus RPM pico y tus longitudes de secuencia. Te respondemos con una estimación de latencia y coste a partir de un benchmark real, normalmente en menos de un día.

  • Ventassales@halvorn.example
  • Soportehelp@halvorn.example
  • Teléfono+00 415 010 2266
  • Sede480 Harrow St, 5.ª planta, San Francisco
Respuesta en 1 día laborable. Sin secuencias de ventas.

10FAQ

Lo primero que preguntan los ingenieros.

¿La API sustituye sin cambios lo que usamos hoy?

Halvorn implementa los esquemas estándar de facto de chat completions, embeddings y batch. La mayoría de los equipos cambian una base URL y el nombre del modelo; el streaming, las llamadas a herramientas y el modo JSON se comportan igual.

¿Cómo se mide la latencia?

El p50 del tiempo hasta el primer token se mide en el cliente, desde que una petición sale de una VM en la misma área metropolitana hasta el primer byte del streaming, con prompts de 512 tokens y una ventana móvil de 30 días. Publicamos los percentiles en bruto cada día en status.halvorn.example.

¿Entrenáis con nuestros prompts o respuestas?

No. El tráfico serverless se retiene 0 segundos por defecto; el registro opcional de 30 días existe solo para tu propia depuración y se cifra con tu clave.

¿Podemos ejecutar nuestros propios pesos ajustados?

Sí. Sube safetensors o indícanos un bucket. Los endpoints dedicados sirven fine-tunes completos; los serverless cambian en caliente hasta 1000 adaptadores LoRA por modelo base sin coste adicional.

¿Qué pasa si una región se degrada?

Las peticiones pasan a la región sana más cercana en menos de 3 segundos, salvo que hayas fijado la residencia. Las claves fijadas a la UE solo conmutan entre lhr1, fra1 y arn1.

¿Cómo funciona la facturación?

Por millón de tokens en serverless y por segundo de GPU en dedicado, ambos facturados mensualmente. Los tokens de entrada en caché se cobran al 25 % de la tarifa de entrada; la batch API tiene un 50 % de descuento con una ventana de 24 horas.