Vast.ai

A Vast.ai é uma empresa norte-americana de computação em nuvem que opera um marketplace distribuído de capacidade em unidades de processamento gráfico. Hosts independentes anunciam máquinas no serviço, e os clientes as escolhem de acordo com o hardware, a localização, a confiabilidade e o preço. A Vast.ai fornece os sistemas de busca, provisionamento, cobrança, reputação e controle usados pelas duas partes.¹²

As instâncias do marketplace formam um serviço de GPU na nuvem. A Vast.ai também oferece workers Serverless e clusters gerenciados, o que estende a plataforma a serviços próximos dos provedores de inferência.³

História

A Vast.ai foi constituída em 28 de junho de 2016 por Jake Cannell e Christian Horne. Cannell desenvolveu a ideia enquanto trabalhava com redes neurais e buscava acesso a GPUs mais baratas. O marketplace ficou disponível ao público em 2018.⁴

A empresa tem sede em Los Angeles. Jake Cannell é o diretor-executivo, e Travis Cannell, o diretor de operações. Em 2026, os materiais de imprensa da Vast.ai informavam que a plataforma reunia centenas de hosts independentes em dezenas de data centers.² A quantidade e a localização dos hosts ativos mudam conforme a oferta do marketplace.

Marketplace

Os hosts instalam o software da Vast.ai em máquinas compatíveis e publicam ofertas com os recursos disponíveis de GPU, CPU, memória, armazenamento e rede. Eles definem os preços e continuam responsáveis pelo hardware, pela conexão com a internet, pela configuração e pela manutenção.⁵ Entre os operadores estão tanto pessoas físicas quanto data centers profissionais.

Os clientes pesquisam as ofertas por atributos como modelo e número de GPUs, memória, verificação, confiabilidade, localização, velocidade do armazenamento e da rede. Depois da contratação, a Vast.ai inicia uma imagem Docker escolhida pelo cliente com os recursos indicados no anúncio. As instâncias podem oferecer acesso por SSH, notebook e serviços web.⁶

O produto comum de instâncias aloca uma GPU ao contêiner do cliente, mas não entrega o ambiente completo do servidor físico. O sistema operacional do host e o software da Vast.ai permanecem fora do contêiner. CPU, disco e rede têm as características específicas de cada anúncio.

A Vast.ai diferencia máquinas verificadas em data centers dos demais hosts do marketplace. A verificação acrescenta inspeções da plataforma, mas não torna todas as máquinas equivalentes. A configuração do hardware, a localização física, a arquitetura de rede e os contratos continuam variando entre operadores.

Preços

Os hosts definem os preços da Vast.ai, que mudam com a oferta e a demanda. Processamento, armazenamento e tráfego de rede podem ser cobrados separadamente. A plataforma oferece contratos sob demanda, reservados e interrompíveis.⁷

Contratos sob demanda permanecem em execução enquanto o cliente paga e o host está disponível. Os contratos reservados oferecem desconto em troca de um compromisso antecipado. Instâncias interrompíveis têm preço mais baixo, mas podem ser ocupadas por outro cliente. Dependendo do estado da instância, o armazenamento pode continuar gerando cobranças depois da interrupção do processamento.

O modelo de marketplace permite que GPUs semelhantes sejam anunciadas por preços diferentes. O custo de um trabalho concluído também depende da velocidade do armazenamento, da confiabilidade do host, do tempo de transferência dos dados e de eventuais interrupções. Essas diferenças tendem a ser maiores do que em uma frota padronizada operada por uma única empresa.

Serverless e clusters

O Vast.ai Serverless executa workers em contêineres para atender solicitações e ajusta a capacidade entre máquinas elegíveis do marketplace.³ O cliente fornece o aplicativo, enquanto a plataforma gerencia o agendamento dos workers e a distribuição das solicitações. É um serviço mais gerenciado do que uma instância comum da Vast.ai, embora o aplicativo e o modelo ainda sejam fornecidos pelo cliente.

A empresa também oferece clusters coordenados e uma classe de fornecimento chamada Secure Cloud.² Os clusters se destinam a cargas que precisam de vários aceleradores interligados. A Secure Cloud limita a implantação a infraestruturas que atendam a requisitos operacionais adicionais. Esses produtos usam a plataforma mais ampla da Vast.ai, mas diferem de uma busca sem restrições no marketplace.

Características operacionais

O fornecimento distribuído disponibiliza, por uma única interface, GPUs de consumo, aceleradores de data center e máquinas que estariam ociosas. Ele também produz diferenças entre anúncios do mesmo modelo de GPU. Processadores, discos, redes, limites de energia, topologia entre GPUs e tempo de atividade podem afetar o desempenho.

As condições de segurança também dependem do host e da classe de serviço. A alocação exclusiva da GPU não estabelece, por si só, uso exclusivo da máquina física completa, apagamento seguro de discos, conformidade regulatória ou uma jurisdição específica. Os dados de verificação e confiabilidade da Vast.ai ajudam a descrever os hosts, mas o modelo de marketplace expõe ao cliente mais variações de infraestrutura do que uma nuvem convencional.

Referências

Footnotes

1. Conceitos principais, documentação da Vast.ai. ↩

2. Kit de imprensa, Vast.ai. ↩ ↩² ↩³

3. Primeiros passos com a Vast.ai, documentação da Vast.ai. ↩ ↩²

4. Sobre a Vast.ai, Vast.ai. ↩

5. Visão geral para hosts, documentação da Vast.ai. ↩

6. Visão geral das instâncias, documentação da Vast.ai. ↩

7. Preços das instâncias, documentação da Vast.ai. ↩