Hyperstack
VM's met 1 tot 8 GPU's op A100 80GB PCIe, H100 PCIe en L40 voor fine-tunen en inferentie, per minuut gefactureerd en zonder kosten voor dataverkeer
A6000 48 GB · vanaf:
$0.50≈ €0.447 (geschatte omrekening van $0.50)
Inferentiehosting vergeleken: serverless en dedicated GPU's
We kunnen commissie verdienen als je via de links hieronder koopt. Meer informatie
Serveer open modellen op serverless GPU's die naar nul schalen, op dedicated instances of op beheerde endpoints. Vergelijk gecontroleerde prijzen per GPU-uur, afrekeneenheden en regio's.
Providers voor Inferentiehosting
Serverless of dedicated?
- Serverless GPU's
Gefactureerd zolang verzoeken draaien, en in staat om naar nul te schalen. Past goed bij wisselend of weinig verkeer; reken op cold starts.
- Dedicated GPU's
Gefactureerd voor elk uur dat de instance draait. Past goed bij gelijkmatig verkeer en een voorspelbare latentie.
- Afrekeneenheid
Facturering per seconde telt bij korte taken en autoscaling; facturering per uur rondt gedeeltelijke uren naar boven af.
- Past het in het geheugen?
De modelgewichten plus de KV-cache voor je contextlengte en het aantal gelijktijdige verzoeken moeten in het VRAM passen.
- API's per token
Sommige platforms verkopen toegang tot modellen per miljoen tokens in plaats van GPU-tijd. Deze pagina vergelijkt prijzen per GPU-uur; prijzen per token worden er niet mee vermengd.
Tools voor deze keuze
- VRAM en modelgrootteSchat het GPU-geheugen dat een model nodig heeft voor inferentie of fine-tunen, en welke GPU's passen.
- GPU-kostencalculatorSchat je maandelijkse GPU-kosten op basis van gecontroleerde uurprijzen, gebruiksuren, instances en opslag.
- Agent-hostingkeuzeBeantwoord een paar vragen over je agent en krijg een passende hostingcategorie en een shortlist van providers.
Verken gerelateerde hubs
Hoe we vergelijken
Prijzen per GPU-uur.
GPU-prijzen zijn USD per enkele GPU per uur, van de eigen prijspagina of API van de provider. Multi-GPU-nodes worden gedeeld door hun aantal GPU's, en een prijs die alleen als node te huren is zegt dat erbij (“gehuurd als 8 GPU's”). Rijen beginnen met de goedkoopste pay-as-you-go-prijs (on-demand, secure, community of serverless). Een spot-, reserved- of marketplace-prijs staat alleen vooraan als de provider hier geen pay-as-you-go-prijs heeft, of als je op die facturering filtert; hij draagt zijn prijstype als label en staat in een eigen groep na de pay-as-you-go-prijzen, nooit ertussen gerangschikt. Prijzen zijn excl. btw en omzetbelasting.Niet gecontroleerd betekent niet gecontroleerd.
Als geen officiële bron een waarde bevestigt, tonen we “Niet gecontroleerd” in plaats van een schatting. Waar de voorwaarden van een provider niet toestaan dat zijn prijzen opnieuw worden gepubliceerd, linken we in plaats daarvan naar zijn actuele prijzen.Actualiteit op elke rij.
Vandaag bijgewerkt: gecontroleerd op de huidige dag (UTC). Actueel: tot 7 dagen. Verouderd: tot 30 dagen. Actualisatie nodig: ouder dan dat.Geen betaalde plaatsing.
Resultaten veranderen alleen van volgorde met de sortering die jij kiest. Affiliate-relaties beïnvloeden nooit de volgorde, de filters of welke providers verschijnen.
Filters matchen een provider als één van zijn vermelde aanbiedingen tegelijk aan elke GPU-, VRAM-, regio-, prijs- en afrekeneenheidvoorwaarde voldoet. De facturering spot, reserved en serverless toont elke provider die die prijsvorm aanbiedt en alleen prijzen op die basis, of “niet gecontroleerd” als we er geen hebben. Lees de volledige methodologie en onze affiliate-toelichting.
Veelgestelde vragen
Wat doet een inferentieserver?
Hij laadt een model in het GPU-geheugen en beantwoordt verzoeken via een API, die hij in batches bundelt om de GPU bezig te houden. vLLM en Ollama zijn veelgebruikte open-source voorbeelden.
Wat kost inferentie?
Dat hangt af van hoe het model wordt geserveerd: API's per token rekenen per miljoen tokens, dedicated endpoints en GPU-instances rekenen per GPU-uur zolang ze draaien, en serverless GPU's rekenen de seconden dat ze werken. De resultaten tonen gecontroleerde prijzen per GPU-uur; de GPU-kostencalculator maakt er een maandschatting van.
Is een serverless GPU goedkoper dan een dedicated GPU?
Dat hangt af van de benutting. Serverless factureert alleen zolang verzoeken draaien en past dus bij wisselend verkeer; een dedicated GPU factureert elk uur dat hij draait en past dus bij een gelijkmatige belasting. Filter op facturering om beide voor dezelfde GPU te vergelijken.
Wat verandert facturering per seconde?
Je betaalt voor de seconden dat een worker draait in plaats van af te ronden op hele uren, wat korte taken en endpoints die naar nul schalen goedkoper maakt.
Zijn de prijzen per GPU of per instance?
Per GPU. Elke GPU-prijs staat in USD per enkele GPU per uur; aanbod voor multi-GPU-nodes wordt gedeeld door het aantal GPU's, en een prijs die je alleen als hele node kunt huren zegt dat erbij (bijvoorbeeld “gehuurd als 8 GPU's”). Opslag, dataverkeer en belastingen zijn niet inbegrepen, tenzij de provider ze meerekent.