Yhteinen tekoälypalvelu tarvitsee muutakin kuin näytönohjaimen. Budjettiin kuuluvat palvelin, muisti, levyt, virransyöttö, jäähdytys ja selvä ylläpitovastuu. Konkreettinen HPE ProLiant -esimerkki näyttää, miten nämä osat voidaan laskea läpinäkyvästi.
Rajattu räkkiesimerkki lähtökohdaksi
Suunnittelussa oletamme HPE ProLiant DL380 Gen11 -palvelimen, jossa on yksi prosessori, 128 Gt ECC-muistia ja yksi NVIDIA L4, jossa on 24 Gt grafiikkamuistia. Palvelu käsittelee sisäisesti valmisteltuja tekstejä ja hyväksyttyjä asiakirjoja. Järkevä samanaikaisten pyyntöjen määrä ratkaistaan testillä, jossa käytetään todellista mallia ja sen kontekstipituutta.
Gen11 on tässä tietoisesti valittu esimerkkialusta. Uutta hankintaa varten verrataan myös nykyisiä sukupolvia ja muita sopivia järjestelmiä. Pelkkä mallinimi ei vielä kerro, mitkä kotelot, levykorit ja laajennukset sopivat yhteen.
Tarkka kokoonpano ratkaisee
HPE:n dokumentaatio mainitsee DL380 Gen11:n tuettuna alustana L4-kiihdyttimelle S0K89C. Esimerkkiin valitsemme 8SFF-kotelon, jossa on yksi levykori edessä eikä levykoreja takana. Seuraava taulukko kuvaa suunnittelupohjan; ennen tilausta siitä tehdään kokonaan tarkistettu osaluettelo.
| Osa | Esimerkin oletus |
|---|---|
| CPU | Yksi Intel Xeon Silver 4514Y, 16 ydintä, TDP 150 W; viidennen Xeon-sukupolven kanssa yhteensopiva Gen11-versio. |
| Keskusmuisti | 128 Gt neljällä yhteensopivalla 32 Gt:n HPE DDR5 ECC RDIMM -moduulilla. Asennus täyttösääntöjen mukaan; kaikki kahdeksan muistikanavaa eivät näin tule käyttöön. |
| GPU | Yksi NVIDIA L4 24 Gt, HPE S0K89C, PCIe Gen4 x16, kortin enimmäisteho 72 W. |
| PCIe | GPU ensisijaisen vakioriserin paikassa 2, jonka sähköinen liitäntä on x16. Erillistä toissijaista riseria ei suunnitella. |
| Jäähdytys | High Performance Fan Kit P48820-B21; prosessorin jäähdytyselementti ja ilmankierto lopullisen kokoonpanon mukaan. |
| Virransyöttö | Kaksi yhteensopivaa 1 000 W:n Titanium Flex Slot -virtalähdettä P03178-B21; mitoitus yhden virtalähteen vikaantuessa tarkistetaan erikseen. |
| Levyt | Kaksi 960 Gt:n HPE SATA Mixed Use SSD:tä P40503-B21 peilattuna, MR216i-o-ohjain P47789-B21 sekä yhteensopiva taustalevy ja kaapelit. Erillinen varmuuskopiointikohde on suunniteltu. |
| Verkko | Sopiva verkkosovitin tarvittavine OCP-liitäntöineen perusbudjetissa; yhteensovitus ohjaimen ja prosessorikokoonpanon kanssa. |
HPE suosittelee L4:lle järjestelmämuistia vähintään kaksinkertaisesti GPU-muistin kokonaismäärään nähden. Oletetut 128 Gt ylittävät yhden kortin laskennalliset 48 Gt. Tämä on mitoitusohje; lisäpalvelut, asiakirjojen valmistelu ja käsittelyn siirtäminen CPU:lle vaativat erillisen kapasiteettitarkastelun.
Riser, korttipaikka ja jäähdytys tarkistetaan yhdessä. Mekaanisesti sopivassa paikassa voi olla sähköisesti vähemmän kaistoja. Lisäkortit tai levykorit voivat muuttaa käytettävissä olevaa asennuspaikkaa. Lopullista osaluetteloa varten tarkistetaan siksi myös kiinnikkeet, laiteohjelmistot, ajurit ja valmistajan hyväksyntä.
Miltä läpinäkyvä suunnittelubudjetti näyttää?
Summat ovat tähän laskuesimerkkiin vapaasti valittuja budjettioletuksia, tilanne 15.10.2026. Ne eivät ole tarkistettu jälleenmyyjän tarjous eivätkä DAXSin hintalupaus. Ennen hankintaa selvitetään saatavuus ja pyydetään konkreettinen tarjous koko kokoonpanosta.
| Budjettierä | Veroton määrä | Rajaus |
|---|---|---|
| Palvelimen perusta | 9 000,00 euroa | Kotelo, yksi CPU, 128 Gt ECC RAM -muistia, ohjain ja kaksi virtalähdettä; ilman GPU:ta ja SSD-levyjä. |
| Yksi L4 | 3 000,00 euroa | Kiihdyttimen hyväksytty HPE-versio. |
| Kaksi SSD:tä | 1 800,00 euroa | Suunniteltuun peilaukseen sopivat yritystason versiot. |
| Lisäosat | 700,00 euroa | Tuuletinsarja, kiskot, kiinnikkeet ja tarvittavat pienosat; vältetään osien laskeminen kahteen kertaan tarjouksessa. |
| Laitehuolto | 1 500,00 euroa | Varattu määrä kolmelle vuodelle; todellinen laajuus ja GPU:n kuuluminen huoltoon tarkistetaan. |
| Asennus ja hyväksyntä | 1 800,00 euroa | Budjetti integraatiolle ja rajatulle toimintatestille; laajuus sovitaan erikseen. |
| Yhteensä ilman veroa | 17 800,00 euroa | Kuuden oletetun erän summa. |
| ALV 20 % | 3 560,00 euroa | Tässä esimerkissä oletettu Itävallan yleinen verokanta. |
| Yhteensä veroineen | 21 360,00 euroa | Todellisen kaupan verokohtelu määritetään erikseen. |
Olemassa oleva räkki, sopivat virtapiirit, verkko ja varmuuskopiointialusta oletetaan valmiiksi. Uusi UPS, ilmastointi, käyttöjärjestelmä- ja tekoälyohjelmistolisenssit, jatkuva ylläpito ja sähkö eivät sisälly laskelmaan. Tarjouksen on selvitettävä nämä rajat nimenomaisesti. Muuten näennäisen edullinen palvelinhinta näyttää kattavammalta kuin on.
24 Gt VRAM-muistia ei vielä ratkaise mallivalintaa
Mallin koon lisäksi tarvitaan muistia kontekstille, rinnakkaiselle käsittelylle ja suoritusympäristölle. Yhdellä lyhyellä pyynnöllä toimiva malli voi kuormittaa järjestelmää eri tavalla pitkillä asiakirjoilla tai useilla käyttäjillä. Siksi pilotti edustavalla kuormalla testaa laadun, odotusajat ja reservit yhdessä.
Myös sähkölasku määräytyy koko järjestelmästä. GPU:n enimmäisteho 72 W ei ole räkkipalvelimen pistorasiamittaus. Kaksi 1 000 W:n virtalähdettä ei myöskään tarkoita jatkuvaa 2 000 W:n tarvetta. Luotettavaa käyttökustannuslaskelmaa varten mitataan joutokäynti, tyypillinen kuorma ja huiput.
Suunnittele huolto, varmuuskopiot ja palautus yhdessä
Laitehuoltosopimus määrittää tietyt palvelut tietyille komponenteille ja sijainneille. Vasteaika, palveluaika, varaosien saatavuus ja tekoälypalvelun palautus ovat eri asioita. Ylläpidossa on oltava selvää, kuka asentaa varaosan, tarkistaa ohjelmiston ja vahvistaa palvelun palaamisen varsinaiseen käyttötarkoitukseensa.
SSD-peilaus auttaa yksittäisen levyn vikaantuessa. Vahingossa poistetut asiakirjat, vaurioituneet määritykset tai koko palvelimen vika vaativat erillisen varmuuskopion ja testatun palautusreitin. Käyttäjähallinta, malliversiot ja tarvittavat palvelumääritykset kuuluvat tähän suunnitelmaan.
DAXS auttaa kartoituksessa, kokoonpanossa, integraatiossa ja sovitussa ylläpidossa. Meidän paikallista LLM-infrastruktuuria käsittelevä asiantuntijasivumme antaa arkkitehtuurille viitekehyksen. Artikkeli aiheesta Ollama ja Open WebUI kuvaa yhteisen tekoälypalvelun; meidän HPE-asiantuntijasivumme täydentää infrastruktuuria ja ylläpitoa.
Keskustellaan sopivasta tekoälyn käytöstä ja käytettävissä olevasta budjetista.
Lähteet: HPE: DL380 Gen11 QuickSpecs (ulkoinen linkki) · HPE: NVIDIA-kiihdyttimet ja hyväksytyt alustat (ulkoinen linkki) · Intel: Xeon Silver 4514Y (ulkoinen linkki) · NVIDIA: L4:n tekniset tiedot (ulkoinen linkki) · HPE: Tech Care -palvelukuvaus (ulkoinen linkki) · USP: arvonlisäverokannat (ulkoinen linkki).
