Notan efter bygget: vad ett AI-system egentligen kostar att driva

De flesta AI-budgetar tar slut vid lanseringen. Offerten täcker förstudie, utveckling, integration och ett driftsättningsdatum. Sedan går systemet i två år, och ingen skrev ner vad de två åren kostade. Så här ser det ut som faktiskt hamnar på fakturan.

Modellnotan är den del du kan räkna ut

Modellavgifter mäts per token — ungefär per ord in och per ord ut. Det gör dem förutsägbara om du gör räkneövningen en gång.

Ta en intern supportassistent som hanterar 8 000 konversationer i månaden, sex turer var. Det blir 48 000 anrop till modellen. Varje anrop bär med sig dina instruktioner, de hämtade dokumenten och konversationen så långt — säg 5 000 tokens in — och returnerar omkring 400 tokens ut. Du köper 240 miljoner input-tokens och 19 miljoner output-tokens i månaden. Till prisnivån för en mellanklassmodell landar det kring 1 000 dollar i månaden, och prompt-cachning av de återkommande instruktionerna kan sänka det märkbart.

Två saker överraskar folk. För det första dominerar input: du betalar för allt du skickar, varje tur, och lång kontext är den främsta kostnadsspaken du styr över. För det andra lägger omförsök, utvärderingskörningar och intern testning på 15–30 % ovanpå produktionstrafiken. Budgetera bruttosiffran, inte den städade.

Modellpriserna per token har sjunkit stadigt. Den totala kostnaden stiger ändå oftast, eftersom användningen växer och nyare modeller sätts på svårare uppgifter. Planera för volym, inte för prisnivåer.

Notorna som ingen tog med i offerten

Modellavgifter är sällan den största posten. Resten av driftkostnaden är vanligt operativt arbete som AI-system råkar behöva mer av:

• Mänsklig granskning. Någon läser ett stickprov av verkliga svar varje vecka och avgör om kvaliteten håller. För ett kundvänt system, räkna med några timmar i veckan, permanent.
• Infrastruktur runt modellen. Sökindex, vektordatabaser, loggning och den pipeline som håller dina dokument aktuella. Blygsamt var för sig, konstant tillsammans.
• Förändringsarbete. Nya produkter, nya policyer, nya gränsfall som systemet hanterar dåligt. Räkna med en liten, jämn ström av justeringar snarare än enstaka stora släpp.
• Leverantörsförändringar. Modeller fasas ut enligt publicerade tidplaner. Att migrera till en efterföljare innebär att testa om allt den gamla gjorde bra, typiskt en gång om året.
• Efterlevnad och dokumentation. Lagringstider, åtkomstkontroll och det revisionsspår som visar vad systemet sa till en kund i mars.

Kvalitetsdriften är posten som överraskar folk

Programvara går sönder högljutt. AI-system försämras tyst, och de låter lika självsäkra hela vägen ner.

Din verksamhet driver iväg först. Priser ändras, en produkt läggs ner, en policy skrivs om. Systemet fortsätter svara utifrån den version det fick, flytande och felaktigt, tills någon märker det.

Sedan driver dina användare iväg. När folk väl lärt sig vad systemet klarar börjar de tänja mot angränsande områden som det aldrig var avsett för. Trafik som såg ut som FAQ-svar blir avtalstolkning, och den träffsäkerhet du mätte vid lanseringen beskriver inte längre vad som pågår.

Ditt innehåll driver också. Sökning som fungerade över 400 dokument blir vagare över 4 000, eftersom fler ungefärliga träffar tränger ut det rätta svaret ur resultaten.

Inget av detta utlöser ett larm. Det dyker upp månader senare som stigande eskaleringar, sjunkande användning eller ett klagomål från en kund som handlade efter något systemet sa. Då kostar åtgärden mer än vad övervakningen hade gjort.

Försvaret är oglamoröst och billigt: ta ett stickprov på 50 till 100 verkliga interaktioner i månaden, bedöm dem mot vad en duktig medarbetare skulle ha sagt, och följ poängen över tid. En person, en halv dag, varje månad. Den enda vanan fångar nästan alla felmönster ovan medan de fortfarande är små.

En budget som överlever mötet med verkligheten

Planera för en årlig driftkostnad på 30–50 % av utvecklingskostnaden de första två åren. Under 20 % försummas systemet, och kvalitetskurvan kommer att visa det. Över 60 % lämnade antingen bygget för mycket ogjort, eller så är användningsfallet verkligen mer rörligt än det såg ut.

Dela upp siffran i tre hinkar: användning (modellavgifter och infrastruktur, skalar med volymen), förvaltning (granskning, övervakning, dokumentation — i stort sett fast), och förändring (anpassning till din verksamhet och till leverantörens färdplan). Hinkarna beter sig olika, så en enda sammanslagen siffra kommer att vilseleda dig första gången volymen fördubblas.

Utse sedan en ansvarig. Ett AI-system utan en namngiven ansvarig och en stående budgetpost blir inte underhållet; det blir tolererat tills det tyst överges. Det är den verkliga kostnaden för att hoppa över den här övningen — inte att spendera för mycket, utan att betala för ett bygge två gånger.

Räkna ut driftkostnaden före bygget, inte efter. Siffran ändrar ofta vad du bestämmer dig för att bygga, vilket är precis vad den är till för. Det är den första kalkylen vi gör med en kund, och ibland är den anledningen till att vi rekommenderar ett mindre system än det de kom in och frågade efter.