Reparera eller bygga om: fem tecken på att ett AI-system har gjort sitt

Ett AI-system dör nästan aldrig på ett sätt som tvingar fram ett beslut. Det fortsätter svara, fortsätter poängsätta, fortsätter leverera en fil varje morgon. Samtidigt börjar teamet gå runt det, ändringsönskemålen hopar sig och årskostnaden växer utan att någon har valt att låta den växa. Slutet på livscykeln kommer som en långsam ökning av kostnaden för att hålla saken vid liv — precis den sortens kostnad som aldrig hamnar på en dagordning.

Alltså skjuts beslutet upp. Att bygga om låter dyrt och störande; att fortsätta som förut låter gratis. Det är inte gratis, och ledarens uppgift här är att märka ögonblicket då det kostar mer att behålla än att ersätta.

De fem signalerna

Det här är de som håller över branscher och systemtyper. Var och en för sig är ett skäl att titta närmare. Tre samtidigt betyder att beslutet redan är fattat åt dig.

• Små ändringar har slutat vara små. En prisregel som tog två dagar att justera under första året tar nu tre veckor och berör fyra andra saker. Systemet har samlat på sig så många specialfall att ingen kan förutse hur långt en ändring sprider sig.
• Kringgåendena har blivit processen. Folk exporterar resultatet och rättar det i ett kalkylblad innan någon använder det. Det kalkylbladet har numera en ägare, en namnstandard och en säkerhetskopia. Det riktiga systemet är kringgåendet; det officiella är en datakälla.
• Du kan inte svara på grundläggande frågor om det. Varför nekades den här kunden i mars? Vilken version kördes när siffrorna ändrades? Om ingen kan svara utan en veckas arkeologi bär du på en regulatorisk risk och en anseenderisk som du inte har prissatt.
• Kunskapen sitter hos en eller två personer. Varje ändring väntar på samma person. De håller inte på något; de är helt enkelt den enda kvarvarande kopian av designbesluten. Det är en bemanningsrisk förklädd till en teknisk.
• Begränsningen har flyttat på sig. Systemet byggdes runt en begränsning som inte längre finns — ett kontextfönster, ett svarstidstak, ett pris per anrop, en funktion som krävde tre komponenter och nu kräver en. Mycket av det du underhåller är ställningar kring ett problem som har försvunnit.

Vad som inte är en signal

Ett enskilt dåligt kvartal i kvalitet är oftast ett dataproblem, inte ett designproblem. En ny modellsläppning är inget skäl att bygga om någonting; om systemet är välstrukturerat är det en konfigurationsändring att byta modell — och det bör du testa att det faktiskt är. En uppmärksammad incident är inte heller bevis: incidenter samlas kring synliga system, inte kring sköra.

Skillnaden som betyder något går mellan ett system som presterar dåligt och ett system som har blivit dyrt att ändra. Det första går att laga. Det andra är en strukturell dom, och ingen mängd lappande vänder på den.

Prissätt att behålla, inte bara att bygga om

Förslag om ombyggnad förlorar för att bara den ena sidan av bokföringen får en siffra. Sätt en siffra på den andra sidan innan du bestämmer dig.

Summera vad det nuvarande systemet har förbrukat de senaste tolv månaderna: utvecklingstimmar för underhåll och incidenter, leverantörs- och beräkningskostnader, de timmar människor lägger på manuell rättning längre fram i kedjan, och värdet av de ändringar verksamheten bad om men inte fick. Den sista posten är oftast störst och räknas nästan aldrig. Titta sedan på samma tolv månader för två år sedan. Om kurvan stiger medan resultatet står stilla har du ditt svar — och du har det i den enda valuta en styrelse diskuterar i.

Bygg om bit för bit, och behåll datan

En ombyggnad betyder inte ett tvåårigt program med ett omställningsdatum. De system som ersätts väl ersätts en funktion i taget: res det nya spåret för en smal del av trafiken, kör det vid sidan av det gamla, jämför utfallen på verkliga fall, flytta över delen, upprepa. Det gamla systemet står kvar tills den sista delen har lämnat. Verksamheten hänger aldrig på en enda omställningshelg.

Det enda som är värt att ta med sig är datan — de märkta exemplen, rättelserna, dokumentationen av vad systemet fick fel och hur människor rättade det. Det ackumulerade omdömet är den verkligt värdefulla tillgången. Koden runt omkring går att ersätta, och bör vid något tillfälle ersättas.

De flesta organisationer väntar ungefär ett år för länge. Kostnaden för det året syns sällan, och just därför behöver den mätas. Vi har byggt vår verksamhet kring att bära den tyngden åt kunder, men mätningen är din att göra — och den är värd att göra före nästa budgetcykel snarare än efter.