AI-systemen falen anders
Klassieke software valt om of doet het. Een AI-systeem blijft antwoorden geven terwijl het al fout zit, en dat is een heel ander soort storing. Het model drijft weg van de werkelijkheid omdat de data verandert. De kosten lopen op omdat iemand een prompt heeft verlengd. Een gebruiker praat het systeem voorbij zijn instructies heen.
Geen van die drie zet een server offline, dus geen van die drie wordt gezien door standaardmonitoring. Wij monitoren daarom ook modelgedrag, kosten per verzoek, drift en injectiepogingen. Anders ontdek je de storing pas als een klant belt.
Overnemen wat er al gebouwd is
Steeds vaker komt er iets bij ons binnen dat door iemand anders is gemaakt. Soms door een bureau dat is gestopt, soms met AI in een paar weken in elkaar gezet. Dat kan prima werken en toch niet houdbaar zijn: geen tests, geen documentatie, geen idee wat er gebeurt bij de eerste piek.
Wij nemen zulke codebases over. Eerst een audit met een eerlijk oordeel. Soms is het antwoord dat herbouwen goedkoper is dan repareren. Daarna hardening, en dan beheer met een SLA.
Afrekenbaar zijn
Wij durven ons te laten afrekenen op resultaat. Dat is geen nieuwe AI-belofte: dat is hoe we vijftien jaar met ANWB, ING, KPN en de Nationale Postcode Loterij hebben gewerkt. Technologie verandert, verantwoordelijkheid niet.