Dat er achter de ‘’digitale schermen’’ veel gebeurt weet iedereen, maar wat precies is voor de meeste mensen een raadsel. En dat is prima. Niet iedereen heeft evenveel interesse of aanleg voor techniek. Software wordt vaak nog steeds gemaakt via het magic box principe: de gebruiker geeft input en de software geeft een handeling of output terug. De gebruiker heeft geen idee hoe de resultaten tot stand komen, maar hoeft slechts te vertrouwen op het systeem.

Er zijn verschillende redenen om als fabrikant te kiezen voor een gesloten systeem: het beschermen van intellectueel eigendom, gebruikers te behoeden voor menselijke fouten, ontwikkeling en programmering door externen of iemand die niet meer bij het bedrijf werkt. Soms is de software simpelweg een erfenis van

bijvoorbeeld een fusie of andere afdeling. In alle gevallen ontstaat vaak hetzelfde probleem: de gebruiker of beheerder heeft een stuk software dat integraal is voor de uitvoering van het werk, maar heeft verder geen inzicht in wat er zich van binnen echt afspeelt. De gebruiker kan dus niet valideren of de uitkomst correct is en hoe deze output tot stand is gekomen.

Wanneer deze controle wel mogelijk is, is het vaak alleen maar zichtbaar binnen de technische context van het systeem zelf, meestal in de vorm van scripts of uitgebreide configuratiebestanden. Het is alsof je gaat kijken naar de radertjes in je horloge om te zien waarom de tijd niet klopt, terwijl de persoon die de controle zou moeten doen vaak iemand is met functionele kennis van de processen en niet de technische werking van het systeem. De vraag is immers niet of de software goed werkt; de vraag is of hij goed handelt.