Wat is verklaarbare artificiële intelligentie?

Artificiële intelligentie (AI) is overal in ons leven aanwezig, van de digitale spraakassistent op onze smartphone en andere slimme apparaten tot quasi zelfrijdende wagens. Vaak beseffen we niet eens dat de systemen die we gebruiken berusten op AI.

Ook in ons professionele leven speelt artificiële intelligentie tegenwoordig een rol. Denk maar aan planningssystemen die steeds vaker gebruik maken van AI. Ze zijn geëvolueerd tot uiterst geavanceerde systemen die rekening houden met talloze variabelen en beperkingen – zo veel dat het menselijke brein ze niet meer kan bevatten. Zulke complexe systemen waren tot voor kort gewoonweg ondenkbaar.

Wat is verklaarbare artificiële intelligentie?

Het voordeel van die geavanceerde planningssystemen is dat vraagplanningen en forecasts steeds nauwkeuriger worden en de supply-chainplanning betrouwbaarder wordt. Dat alles resulteert in een efficiëntere en krachtigere supply chain.

Maar de medaille heeft ook een keerzijde. Hoe complexer de AI-gedreven planningssystemen, hoe moeilijker het wordt voor mensen – de planners – om de output van het systeem te begrijpen en de beslissingen die het systeem voorstelt te accepteren. Het gebrek aan transparantie over de manier waarop algoritmes de inputgegevens omzetten in vraag- en supply-chainplanningen, maakt dat het systeem werkt als een zwarte doos.

Dat kan echter een probleem worden, want als we het gevoel hebben dat een systeem een zwarte doos is, tast dat ons vertrouwen in het systeem aan. Waarom zou de planner vertrouwen op de planning van een AI-systeem als hij of zij niet begrijpt welke redenering erachter schuilgaat? Wat als het voorstel van het systeem fout of bevooroordeeld is? Als de planner het systeem niet vertrouwt, zal hij of zij op zoek gaan naar een manier om het te omzeilen.

Verklaarbare artificiële intelligentie wordt specifiek ontwikkeld om dat fenomeen van de zwarte doos te voorkomen. Verklaarbare AI maakt namelijk gebruik van een reeks tools en methodes die ervoor zorgen dat mensen de suggesties van een AI-model beter kunnen begrijpen en interpreteren. Met verklaarbare AI wil men de algemene transparantie van het systeem te vergroten, zodat die ondoorzichtige zwarte doos verandert in een kristalheldere glazen doos. Op die manier leidt verklaarbare artificiële intelligentie ook tot meer vertrouwen in het systeem.