IBM Research wil met toolkit kennis over AI verbeteren

IBM Research introduceert de AI Explainability 360 Toolkit waarmee kennis over Artificiële Intelligentie (AI) makkelijker kan worden gedeeld. Het gaat om een opensource bibliotheek voor datawetenschappers en developers. 

De bibliotheek geeft uitleg over algoritmes en coding door middel van tutorials, demo’s en handleidingen. Dankzij de toolkit krijgt een gebruiker inzicht in hoe een AI-systeem tot een bepaald resultaat komt. Dat moet zorgen voor vertrouwen bij verschillende gebruikers van AI-systemen.

IBM geeft al voorbeeld een datawetenschapper  die de toolkit kan gebruiken om een model of onderliggende data te verbeteren. Ontwikkelaars kunnen de toolkit gebruiken om AI-toepassingen te debuggen. Verder kan de toolkit gebruikt worden als hulpmiddel om eindgebruikers uitleg en vertrouwen te geven over een bepaalde voorspelling of aanbeveling. Denk aan een financieel adviseur die een aanvraag beoordeelt voor een lening of een huiseigenaar die een beslissing over een hypotheek probeert te begrijpen.

Het creëren van vertrouwen en transparantie op het gebied van AI is cruciaal omdat er bij gebruikers veel onduidelijkheden over deze nieuwe technologie. Volgens een recent onderzoek van IBM gelooft 68 procent van de business leaders dat klanten steeds meer behoeften hebben aan uitleg over AI.