Column: Innovatiekracht – Lotte de Bruijn

Begin oktober was het World Summit AI in Amsterdam. In een reportage over het event zei Heere Blokhuis van SAS dat er rond AI nog een sfeer van ‘mystiek en innovatietheater’ hangt. Dat vind ik een mooi woord: innovatietheater. Het klinkt misschien wat negatief, maar dat is het niet. Bij technologische vooruitgang hoort een beetje theater. Als je iets nieuws te vertellen hebt dan verpak je dat natuurlijk in superlatieven en aansprekende voorbeelden. De huis-tuin-en-keukentoepassingen volgen later.

 

Zo ook bij AI, waar steeds meer voorbeelden van nuttige toepassingen binnen bedrijven opduiken. Vaak zijn dat bedrijven die in het algemeen al voorop liepen in de digitale transformatie. Bedrijven die strategisch nadenken over digitalisering en waar ICT al is doorgedrongen tot het primaire proces. Tegelijkertijd moeten we oppassen dat AI niet te vroeg wordt ge hypet. De potentie is enorm, maar de ontwikkeling begint pas. AI lijkt een wondermiddel, maar als er geen goede datastrategie aan ten grondslag ligt, dan bestaat het risico dat AI een doel wordt, en geen middel.

Je kunt de inzet van AI dan ook niet los zien van de algemene strategie van een bedrijf. Iets dat in de discussie over AI en ethiek nog wel eens over het hoofd wordt gezien. Zo nam de Tweede Kamer in september een motie aan over onafhankelijk toezicht op algoritmes die worden gebruikt binnen de overheid. De indieners van de motie maken zich zorgen over ongelijke behandeling en uitsluiting door algoritmes. Terechte zorgen wat mij betreft. Ik vraag me echter af of het zin heeft om alleen naar de algoritmes te kijken. Want ligt de kern van het probleem niet veel eerder bij de motieven van de betreff ende instantie? Of een bias in de beschikbare data? Veel voorbeelden van discriminatie door algoritmes die we kennen komen uit Amerika. Je kunt die verhalen in mijn ogen niet los zien van de ingebakken ongelijkheid in het Amerikaanse systeem en de politieke belangen die hier bij horen. Het algoritme is in dit geval een vergrootglas van een bestaand probleem, maar niet de oorzaak ervan. Een te beperkte focus op algoritmes kan ook averechts werken en de aandacht afleiden van het grotere verhaal.

De Ethische Code AI van NLdigital is dan ook een belangrijk uitgangspunt dat een AI-toepassing niet op zichzelf staat. Het komt in de eerste plaats voort uit een bredere digitale strategie van een bedrijf, inclusief de afwegingen, compliance -maatregelen en kwaliteitswaarborgen die daar bij horen. Daarnaast heb je te maken met partners, opdrachtgevers, sub-leveranciers en eindgebruikers. In dit ecosysteem heeft iedereen zijn eigen rol en verantwoordelijkheid.

Het is verleidelijk om een nieuwe technologie los te zien van deze bestaande structuren. Maar ik hoop dat beleidsmakers die verleiding weerstaan en het innovatietheater buiten de Tweede Kamer weten te houden.

Lotte de Bruijn is directeur van NLdigital.
Reageren? lotte@nldigital.nl

[Dit artikel is eerder gepubliceerd in ChannelConnect magazine 7-2019]

Lees het artikel hier in PDF