Veel bedrijven en overheden hopen met kunstmatige intelligentie (AI) snel hun werk te verbeteren of processen te automatiseren. Maar wie AI goed wil inzetten, moet eerst begrijpen wat de technologie niet kan. Noëlle Cicilia, oprichter van Brush AI en uitgeroepen tot AI Person of the Year, pleit voor een nuchtere, ethiek-gedreven benadering: ‘Je moet weten waar de risico’s zitten, anders neem je klakkeloos beslissingen op basis van voorspellingen die misschien helemaal niet kloppen.’
Eerst de ethiek, dan de techniek. Met deze gedachte begon Noëlle Cicilia Brush AI, een Amsterdams bedrijf dat verantwoorde AI-oplossingen ontwerpt voor mensgerichte toepassingen. Dat was nog tijdens haar studie Data Science aan de Technische Universiteit in Eindhoven. ‘Ook daar werden we vooral opgeleid om AI-systemen op een technische manier te evalueren,’ vertelt ze. ‘Aan de impact op de maatschappij werd weinig aandacht besteed.’
Inmiddels werkt ze samen met publieke organisaties zoals Veilig Thuis en de gemeente ’s-Hertogenbosch. Om uit te leggen hoe haar bedrijf AI gebruikt, noemt ze een project voor een farmaceutisch bedrijf. ‘In de farmaceutische industrie is betrouwbaarheid superbelangrijk. Dit bedrijf krijgt heel veel vragen via de klantenservice, en zij kunnen het zich niet permitteren om foute antwoorden te geven. Maar ze hadden wel interesse in AI, zodat ze meer mensen te woord kunnen staan.’
Cicilia ontwierp een AI-oplossing die mogelijke antwoorden voorlegt aan een medewerker van de klantenservice, inclusief bronvermelding. ‘Je kunt dus heel precies terugvinden waar het antwoord op is gebaseerd. Zo maken we van betrouwbaarheid toch nog een technische implementatie.’
Misvattingen
Er bestaan veel misvattingen over AI, zegt Cicilia. ‘Veel mensen denken dat je bij gebruik van AI meteen een volledig geautomatiseerd proces moet accepteren. Maar dat is niet zo. Je kunt ook een deel automatiseren, terwijl je de rest door mensen laat doen. Het is geen kwestie van alles of niets.’
Zo bestaan er meer mythes, vertelt ze. ‘AI lijkt nu een soort oplossing voor alles. Nou, dat is het dus niet. Ook is er het idee dat we bij gebruik van AI al onze data weggeven aan de Amerikanen – en voor we het weten, zijn we overgenomen door robots. Daarom blijf ik herhalen dat er ook een middenweg is: AI-gebruik voor makkelijke, repetitieve taken, waarbij je weinig risico’s neemt.’
*Dit is het eerste deel van een artikel uit de nieuw verschenen Publiek Denken 59: i-Samenleving, lees hier verder.
Geachte mevrouw Cicilia,
Gebeurt met AI niet hetzelfde als in de jaren ’90 met automatisering? Dat werd gebracht als de oplossing voor al onze problemen. Terwijl uitwisselbaarheid van informatie, want iedereen kreeg een eigen documentatiesysteem, alleen maar ingewikkelder werd. Zie de rijksoverheid als voorbeeld.
Wat mij betreft staat AI eigenlijk voor Algoritmische Informatieverzameling en is alleen al daarom de bronvermelding, zoals u schrijft, essentieel.
Met vriendelijke groet,
Ipe van der Deen