MENU
×
PROFESSIONAL
DOCTORATE

Anita Boerema

Mensgerichte verantwoorde AI in organisaties

Techniek & Digitalisering

Professionele achtergrond

Anita Boerema heeft een achtergrond in de psychologie (bachelor), bedrijfskunde (master) en digitale ethiek. Daarnaast heeft ze veel werkervaring in de HR-IT, het snijvlak met mensen en technologie. “Werken is een belangrijk onderdeel van ons leven, als we de kwaliteit daarvan kunnen verbeteren, heeft dat veel impact. Technologie biedt een wereld aan mogelijkheden.”

Onderwerp

De overkoepelende vraag van het onderzoek van Boerema is: wat moeten de mensen in het proces – de ontwikkelaar, de product owner, de business owner, managers, eindgebruikers – kunnen en weten om een verantwoorde schakel in het proces te zijn?
Boerema licht toe: “Het gaat om het nemen van weloverwogen, waardegedreven beslissingen over de ontwikkeling/aanschaf en het gebruik van kunstmatige intelligentie. Dit betekent dat AI-initiatieven moeten worden afgestemd op de kernwaarden en -normen van de organisatie, dat hun missie en strategie moeten worden ondersteund en dat men zich continu bewust moet zijn van de impact ervan op mensen – inclusief medewerkers, klanten en de maatschappij als geheel. Het betekent ook verantwoordelijkheid nemen voor deze gevolgen door ze proactief aan te pakken met passende maatregelen. Die verantwoordelijkheid begint met AI-geletterdheid: het vermogen om AI-toepassingen te begrijpen, kritisch tegemoet te treden en verantwoord te gebruiken. Vervolgens ga ik onderzoeken hoe organisaties mensen daarin het best kunnen ondersteunen, bijvoorbeeld met de inrichting van processen en met trainingen. Ten slotte ga ik kijken hoe we tools zo kunnen inrichten dat ze mensen ondersteunen om daadwerkelijk hun verantwoordelijkheid te pakken. Zo kom je tot een gedistribueerde, maar gedeelde verantwoordelijkheid.”

Persoonlijke motivatie

Boerema vertelt over haar persoonlijke motivatie om voor het onderwerp te kiezen:
“Ook in HR doet AI zijn intrede. Data-driven werken is de laatste jaren steeds belangrijker geworden en dus wordt deze nieuwe technologie snel omarmd, zonder altijd oog te hebben voor de risico’s. Zo ligt het gevaar van automation bias op de loer: de neiging van mensen om suggesties van geautomatiseerde systemen snel voor waar aan te nemen. Dat kan leiden tot een overmatige afhankelijkheid van technologie, waardoor mensen hun eigen oordeel niet meer gebruiken. Hoe voorkom je dit? Ik ben hierover in gesprek gegaan met ethics- en governance-afdelingen en kwam erachter dat er bij veel organisaties best veel op papier staat over verantwoord AI-gebruik. Het blijft echter vaak bij een papieren werkelijkheid. Er wordt te vaak gedacht: als een tool aan alle privacyregels en dergelijke voldoet, dan komt het verder wel goed. Maar zo werkt het niet.” 

Probleem oplossen

Boerema licht toe welk probleem ze wil oplossen: “Door de toegenomen toepasbaarheid van Artificial Intelligence, is AI gemeengoed geworden. De beloften van AI maken dat organisaties hun concurrentiepositie hopen te versterken door middel van kostenreducties, verbeterde effectiviteit, nieuwe marktproposities en innovatieve verdienmodellen. Om dit te kunnen realiseren moet de hele organisatie mee. Dat is lastig, zowel als het gaat om AI-vaardigheden als ook het bepalen van de koers, wat doen we wel en wat doen we niet. Het is van belang dat dit op een verantwoorden manier gebeurt, die past bij de organisatie.”

Aanpak

Volgens Boerema betekent het werken met en in de praktijk dat het PD-onderzoek plaatsvindt in een ‘bewegende wereld’, waarbij continu praktijkaansluiting van de onderzoek-cases wordt geborgd. “Daarom werken we met de Research-through-Design (RtD) aanpak, waarbij iteratief in drie stappen praktijkoplossingen worden ontwikkeld:

  • Prioriteren van focus in de vorm van use cases aan de hand van het eerder vastgestelde AI-geletterdheid raamwerk.
  • Samen met de praktijkpartners ontwikkelen van nieuwe socio-technische ontwerpen gericht op de gekozen focus en use case.
  • In samenwerking met de partners, valideren en implementeren van de ontwerpen en hun impact bij de partnerorganisaties binnen de context van de use cases.

We leggen niet het hele traject vast, we willen flexibel blijven om op nieuwe ontwikkelingen te kunnen inspelen. AI ontwikkelt zich zó snel, je wilt daar als onderzoeker in kunnen meebewegen.”

Waarom PD-traject

Boerema dacht lang na over het halen van haar PhD. “Maar als je eenmaal werkt, is het moeilijk om weer de stap te maken naar de academische bubbel. Bovendien draait mijn vraagstuk om het van een papieren werkelijkheid komen tot praktische oplossingen. Het zou gek zijn om dan een paper als eindproduct te hebben. Een Professional Doctorate staat veel meer in de praktijk. De focus ligt op het komen tot gevalideerde oplossingen die daadwerkelijk te implementeren zijn. Dat sprak mij erg aan.”

Bereikt over vijf jaar

Boerema schetst wat ze wil bereiken: “We streven er naar ieder jaar concrete socio-technische oplossingen op te leveren, die een op dat moment relevant vraagstuk adresseren. Over vijf jaar bieden we een tool-box met zowel concrete oplossingen als ook methoden die bedrijven kunnen gebruiken om de sneller ontwikkelingen op het gebied van AI te navigeren, op een verantwoorde manier die past bij hun organisatie.”

Relevante links

Werkveldpartners
Lectoren
  • Marieke Peeters, hoofddocent Responsible Applied AI bij Hogeschool Utrecht.
  • Stefan Leijnen, lector van het lectoraat Artificial Intelligence bij Hogeschool Utrecht.
  • Maaike Harbers, professor Artificial Intelligence & Society bij Hogeschool Rotterdam.
Nadere informatie
Anita Boerema
Anita Boerema

PD-Traject

Techniek & Digitalisering
Mensgerichte verantwoorde AI in organisaties
Hogeschool Utrecht