27-10-2022
Artificial intelligence (AI) en data science zijn technieken die in de hedendaagse maatschappij met de dag relevanter worden. We worden steeds afhankelijker van de kracht en gigantische omvang van AI-algoritmes. Echter, hoe verstandig is dit groeiende vertrouwen en de afhankelijkheid van deze technologieën? Wat zijn de gevaren?
Bedrijfskritische beslissingen door AI
Veel modellen en technieken binnen AI en data science staan bekend om hun gebrek aan transparantie. Dit soort modellen worden zwarte dozen (black boxes) genoemd, omdat onduidelijk is hoe deze modellen tot hun uitvoer (output) komen. Dit komt doordat algoritmes binnen een zwarte doos zelflerend zijn, waardoor niet meer door mensen intuïtief kan worden begrepen hoe de uitvoer van de AI tot stand komt.
Hieruit kunnen grote gevaren voortkomen, omdat voor belangrijke beslissingen te veel wordt vertrouwd op de uitvoer van AI-modellen, terwijl men niet kan controleren of er in de productie van de uitvoer geen fouten zijn gemaakt. Wanneer bedrijfskritische beslissingen worden gemaakt op basis van oordelen van AI, terwijl men niet weet hoe deze oordelen tot stand komen, kunnen er ongewenste resultaten ontstaan die mogelijk verregaande gevolgen hebben voor een bedrijf.
Vooroordelen en discriminatie
Verdergaand op het zwarte doos principe, is er naast het nemen van onverstandige bedrijfskritische beslissingen ook een gevaar van het nemen van beslissingen die gebaseerd zijn op vooroordelen en discriminatie. Een bekend voorbeeld hiervan is bij de belastingdienst, waar beslissingen werden gemaakt op basis van modellen die de etniciteit van burgers meenamen in hun oordelen1.
Wanneer bedrijven AI gebruiken bij personeelszaken, bijvoorbeeld sollicitaties, promoties of ontslagen, kan er structurele discriminatie plaatsvinden zonder dat verantwoordelijken binnen het bedrijf zich daar bewust van zijn.
Privacyschending
Tenslotte dreigt bij het gebruik van AI en data science binnen een bedrijf ook het gevaar dat de privacy van mensen wordt geschonden. Omdat er waarde te halen valt uit het gebruik van deze technieken, zoals besproken in ons vorige artikel ‘Toepassingen van AI en data science’, is het gunstig voor bedrijven om veel data te verzamelen. Met behulp van bijvoorbeeld inzichten uit klantanalyses kunnen bedrijven meer klantgericht te werk gaan. Naast de ethische en morele problemen die hiermee gepaard gaan, kunnen je hier als bedrijf ook boetes voor krijgen door het onrechtmatig verzamelen van data volgens de Algemene Verordening Gegevensbescherming (AVG)2.
Bij de implementatie van AI en data science is het dus belangrijk dat er rekening wordt gehouden met de gevaren en risico’s, om een succesvolle implementatie te realiseren. Wil je hier graag meer over weten of ben je benieuwd wat Student Consultant te bieden heeft op het gebied van AI en data science? Neem dan gerust contact met ons op.
[1] https://www.volkskrant.nl/cs-baebefdb
[2] https://www.autoriteitpersoonsgegevens.nl/nl/over-privacy/wetten/algemene-verordening-gegevensbescherming-avg