AI zet democratie onder druk: 'Het gaat over wie mag bepalen wat de waarheid is'

Artificiële intelligentie is een bron van misinformatie en dat gevaar gaat dieper dan we zouden denken. 'We worden ideologisch beïnvloed als we op AI-systemen vertrouwen om ons te informeren', zegt professor Nathalie Smuha.

Smuha is verbonden aan de rechtenfaculteit van de KU Leuven en doceert rechten aan de Faculty of Law van de University of Toronto. Ze doet er onderzoek naar juridische, ethische en filosofische vraagstukken rond artificiële intelligentie (AI). Haar onderzoek waarschuwt voor AI-systemen die op een onverantwoorde manier in de samenleving worden geïntroduceerd. 

'De ondermijning van zowel de rechtsstaat als de democratie en de uitholling van de mensenrechten wordt daardoor een reëel risico', waarschuwt ze. In haar onderzoek toont ze aan dat dat tegenwoordig al op grote schaal gebeurt. 'Het is niet vijf voor twaalf, het is twaalf uur.'

Smuha coördineerde als 26-jarige de werkzaamheden van de High-Level Expert Group on AI van de Europese Commissie, die ethische richtlijnen voor AI opstelde. De adviezen van de groep leidden tot de Europese AI Act, die in het voorjaar van 2024 werd goedgekeurd. 'Het is eigenlijk een mirakel dat die erdoor is gekomen. In het huidige politieke klimaat zou dat niet het geval zijn', zegt Smuha. 

De technologische ontwikkelingen op het gebied van AI gaan snel. Hoe lang denkt u dat de European AI Act relevant zal blijven?
Nathalie Smuha: 'Er wordt vaak gezegd dat regelgeving achterloopt op de feiten. Maar er is wel degelijk een manier om regels zo op te stellen dat ze toekomstbestendig zijn en dus toegepast kunnen worden op nieuwe technologieën. Heeft de AI Act dat goed gedaan? Daar ben ik niet zeker van.'

'Toen de expertengroep de richtlijnen uitschreef, was het gebruik van AI vooral beperkt tot gespecialiseerde systemen, zoals aanbevelingen op Spotify of Amazon. Het was pas toen generatieve AI, zoals ChatGPT, opkwam dat plots de hele wereld wist dat AI bestond. In het eerste concept van de AI Act stond zelfs niets over generatieve AI. En er is natuurlijk een kans dat er iets nieuws aankomt dat nog niet in de AI Act staat.'

'De AI Act is een goede eerste stap, maar bewandelde een wankel evenwicht. Er zijn gesprekken over het terugdraaien van enkele beschermingen, nog voordat ze effectief in werking zijn getreden, omwille van druk om te blijven innoveren. De kritiek is dat, als we de AI-race willen winnen, we onszelf in de voet schieten als we regelgeving aannemen. Dan kunnen we niet mee met China en de VS. Het politieke klimaat is momenteel niet zo pro-regulering.'

Wat vindt u van de afweging die de EU maakt tussen ethiek en innovatie? 
'Ik denk dat je zowel een ethisch beleid kan voeren als een pro-innovatiebeleid. Er is een regelgevend kader nodig om innovatie te stimuleren binnen de maatschappelijke waarden die wij belangrijk vinden. Er zijn ook AI-systemen die de democratie versterken, zoals systemen die burgerparticipatie vergemakkelijken of complexe wetgevings­processen op maat van de burger uitleggen.'

Vindt u dat de angst en ongerustheid over AI gegrond is?
'Ik denk dat er wel degelijk veel maatschappelijke risico’s verbonden zijn aan AI. Vaak komen die niet van AI zelf, maar eerder van de mensen die de AI-systemen op een onverantwoorde manier ontwikkelen of gebruiken om winst na te jagen. Dan krijg je chatbots die aan de burger worden opgedrongen en weinig accurate of manipulatieve informatie kunnen genereren.'

'Ik vind dat daar niet voldoende verontwaardiging over is. AI is makkelijk en handig, we rekenen er op. Ik denk dat veel mensen kwaad zouden zijn als ChatGPT plotseling niet meer beschikbaar was. Het is dus belangrijk om de risico’s beter in kaart te brengen. We moeten duidelijk maken dat er niet alleen een fout in je essay kan zitten, maar dat de democratie op het spel staat.'

'Het probleem blijft echter de ideologische gebondenheid van die ontwikkelaars. Het gaat over de waarheid en wie mag bepalen wat die waarheid is. Op de vraag wat er gebeurd is tussen Taiwan en China, ga je van een Chinees of Amerikaans AI-systeem een heel ander antwoord krijgen. Wie mag beslissen wat hier het juiste antwoord is?'

'Daarom is er bij bedrijven een groter bewustzijn van hun verantwoordelijkheid nodig. Neem bijvoorbeeld de farmaceutica, daar mag geen enkel bedrijf zomaar een medicijn op de markt brengen zonder dat het eerst getest wordt. Toch is er veel innovatie in die sector. Het argument dat er geen innovatie is als je ergens regelgeving op zet, klopt dus niet.'

De AI Act eist toch meer transparantie van bedrijven?
'De AI Act legt verschillende vereisten op, waaronder de verplichting om een risico-inschatting te maken. Maar zij hebben er alle belang bij om dat niet te doen of het te onderschatten. Er is ook geen voorafgaand controlemechanisme om te kijken of ze dat correct hebben gedaan. Controle van schadelijke feiten komt pas na de feiten. In die zin is de AI Act niet krachtig genoeg.'

Moeten universiteiten de ontwikkeling van AI-systemen meer naar zich toe trekken?
'Transparantie zal altijd een probleem zijn, ook voor universitaire onderzoekers. Er zijn bepaalde AI-systemen waarvan ontwikkelaars niet eens weten hoe ze beslissingen nemen. Ze kunnen wel transparantie bieden door te tonen hoe het systeem ontwikkeld werd en welke data werd gebruikt. Het probleem is dat de meeste bedrijven, zoals OpenAI, hun data niet vrijgeven.'

'Het kostenplaatje speelt ook een rol. Er zijn vandaag maar een handvol bedrijven die voldoende geld en middelen hebben om heel krachtige AI-systemen te bouwen. Het vraagt namelijk enorm veel energie, data en computationele kracht. Dat is iets wat de meeste universiteiten niet ter beschikking hebben. Hierdoor creëer je een soort oligopolie waarbij enkel de grote techbedrijven krachtige systemen kunnen ontwikkelen, en daar schuilt het probleem.'

Vormt het een maatschappelijk risico dat mensen ChatGPT beschouwen als een denkend systeem?
'Absoluut. Wat het nog gevaarlijker maakt, is dat bijna alle aanbieders, zoals OpenAI, er alles aan doen om die systemen zo menselijk mogelijk te laten lijken. Ze geven ons het gevoel dat ze ons begrijpen, wat zorgt voor emotionele verbondenheid. Steeds meer mensen denken dat ChatGPT hun beste vriend is, aan wie ze advies kunnen vragen. Laat staan dat ze zich er informeren over politieke vraagstukken.'

'Kijk maar naar Grok van X, dat zelfs ideologische uitspraken doet. Techbedrijven kunnen op die manier beslissen wat de waarheid wordt. Wanneer wij daarop vertrouwen om ons te informeren of onze essays te schrijven, dan worden we niet enkel emotioneel, maar ook ideologisch beïnvloed. Dat brengt veel risico’s met zich mee die momenteel niet worden aangepakt. Betere regelgeving is belangrijk, maar zal niet alleen de oplossing zijn. Ook geletterdheid speelt een cruciale rol.'

Waar moeten studenten op letten als ze AI raadplegen? 
'Hoewel ik studenten aanmoedig om met AI te experimenteren, raad ik ze af om ChatGPT te gebruiken als ze een werk schrijven. Je weet immers nooit of iets dat uit ChatGPT komt een letterlijke zin uit een auteursrechtelijk beschermd boek is. Een ander probleem van chatbots is dat ze niet gemaakt zijn om de waarheid te spreken. Als je aan ChatGPT vraagt of iets een echt citaat is, dan zal die niet "liegen". Het systeem wéét gewoon niet wat de waarheid is.'

'Het is belangrijk dat AI zowel op universiteiten als op lagere en middelbare scholen aan bod komt. Ik vind dat zij een verplichting hebben om studenten uitleg te geven over de limitaties en capaciteiten van AI-systemen. Het zou ook onverantwoord zijn om tegen studenten te zeggen dat ze nooit ChatGPT mogen gebruiken, omdat je er in zoveel jobs mee in contact komt.'

'Het is nu ook belangrijker dan ooit dat er meer wordt ingezet op essentiële vaardigheden, zoals kritisch denken. Zo zijn er mensen die nu amper kunnen schrijven omdat ze dat nooit echt hebben geleerd, want ChatGPT doet het voor hen.'

Heb je vragen of opmerkingen bij dit artikel? Stuur ze ons.