De rode draad van Paus Leo XIV’s AI-encycliek is helder: omdat artificiële intelligentie (AI) geen neutraal instrument is, moeten menselijke waardigheid, vrijheid en solidariteit beschermd worden tegen nieuwe vormen van uitbuiting, manipulatie en oorlog. Technologie moet de mens dienen, niet omgekeerd.

In zijn eerste encycliek, “Magnifica Humanitas” (De schitterende mensheid), buigt paus Leo XIV zich over een van de meest ingrijpende ontwikkelingen van onze tijd: de opkomst van AI. Zoals paus Leo XIII aan het einde van de negentiende eeuw de sociale gevolgen van de industriële revolutie analyseerde in Rerum Novarum, wil Leo XIV nadenken over de maatschappelijke, ethische en spirituele gevolgen van de digitale revolutie.

AI moet vooral beoordeeld worden op haar gevolgen voor de menselijke persoon

De paus erkent dat AI belangrijke mogelijkheden biedt. In de gezondheidszorg, het onderwijs en de arbeidswereld kan zij bijdragen tot vooruitgang en efficiëntie. Toch waarschuwt hij dat technologie nooit louter een hulpmiddel is. Elk technisch systeem draagt een bepaalde visie op mens en samenleving in zich. Daarom mag AI niet uitsluitend beoordeeld worden op haar prestaties, maar vooral op haar gevolgen voor de menselijke persoon.

Technocratisch paradigma

Vanuit die overtuiging bekritiseert Leo XIV wat hij het “technocratische paradigma” noemt: de neiging om mensen te herleiden tot hun nut, hun prestaties en hun economische waarde. Daarbij uit hij scherpe kritiek op de groeiende concentratie van macht in handen van een beperkt aantal technologiebedrijven en economische spelers. Wanneer zulke macht zich aan democratische controle onttrekt, ontstaan nieuwe vormen van afhankelijkheid, ongelijkheid en manipulatie.

Het centrale , vierde, hoofdstuk van de encycliek onderzoekt hoe AI de mens kan raken in drie fundamentele dimensies: waarheid, arbeid en vrijheid. Wat de waarheid betreft, waarschuwt de paus voor de opkomst van een cultuur van desinformatie en postwaarheid. AI-systemen kunnen overtuigende teksten, beelden en video’s produceren, waardoor het steeds moeilijker wordt waarheid van fictie te onderscheiden. Daarom benadrukt hij het belang van kritisch denken, kwaliteitsvolle journalistiek en degelijk onderwijs.

Een bijzonder sterk onderdeel van de encycliek handelt over verborgen vormen van uitbuiting

Op het vlak van arbeid analyseert hij de impact van AI op werkgelegenheid en economische verhoudingen. Technologische innovatie mag niet leiden tot grotere sociale ongelijkheid of tot de uitsluiting van kwetsbare groepen. De voordelen van AI moeten eerlijk verdeeld worden. Daarom pleit hij voor sociale bescherming, internationale regelgeving en een grotere verantwoordelijkheid van bedrijven en overheden.

Menselijke vrijheid

Een bijzonder sterk onderdeel van de encycliek handelt over verborgen vormen van uitbuiting. Achter de indrukwekkende prestaties van AI schuilt immers het werk van miljoenen mensen die gegevens labelen, problematische inhoud modereren en algoritmen trainen. Vaak gebeurt dit onder moeilijke omstandigheden en tegen lage lonen. Daarnaast wijst Leo XIV op de ontginning van zeldzame aardmetalen die nodig zijn voor digitale technologieën. In sommige regio’s werken kinderen en jongeren onder gevaarlijke omstandigheden om grondstoffen te leveren voor de digitale economie. Volgens de paus mogen deze vaak onzichtbare slachtoffers niet vergeten worden.

Leo XIV roept op om AI te “ontwapenen”: niet door technologie af te wijzen, maar door haar strikt ondergeschikt te houden aan menselijke verantwoordelijkheid en ethische grenzen

Ook de menselijke vrijheid komt onder druk te staan. Digitale platformen zijn ontworpen om zoveel mogelijk aandacht vast te houden. Zij spelen in op menselijke kwetsbaarheden en kunnen verslaving, afhankelijkheid en manipulatie bevorderen. Leo XIV spreekt zelfs over nieuwe vormen van slavernij wanneer economische belangen systematisch gebruikmaken van menselijke zwakheden om gedrag te sturen en winst te maximaliseren.

Het laatste hoofdstuk van de encycliek behandelt de relatie tussen AI en oorlog. In een wereld waarin steeds meer militaire toepassingen gebruik maken van artificiële intelligentie, vreest de paus voor een verdere ontmenselijking van gewapende conflicten. Wanneer beslissingen over geweld op grotere afstand worden genomen en de vijand gereduceerd wordt tot een datapunt of een doelwit op een scherm, dreigt de morele verantwoordelijkheid te vervagen. Daarom roept Leo XIV op om AI te “ontwapenen”: niet door technologie af te wijzen, maar door haar strikt ondergeschikt te houden aan menselijke verantwoordelijkheid en ethische grenzen.

Hoopvolle visie

Toch eindigt de encycliek niet in pessimisme. Tegenover technologische utopieën en transhumanistische dromen plaatst de paus een hoopvolle visie op de mens. Werkelijke intelligentie bestaat niet alleen uit kennis en rekenkracht, maar ook uit wijsheid, voorzichtigheid, mededogen en vergevingsgezindheid. Volgens Leo XIV wordt de mens pas ten volle mens wanneer hij open staat voor solidariteit, voor anderen en uiteindelijk voor God. De grote uitdaging van onze tijd bestaat er daarom niet in steeds intelligentere machines te bouwen, maar in het bewaren en verdiepen van onze menselijkheid te midden van de technologische revolutie.

Foto door Enchanted Tools via Unsplash