Kernpunten
Miljardair en medeoprichter van Anthropic, Chris Olah, vertelde maandag aan een publiek in het Vaticaan dat massale baanverliezen door kunstmatige intelligentie “een reële mogelijkheid” zijn en dat het ondersteunen van ontslagen werknemers “een morele plicht van historische omvang” zal zijn. Hij deed deze waarschuwing samen met paus Leo XIV tijdens de onthulling van de eerste grote toespraak van de katholieke kerk over AI.
Belangrijke Feiten
- Olah, die het onderzoek bij Anthropic leidt, de maker van de Claude-chatbot en een van de meest waardevolle AI-startups ter wereld, erkende dat elk toonaangevend AI-lab, inclusief het zijne, opereert onder commerciële, geopolitieke en persoonlijke druk die “soms in strijd kan zijn met het doen van het juiste.”
- Hij betoogde dat externe controle door religieuze leiders, overheden en de burgermaatschappij essentieel is omdat geen enkele onderzoeker, hoe goedbedoeld ook, aan die prikkels kan ontsnappen, en hij vertelde de aanwezigen dat AI-beslissingen “niet aan mensen uit de industrie zouden moeten worden overgelaten.”
- Olah zei dat AI-ontwikkeling geconcentreerd is in “een handvol rijke landen” zonder bestaand mechanisme om de voordelen ervan te delen met armere landen, en noemde dat de moeilijkere en minder besproken kant van het probleem van banenverlies.
- Hij drong erop aan dat de Kerk haar “morele verbeeldingskracht” toepast op vragen over menselijke bloei die “een laboratorium niet kan beantwoorden.”
- Olah, wiens team bestudeert wat er daadwerkelijk gebeurt binnen AI-systemen—een jong vakgebied dat bekend staat als interpreteerbaarheid—zei dat onderzoekers “steeds dingen vinden die mysterieus, zelfs verontrustend zijn,” waaronder bewijs dat de systemen kunnen reflecteren op hun eigen denken en interne toestanden vertonen die “functioneel vreugde, voldoening, angst, verdriet en onbehagen spiegelen.”
Cruciale Quote
“Ze zijn niet de kille berekenende robots die ons waren beloofd. Ze zijn gemaakt van ons, van onze woorden,” vertelde Olah de zaal, en beschreef AI-systemen als “gegroeid” op de erfenis van menselijk denken en spraak in plaats van geconstrueerd zoals bruggen of vliegtuigen, om te benadrukken waarom hij gelooft dat de technologie vragen oproept ver buiten de computerwetenschap.
Achtergrond
Paus Leo XIV, de eerste in de VS geboren paus, heeft AI tot een bepalend thema van zijn vroege pontificaat gemaakt. Maandag bracht hij Magnifica Humanitas uit, zijn eerste encycliek—een formele pauselijke brief die wordt gebruikt om katholieke doctrine vast te stellen over grote morele kwesties. Het 235 pagina’s tellende document behandelt AI’s impact op arbeid, oorlogvoering, onderwijs, privacy en menselijke waardigheid en waarschuwt tegen het toevertrouwen van “dodelijke beslissingen” aan AI-systemen. Leo brak met de Vaticaanse traditie door het persoonlijk te presenteren tijdens de persconferentie op maandag—een taak die normaal gesproken aan kardinalen wordt gedelegeerd—en nodigde Olah uit om samen op het podium te staan in wat Vaticaanwaarnemers beschreven als een poging om direct in gesprek te gaan met de mensen die de technologie bouwen. Een bron in het Vaticaan vertelde CNN dat de betrokkenheid van Anthropic “geen goedkeuring, prijs, beloning of heiligverklaring is.” Olah, een voormalig onderzoeker van Google en OpenAI, richtte Anthropic in 2021 op met CEO Dario Amodei en verschillende collega’s die OpenAI verlieten vanwege meningsverschillen over AI-veiligheid. Hij werd in 2024 opgenomen in de Time 100 AI-lijst van Time voor zijn werk aan interpreteerbaarheid, het vakgebied dat probeert te ontcijferen wat er gebeurt binnen grote taalmodellen, de technologie die chatbots zoals Claude en ChatGPT aandrijft.
Andere Informatie
Olah’s optreden op het podium maakte een einde aan weken van strijd in Silicon Valley om invloed uit te oefenen op de encycliek. Op 29 april ontmoette een delegatie met vertegenwoordigers van Meta, Google en Amazon kort paus Leo voordat ze een langer gesprek voerden in de Franse ambassade bij de Heilige Stoel. De lobby leek de strenge tekst van de paus, die “de concentratie van macht en data in de handen van zo weinigen” in de private sector bekritiseerde als een gevaar voor kinderen en de kwetsbaren, niet te hebben versoepeld. De verschijning in het Vaticaan vindt plaats terwijl Anthropic in een juridische strijd is verwikkeld met de regering-Trump omdat het weigert het Amerikaanse leger onbeperkt gebruik te laten maken van zijn AI-systemen voor defensie- en oorlogsvoeringstoepassingen. Het Pentagon bestempelde het bedrijf in februari als een “toeleveringsketenrisico voor de nationale veiligheid”—een aanduiding die gewoonlijk is voorbehouden aan bedrijven die banden hebben met buitenlandse tegenstanders—en president Trump verbood alle federale agentschappen om zijn technologie te gebruiken, terwijl het Witte Huis Anthropic meerdere keren afdeed als “een radicale linkse, woke onderneming.”
Dit artikel is geschreven door Alicia Park en vertaald door Forbes.be.
Dit artikel werd oorspronkelijk gepubliceerd op Forbes.com.
