Ronald Meester & Marc Jacobs, De onttovering van AI. Een pleidooi voor het gebruik van gezond verstand
MazirelPress 2024
Rond kunstmatige intelligentie (AI) zou het niet moeten gaan over de vraag of AI de mens gaat overnemen, maar over de vraag of wij mensen ons láten overnemen. De ontwikkelingen op het gebied van AI vormen een nieuwe stap in de richting van een samenleving waarin menselijke intuïtie en gezond verstand worden vervangen door cijfers, modellen en algoritmes.
Een model zonder wijsheid gebruiken leidt altijd tot ongelukken en dit geldt zeker ook voor AI. Door gebruik te maken van veel data en rekenkracht kunnen deze modellen steeds meer. Ook worden toepassingen steeds toegankelijker. Dit maakt dat techniek zoals AI bijna wel gebruikt moet worden, ook als de toegevoegde waarde niet evident is.
Dit boek is een filosofische, levensbeschouwelijke en soms mild technische overdenking van deze ontwikkelingen. Een gezonde relatie tussen mens en techniek vereist dat de gebruiker niet alleen de benodigde kennis heeft, maar ook eindverantwoordelijk blijft. Alleen dan levert techniek ook daadwerkelijk iets op.
9. ‘Zoals elk model moet dus ook ChatGPT geïnterpreteerd worden, en dat kan alleen met bewustzijn. Er is niet alleen een zender maar ook een ontvanger. ChatGPT zelf begrijpt niets. Misschien is een analogie met de wiskunde verhelderend. In het begin van de vorige eeuw dachten de wiskundigen Bertrand Russell en Alfred North Whitehead dat wiskunde puur symbolisch was, en dat er geen betekenis aan hoefde te worden toegekend aan symbolen en operaties binnen de wiskunde. (Niet geheel toevallig was Russell de mentor van Wittgenstein, en heeft Russell laatstgenoemde waarschijnlijk in eerste instantie de verkeerde kant op gestuurd door taal aanvankelijk als pure logica op te vatten.) Die opvatting bleek onhoudbaar, omdat wiskunde zich zonder betekenis ook niet kan ontwikkelen. Wiskunde is niet alleen maar pure logica, laat staan dat taal dat zou zijn.’
10. ‘Voor begrip is bovendien bewustzijn nodig. Je kunt alleen maar iets begrijpen als je je bewust bent van jezelf. We hebben echter geen idee wat bewustzijn precies is. Natuurlijk weten we dat we zonder brein geen bewustzijn kunnen hebben, maar welke rol ons brein daarin precies speelt is onduidelijk, net als de vraag of bewustzijn puur materialistisch te begrijpen zal zijn. Het zou daarom niet minder dan bizar zijn om te denken dat wij iets zouden kunnen maken, een algoritme bijvoorbeeld, dat bewustzijn heeft. We weten de facto niet eens waar we het over hebben wanneer we over bewustzijn spreken. Sommige mensen denken dat bewustzijn emergeert als het netwerk in een brein maar voldoende complex is. Dat is bijvoorbeeld wat filosoof Daniel Dennett beweert, maar dat is echt niets anders dan pure speculatie.’
75. ‘Een van de grote pleitbezorgers van techniek is historicus en futuroloog Yuval Noah Harari. Hij vindt dat de mensheid de drie grote problemen die haar altijd hebben belaagd in principe heeft opgelost: honger, epidemieën en oorlogen. Daarmee staan we volgens hem klaar voor de volgende stap, waarin de mens het stokje van God overneemt: de Homo Deus – de goddelijke mens – die taken overneemt die we traditioneel aan God overlieten.1 En het is onze techniek die dat allemaal voor elkaar heeft gekregen, aldus Harari.
Het is allereerst natuurlijk maar de vraag of we de drie kwaden waar Harari het over heeft als wereldbevolking daadwerkelijk te boven zijn gekomen. Een korte blik op de toestand van ons continent en onze planeet geeft toch een heel ander beeld. Overwegingen hierover worden zelfs enigszins cynisch als we ons realiseren dat de door Harari bejubelde techniek ook in staat is gebleken om epidemieën juist te veroorzaken. De bewijzen stapelen zich bijvoorbeeld op dat het Sars-Cov-2-virus wel degelijk uit het laboratorium in Wuhan is ontsnapt, waardoor we de wetenschap en techniek niet alleen kunnen bedanken vanwege de bestrijding ervan, maar ook verantwoordelijk moeten stellen voor het ontstaan van het probleem.
‘Natuurlijk zal Harari niet ontkennen dat techniek ook met problemen gepaard kan gaan. Zo is het nu eenmaal: alles kan ten goede maar ook ten kwade worden aangewend, en dat geldt voor techniek natuurlijk net zo goed als voor elk ander fenomeen of object. We zijn als mensheid niet helemaal blind voor de keerzijde van onze technologische ontwikkeling, maar meestal gaat die kritiek niet verder dan de vaststelling dat techniek ook ten kwade kan worden aangewend. Techniek resulteert niet alleen in medische apparatuur, maar ook in een atoombom en autonome wapensystemen. Techniek heeft mensen in staat gesteld om met één symbolische druk op de rode knop de totale vernietiging van de mensheid te bewerkstelligen. Techniek heeft het mogelijk gemaakt om virussen in elkaar te zetten die de potentie hebben om de halve wereldbevolking uit te roeien.’
93. ‘Bewegen schijnt zelfs direct positieve gevolgen te hebben voor je hersenen. Maar ook op een ander vlak is er mentale schade: we raken het ontwend om ergens echt moeite voor te hoeven of te willen doen. Moeite doen vormt je. De elektrische fiets berooft je van een vaardigheid en van een goede levensles, terwijl de winst eigenlijk volkomen irrelevant is – voor de meeste mensen dan. Want natuurlijk zijn er ook verhalen van mensen die dankzij de elektrische fiets überhaupt nog fietsen. Het probleem is alleen dat dat argument volkomen onterecht wordt ingezet om dan maar ál het elektrisch fietsen te verdedigen. Voor veruit de meeste mensen is er kortetermijnwinst, maar uiteindelijk op langere termijn alleen maar verlies.
De parallel met AI is sterk. Wat we aan onze digitale entiteiten uitbesteden, kunnen we straks zelf niet meer. We verliezen de capaciteit om ook eens een tijdje geestdodend werk te doen, maar vooral doen we onszelf te kort omdat we ons niet meer voldoende engageren met wat er werkelijk toe doet.
125. ‘AI wordt niet intelligenter dan wij, het wordt niet bewust, en het gaat nergens verantwoordelijkheid voor nemen. Het kan interessante dingen ontdekken als wij het slim en verstandig inzetten, maar het besluit daartoe moet door mensen worden genomen. De interpretatie van de bevindingen is ook aan mensen voorbehouden, wat alle tech-goeroes hier ook over mogen beweren.
Deze overdenkingen over AI zijn geworteld in de overtuiging dat wij mensen niet reduceerbaar zijn tot algoritmes en data. Ook dat wordt vaak beweerd zoals we hebben gezien, maar is uiteindelijk niets anders dan een geloofsuitspraak zonder goede papieren. We kunnen wel algoritmes en data inzetten om te doen wat wij voor onszelf als onze levensopdracht zien. Het zou onverstandig zijn om techniek en kennis niet te gebruiken, want deze leveren ons ook mogelijkerwijs wat op. Maar het is zaak om te allen tijde zelf de controle te houden,’
150. ‘Het aantal prikkels en de technische mogelijkheden (die twee gaan gelijk op) zijn groter dan ooit tevoren, en de moderne mens moet beduidend meer moeite doen om dicht bij zichzelf te blijven dan vorige generaties.
En als zich dan een technische revolutie lijkt voor te doen waarin sprake is van een bedreiging van de eigenheid van de mens, kan het helemaal geen kwaad om daar nog eens rustig over na te denken, de waan van de dag even te vergeten, en na te gaan op welke manier jij met deze ontwikkeling wilt omgaan. Het lezen en overdenken van wijsheidsliteratuur kan daarbij zeker behulpzaam zijn. Het kan je nieuwe perspectieven aanreiken, het kan je bewust maken van het feit dat je er niet alleen voor staat, het kan je helpen om gebruik te maken van het inzicht van anderen, en het kan je helpen om te overdenken waarin je wel of niet mee wilt gaan. Het is daarbij helemaal niet nodig om techniek en AI af te wijzen – dat doen wij zelf ook nadrukkelijk niet.
Maar een technocratie is niet zo ver weg meer, en als de wijsheidsliteratuur ons iets vertelt, ook al is het niet in die precieze bewoordingen ‘dan is het wel dat we het zo ver niet zouden moeten laten komen.
Uiteindelijk biedt elke traditie natuurlijk ook hoop, en wij als auteurs hebben geprobeerd te laten zien dat we zelf in de hand hebben hoever we het met AI willen laten komen. De belofte van een nieuwe en betere wereld hebben wij net iets te vaak gehoord om nog serieus te nemen. Dat gaat AI ons niet brengen. Maar als we verstandig zijn, en ons niet van de wijs laten brengen door de futurologen die ook maar wat roepen, ja dan kan het ons best van pas komen, en kunnen we er misschien hele mooie dingen mee doen.
Maar alleen dan.’
