EAN: 9791032914755
Date de parution: 15/01/2025
Collection: Essais
Nombre de pages: 336
https://editions-observatoire.com/livre/IA-%3A-grand-remplacement-ou-complementarite-%3F/557
- Johann Rossouw skryf gereelde rubrieke vir LitNet.
Luc Ferry (1951–) is die skrywer of medeskrywer van digby vyftig boeke. Ferry, wat ’n liberale sekulêre humanis is, het sy naam aanvanklik gemaak met ’n aantal publikasies oor die politieke filosofie – en, saam met Alain Renaut, een van die beste kritieke van die denke van Martin Heidegger (in Engels vertaal as Heidegger and modernity), waarin die twee skrywers ná bykans ’n dekade se bemoeienis met Heidegger se werk tot die slotsom kom dat selfs Heidegger se oënskynlik mees apolitiese ontologiese werk inderwaarheid deur die Duitse Nazi-ideologie onderlê word. Dit was lank voor die voltooiing van die nadoodse publikasie van Heidegger se notaboeke, wat hierdie siening staaf, en nog in ’n era waarin die denke van sogenaamde linkse Heideggeriane soos Jacques Derrida die toon in die eietydse Franse denke aangegee het.
Ofskoon Ferry sedertdien oor ’n wye verskeidenheid onderwerpe gepubliseer het, het hy hom veral die afgelope sowat twee dekades verdiep in die biologie en die tegnologie. Bowendien het hy ook heelwat interessante werk oor die skatpligtigheid van die Westerse beskawing en denke aan die Christendom gedoen. Hy was ook vir bykans twee jaar, tussen 2002 en 2004, onder die sentrum-regse president Jacques Chirac minister van die jeug, nasionale opvoeding en navorsing, wat sprekend is van sy deurlopende bemoeienis met hierdie sake.
Ná navorsing van bykans sewe jaar publiseer hy vroeg in 2025 die boek IA: Grand remplacement or complémentarité? (“KI: Groot vervanging of aanvullendheid?”, Parys, Éditions de l’Observatoire) oor die opkoms van sogenaamde kunsmatige intelligensie en die implikasies daarvan vir die mensdom en ons toekoms.
Maar eers net iets oor die korrekte vaktaal. In ’n onlangse rubriek skryf ek:
Denkers soos André Leroi-Gourhan, Marshall McLuhan, Michel Serres en Bernard Stiegler help ons om te verstaan dat die énigste kunsmatige intelligensie ménslike intelligensie is. Waarom? Omdat menslike intelligensie deur die kunsmatige in die vorm van die tegniek verleng en aangevul word – van die klipmes tot die vuurklip tot die skryfstif tot papirus, perkament, papier, boek, rekenaar en skerm. Menslike intelligensie skep ál hierdie vorme van die kunsmatige, wat op sy beurt menslike intelligensie oneindig versterk en aanvul. Die tegnologieë wat onjuis benoem word as “kunsmatige intelligensie”, is inderwaarheid dus alles verskillende vorme van die nabootsing van menslike intelligensie, oftewel intelligensiesimulasie (IS).
Om dié redes volstaan ek hier onder met die gebruik van die term intelligensiesimulasie (IS), waar Ferry die term kunsmatige intelligensie (KI) gebruik, tensy waar ek hom regstreeks aanhaal en hou by sy voorkeur vir die term KI. Hoe ook al, Ferry gee die toon van wat vir die mensdom met betrekking tot IS op die spel is wanneer hy verduidelik wat IS onderskei:
Dis noodsaaklik om te verstaan in watter sin die KI-revolusie anders as alle ander is. Sommige mense wil hulself gerusstel deur dit te probeer geringstel en hul vakgebied te red deur aan te voer dis te “menslik” om vervang te word deur “siellose masjiene”.
Dis ’n aantreklike benadering wat egter in die algemeen getuig van ’n gebrek aan kennis en selfs van duidelikheid wat hulle uiteindelik duur te staan gaan kom, want anders as die ander groot tegnonywerheidsrevolusies wat hul stempel op die geskiedenis van die moderne kapitalisme afgedruk het, tref KI die mens in dit wat tot nou toe sy spesifieke verskil, sy ondeurdringbare monopolie was. Dit is naamlik intelligensie, omskryf nie slegs as die vermoë om komplekse probleme op te los nie, maar bowendien ook die vermoë om natuurlike taal te verstaan en te praat – die alledaagse taal wat ons vind in die beelde en tekste deur mense geskep. (Ble 28–9; my vertaling uit die Frans, soos ook hier onder wanneer uit die teks aangehaal word)
Ofskoon Ferry se boek as filosofiese behandeling van IS aangebied word, bied hy ook heelwat relevante inligting en statistiek oor die onderwerp aan. Reeds in hoofstuk 1 doen hy spesifiek moeite om daarop te wys dat IS-tegnologieë vandag só vinnig groei en verbeter dat dit gewoon nie meer steek hou om dit af te maak nie. Ten tye van die skryf van sy boek was die gratis openbare weergawe van ChatGPT genommer 3.5, wat beduidend swakker resultate behaal het as die betaalde weergawe 4, waarop Ferry ingeteken was. Hy wys daarop dat baie mense die sagteware verkeerdelik afgemaak het op grond van die swakker gratis weergawe, pleks van om hulle die moeite te loon om met die meer gevorderde, betaalde weergawe te eksperimenteer.
Een veld waarin hy ’n eksperiment gedoen het, is dié van vertaling, waaroor hy soos volg skryf:
Ek het self die eksperiment gedoen deur GPT-4 te vra om ’n hoofstuk van die boek wat u nou lees [uit die oorspronklike Frans] in Engels en in Duits te vertaal. Aangesien ek ’n deel van my studies in Duitsland onderneem het en in die Verenigde State klasgegee het, is dit die twee tale wat ek goed genoeg praat om die gehalte van die vertaling te beoordeel. Binne ses minute het ChatGPT vir my ’n vertaling van sowat veertig bladsye gelewer en ek moet sê dat dit so volmaak is, selfs in die nuanses, dat ek nie ’n enkele woord hoef te verander het nie! Nadat ek dertig jaar van my lewe daaraan gewy het om werke van Kant, Hegel, Fichte, Jacobi, Cassirer, Adorno, Horkheimer en Schelling in Frans te vertaal en te publiseer, kon ek die vertaling maklik self gedoen het, maar pleks van ses minute sou dit my minstens twee dae neem, en ek is nie eens seker dat dit beter sou wees nie ... (35)
Nog ’n voorbeeld wat Ferry gee van waarom ons IS ten koste van onsself sou onderskat, hou verband met ’n IK-toets wat hy ChatGPT-4 laat doen het – iets wat hy ook as deel van ’n graad in die sielkunde onder die knie gekry het. Sy bevinding is dat laasgenoemde ’n IK van 150 behaal, wat dit onder die intelligentste 1% van mense plaas.
Drie soorte IS
Ten einde tot ’n behoorlike beoordeling van IS te kom, onderskei Ferry tussen drie soorte IS. Die eerste hiervan omskryf hy as IS wat “tegelykertyd swak en beperk is”. Dit is swak omdat dit bly by “die oplossing van probleme met behulp van algoritmes wat dit in staat stel om enorme hoeveelhede data (die beroemde ‘groot data’) te hanteer” (57). Dit is beperk omdat dit “soos ’n swemmer in sy baan nie die pad verlaat wat daarvoor uitgelê is nie”, byvoorbeeld om skaak teen ’n mens te speel. Dit kan nietemin kragtige resultate behaal, soos om die volgorde van die genoom van ’n kankeragtige sel binne minute te bepaal, wat op sy beurt geteikende, verpersoonlikte terapieë toedien wat nie andersins moontlik sou wees nie.
Die tweede soort IS waarna hy verwys, is algemene IS, ook soms bekend as super-IS. Die opkoms hiervan word vir die komende dekade voorspel en “sal volgens die meeste navorsers ons meerdere op alle terreine van intelligensie wees, selfs in sekere sektore waar skeppendheid wesenlik is – en dit des te meer omdat pleks daarvan om beperk te wees, dit oplaas wyd en kontekstualiserend sal wees. Tans is dit nog kenmerkend van swak KI dat dit nog ’n beperkte vermoë het om die vrae wat ’n mens daaraan stel, te kontekstualiseer” (58).
Die derde soort IS sal “sterk KI wees, dus toegerus met intelligensie soos ons s’n met selfbewussyn, vrye wil en emosies, dit wil sê ook met sy eie belange, behalwe dat dit beliggaam sal wees (as ’n mens dit so kan stel) in ’n niebiologiese, materiële basis” (59). Soos hier onder sal blyk, het Ferry sy voorbehoude oor die bestaanbaarheid van hierdie derde soort IS.
Materialistiese mensbeeld
Soos die leser reeds uit bostaande sou kon aflei, is die vraag na skeppendheid met betrekking tot menslike intelligensie en die simulasie daarvan in IS wesenlik. Volgens Ferry is die optimisme met betrekking tot die mate waartoe IS menslike intelligensie uiteindelik kan oortref – en selfs vervang – eie aan die Anglo-Amerikaanse wêreld, waar ’n materialistiese mensbeeld vandag hoogty vier. Hy behandel die vyf argumente van ’n verteenwoordiger van hierdie paradigma, naamlik die Britse wetenskapsfilosoof Arthur I Miller, oor waarom IS menslike intelligensie na bewering kan vervang (71–8).
Miller se eerste argument berus op ’n materialistiese, rekenaarmatige siening van denke as basies dié van inligtingsverwerking en probleemoplossing. Sy tweede argument is dat IS binnekort in robotte beliggaam sal word, en dat hierdie robotte eweseer emosies sal ontwikkel as wat hulle hul skoenveters sal kan vasmaak. Miller se derde argument beskou Ferry as die een waarom soveel vir die aanhangers van hierdie paradigma draai, naamlik sogenaamde masjienleer, waarvolgens die “lees” van tekste en beelde aan IS dieselfde vermoë as aan ’n mens in die werklike wêreld sal gee. Miller se vierde argument het betrekking op die kern van die heersende debat oor IS, naamlik of dit gaan om die vervanging of aanvulling van mense – volgens Miller sal dit ’n kwessie van die aanvulling en verryking van menswees wees. Miller se vyfde en laaste argument is dat IS vanweë die onbeperkte vermoë daarvan om data te verwerk, dit daaraan, in teenstelling met die beperkte menslike brein, ’n veel groter vermoë tot skeppendheid as die mens sal gee.
Geneeskunde
Ofskoon Ferry om redes wat hier onder bespreek sal word, nie deur Miller se argumente oortuig is nie, bespreek hy wel wat betref die groeiende positiewe moontlikhede van IS die reuse vooruitgang wat dit in die geneeskunde bring, byvoorbeeld met betrekking tot verbeterde pasiëntdiagnoses.
Hieroor skryf Ferry:
Vooruitgang in die diagnose en monitering van pasiënte is vanselfsprekend nie toevallig nie. Dit hou nie slegs verband met die fenomenale ontwikkeling van die drie parameters waarna reeds verwys is nie (kragtige rekenaars, die gehalte van algoritmes en die hoeveelheid data wat masjiene kan absorbeer en verstaan), maar eweneens met ’n hele reeks omwentelinge in die mediese praktyk wat deur dié vooruitgang meegebring is: die monitering van diabete se oë, kontrole van x-strale en die identifikasie van anomalieë, die vroeë identifikasie van ’n kanker voor dit nog onder kliniese ondersoek of selfs op ’n skandeerder sigbaar is, inligtingsbystand van dokters, die organisering van die “telemonitering” van ’n longkanker, ens, ens (88–9).
Met verwysing na ’n boek wat die dokter en genetikus Pascal Pujol geskryf het (Dépasser la chimio [“Verder as chemoterapie”], 2022), het Ferry hoë verwagtinge oor hoe IS groter sukses met kankerbehandeling mag bring:
[D]ie lesing van die DNS van die kankeragtige sel sal ons nie slegs in staat stel om in talle gevalle (veeleisende, verwoestende) chemoterapie te vermy nie, maar sal ons ook in staat stel om danksy beter kennis van die swak punte van die formidabele vyand wat die kankeragtige sel is, die uiteindelike terugkeer van ’n kanker te voorsien, die aggressiwiteit daarvan beter te verstaan en dit bowenal met nuwe terapieë te pak – sowel verpersoonlikte, geteikende terapieë as immunoterapieë. Môre se verpersoonlikte geneeskunde (en heel gelukkig vir ons begin môre danksy KI reeds vandag) sal nie slegs terapeuties wees nie, maar ook voorspellend en dus voorkomend. (93)
Filosofie
Wat van die moontlikheid dat IS die filosofie kan vervang?
Oor dié moontlikheid is Ferry skepties:
[Ek] is ... oortuig dat tensy dit ’n sterk KI toegerus met bewussyn en emosies word, geen KI ooit die filosofie kan vervang nie, ewe min as wat dit in die breë sin van die woord enige groot sekulêre of religieuse spiritualiteit kan vervang – nes die groot religieuse spiritualiteite, vooronderstel die groot filosofieë ’n sekere verhouding met waardes soos waarheid, geregtigheid, skoonheid, wysheid, betekenis en verlossing. ’n KI kan dit ongetwyfeld naboots indien dit “belyn” is met ’n denkstelsel soos wat ChatGPT en Gemini reeds met die wokisme is, maar dit kan nie leef of voel nie. Aangesien dit nie beliggaamd is nie, is dit nie in staat tot haat of liefde nie, ook nie tot hartstogte of belange of vrye wil nie. (105–6)
Werk
Die area waar die debat oor die vervanging of aanvulling van die mens deur IS ongetwyfeld die felste woed, is dié van werk. Ferry erken twee standpunte hieroor, maar verkies sy eie standpunt, naamlik dié van aanvulling. Die eerste van eersgenoemde is Elon Musk se sogenaamde neuroversterking (neuroenhancement), waarvolgens breininplantings inderwaarheid ’n sogenaamde postmensdom sal meebring: “Dit kom neer op die skep van ’n postmensdom wat intelligent genoeg is om pasbaar met KI te wees pleks van om daardeur oorheers of trouens daardeur uitgewis te word” (170). Die tweede van eersgenoemde standpunte is dié van ’n basiese inkomstetoelaag, wat implisiet aanvaar dat IS die meeste mense werkloos gaan laat.
Ferry motiveer sy voorkeur vir ’n derde opsie soos volg:
’n Derde oplossing, wat myns insiens oneindig wensliker en mensliker as die eerste twee is, sal daarop neerkom om te streef na ’n aanvullendheid tussen KI en mense sonder enige kunsmatige versterking, op ’n steeds “natuurlike” wyse. Dit vooronderstel dat KI nie gebruik word om mense bloot te vervang nie, maar slegs om hulle te verlos van ondankbare, kwalik opwindende take terwyl die tyd en vryheid van werknemers wat so gewen word, aangewend word om hul produktiwiteit en skeppendheid met ander take binne die onderneming te verhoog. Binne hierdie ideale gesigspunt sal dit dus nie gaan om die verdediging ten alle koste van “werk ter wille van werk” nie, maar om voordeel uit KI te trek om werk interessanter, bevredigender en nuttiger te maak terwyl die groei en produksie van welvaart verhoog word. Die eerste voorwaarde om hierin te slaag sal wees om die teenstelling werk/niewerk agter te laat deur vir almal minimum werk te handhaaf ten einde ’n omgewing en maatskaplike verhoudinge te verseker, selfs al beteken dit dat werknemers se inkomste aangevul word deur die winste en welvaart wat deur KI onder niegesalarieerde goue ganse geproduseer word. Dit sal dus nodig wees om te besin oor die middele, oor hoe om die wedersydse aanvullendheid van KI, werk en menslike skeppendheid waar dit ook al moontlik is, te organiseer. Wanneer hierdie aanvullendheid eers ingerig is, mag dit dalk ook nodig wees om weer ’n burgerlike diens vir volwassenes te skep wat hulle in staat sal stel om sosiale nut en ’n posisie in die gemeenskaplike lewe te verkry (170–1).
Met ander woorde, pleks van ’n basiese inkomstetoelaag staan Ferry ’n minimum van werk vir almal voor, desnoods deur ’n nuwe soort burgerlike diens. Hierbenewens is hy ook geesdriftig oor die vooruitsig dat, soos hy dit stel, beroepe waarin die hoof en die hart gekombineer word, ’n goeie kans op oorlewing het:
In die toekomstige wêreld ... sal die verpleegster die algemene praktisyn oorleef, en die algemene praktisyn die spesialis. Die tuinier, die hotel- of restaurantbestuurder, die kok, die sielkundige, die kelner, die soetbakker, die versorger, die vroedvrou en selfs – anders as wat ek soms verkeerdelik hoor – die talentvolle onderwyser wat sy leerlinge bekoor en hulle inlei in ’n wêreld van kennis wat hulle glad nie vooraf interesseer het nie, sal die vooruitgang met KI nog lank oorleef, en selfs die vooruitgang met intelligente robotte. Die take wat die hoof en die hart verbind en, indien moontlik, ook ’n liggaamlike dimensie, intelligensie, menslike verhoudinge en een of ander konkrete kundigheid sal nie so gou verdwyn nie. (172–3)
Wat sy voorgestelde burgerlike diens betref, is dit interessant om daarop te let dat die soort dinge wat mense as deel van sodanige diens kan doen, sonder meer te make het met die egte menslike meelewing en empatie wat geen IS ewe goed as die mens kan beliggaam nie:
[I]n ’n wêreld waar al hoe meer mense ouer as honderd gaan word ... is dit ooglopend dat ons deurgaans al hoe meer mense in ’n maatskaplike rol gaan benodig wat in staat is om bejaardes met al hulle daaglikse take by te staan, al is dit bloot om hul eensaamheid te verlig, om boeke waarin hulle belangstel vir hulle te lees, om met hulle te gesels, ens. Dis alles aktiwiteite wat nie vandag in ag geneem of voldoende in ag geneem word nie, buiten in ouetehuise, wat alte dikwels sinistere dodehuise is. Meer in die algemeen kan aktiwiteite in diens van mense asook in diens van die planeet op die gebied van die ekologie deel van burgerlike diens vir volwassenes uitmaak. (173–4)
Versnelling of vertraging?
Vervolgens staan Ferry stil by die debat tussen diegene wat navorsing in groottaalmodelle versnel wil sien, en diegene wat dit wil vertraag. Dit is op hierdie punt dat Ferry die belangrike gesigspunt ontwikkel dat die teologiese en die metafisiese opnuut figureer, en wel in die geledere van die versnellers.
Hy skryf:
Die uiteindelike doelwit van die versnellers kan by voorbaat, om die minste te sê, vreemd lyk. Vir hulle gaan dit nie slegs daaroor om te beweeg in die rigting van wat oor die algemeen “vooruitgang”, oftewel innovasie, genoem word nie. Vir hulle gaan dit ook nie slegs daaroor om die politieke en ekonomiese wêreld te verander om nog meer geld te maak nie, maar inderdaad ook daaroor om ’n nuwe spiritualiteit te vestig, ’n metafisiese sprong te maak na ‘n transmenslike projek wat “slegs” daarop mik om teen bejaardheid te veg ten einde langlewendheid in goeie gesondheid te bevorder en die menslike wese te verbeter sonder om daarmee sy wese te ontken en hom te vervorm. Nee, die grootbase van hierdie oligopolieë wil nou verder gaan na ’n ware posthumanisme wat veronderstel is om uiteindelik dít aan ons te bied waarvan religieë nog altyd droom, naamlik onsterflikheid – dié keer egter op die aarde en nie in die hemel nie, en nietemin op voorwaarde daarvan dat ons van ons sterflike, biologiese liggame asook ons individuele persoonlikhede ontslae raak om op te los in die universele “noösfeer” van KI. (178)
Ferry wys tereg gou daarop dat in die debat tussen die versnellers en die vertragers dit in wese om twee teenoorstaande mensbeskouings gaan, naamlik die grondliggende vraag wat “humaniste wat sorg dra daarmee om dit wat die menslikheid van die mens bepaal te beskerm, te stel teenoor die vryheidsugtige (libertariens) ondernemers wat droom van vernuwing en ‘vooruitgang’ teen elke prys, al beteken dit om die begrip van die mensdom self radikaal te verander – indien nie af te skaf nie.” (179)
Nodeloos om te sê dat Ferry hom by die kamp van die vertragers skaar, en dit bring hom by wat hy beskryf as die 11 kwessies wat vir die vertragers ter sprake is wanneer dit oplaas by die regulering van die toekoms van IS kom. Dit is die volgende:
– diepvervalsings
– intellektuele eiendom
– die manipulasie van die openbare mening en massamonitering
– privaatheid
– tegno-oligarge se openbare invloed
– die geopolitiese magsbalans
– die digitale gaping
– kuberaanvalle
– die energieverbruik van IS
– ideologiese vooroordele wat met verskillende IS-produkte geïntegreer word
– hoe om die misbruik van IS te voorkom, byvoorbeeld dat elke Jan Rap en sy maat ’n bom kan bou of ’n gevaarlike virus kan skep. (189–95)
Onderweg na die uiteindelike behoorlike regulering van IS waarop Ferry hoop, stel hy vier stappe voor wat dringend gedoen moet word:
– die verpligte aanduiding van die gebruik van kwaadwillige diepvervalsings
– dat sensuur nie by privaat maatskappye (byvoorbeeld Twitter wat eens Donald Trump se rekening gesluit het) berus nie, maar by openbare owerhede
– dat die gebruik van skuilname op sosiale netwerke verbied word (ten einde onwettige of onsmaaklike inhoud te verminder, gebruikers op te roep tot verantwoordelike openbare meningswisseling, aanlyn boeliegedrag te verminder)
– dat die eienaars van digitale platforms se wetlike status verander word vanaf bloot die draers van inhoud na dié van uitgewers, wat hul verantwoordelikheid vir wat op hul platforms geplaas word, aansienlik sal verhoog en sodoende die standaard en etiek van die openbare (digitale) gesprek sal verbeter (196–201).
Al sal die meeste regdenkende mense bes moontlik met Ferry se oorwegings en onmiddellike stappe vir die regulering van IS saamstem, beteken dit nie dit gaan gebeur nie, en wel omdat die versnellers in die debat – wat die oorwig in Silicon Valley geniet – ’n ander siening van die saak het. Volgens Ferry is dit dus nodig om kennis te neem van die vier kernpunte van die leer van die versnellers. Hierdie vier kernpunte is die volgende:
– ’n onkritiese omarming van die geloof in (tegnologiese) vooruitgang
– ’n poging tot groter wetenskaplike geloofwaardigheid met verwysing na die termodinamika ten einde aan te voer dat vernuwing en groei noodsaaklik vir die toekoms van die mensdom is, dat diversiteit op alle terreine in beginsel ’n goeie ding is, en dat die wêreld se energievermoë eenvoudig verhoog moet word
– ’n vryheidsugtige verset teen enige vorm van openbare regulering
– die blinde geloof in ’n wetenskaplike elite wat voortaan die politieke leiding aan die mensdom moet verskaf (204–9).
Ferry voer met reg aan dat Silicon Valley hier dieselfde totalitêre visie van “wetenskaplike materialisme” huldig as Stalin in die Sowjetunie:
My ou vriend, Cornelius Castoriadis, het hierdie dodelike mite baie goed ontleed met dieselfde helderheid wat sy kritiek van Marx kenmerk. Soos hy dit op bondige wyse uiteensit in ’n onderhoud wat toegestaan is aan ’n klein antitotalitêre linkse tydskrif wat grappig L’Antimythe gedoop is: “As daar ’n ware teorie van die geskiedenis is, as daar ’n rasionaliteit in die dinge aan die werk is, is dit duidelik dat die rigting van die ontwikkeling van die samelewing aan die spesialiste van dié teorie, aan die tegnici daarvan, toevertrou moet word. Die absolute mag van die party en, in die party, van die “coryphées van die Marxisties-Leninistiese wetenskap”, volgens die bewonderenswaardige uitdrukking wat Stalin vir sy eie gebruik gemunt het, het ’n filosofiese status, naamlik dat dit gegrond is op die materialistiese geskiedsopvatting. Indien dié opvatting korrek is, beteken dit dat mag absoluut moet wees en dat elke demokrasie eintlik ’n toegewing aan menslike feilbaarheid is ...”
Beter kan dit nie gestel word nie en in wese is dit die totalitêre fantasie wat Elon Musk en Sam Altman danksy die nuwe wetenskap van KI aan ons probeer afsmeer met die ewe makabere oortuiging dat mense se lewens voortaan sonder teenspraak gereël kan word – omdat dit uiteindelik werklik wetenskaplik gedoen word; so flankeer hierdie Amerikaanse neoliberale sonder dat hulle dit agterkom met die ergste idiosinkrasieë van die Stalinisme. Laat ons dus waaksaam bly, want die grootste gevaar wat die mensdom in die gesig staar, is nie IS as sodanig nie, maar die aanspraak van die oligopolieë wat daarin verhandel om ons lewens te reël in die naam van ’n onweerlegbare natuurwetenskap, etiek en geskiedenis. (208–9)
Filosofies-teologiese uitgangspunte
Een van die groot ironieë van ons tyd is dat die einste Silicon Valley wat veronderstel is om dié bastion van ’n rasionele tegnowetenskap te wees, inderwaarheid ook die streek ter wêreld is waar die meeste mense alternatiewe kultusse aanhang. Iets hiervan is ook sigbaar in die soort blinde geloof waarmee die tegniek en die wetenskap in Silicon Valley benader word.
Ferry stel dit so:
Dié oortuiging waarvolgens die vooruitgang van die wetenskap en die tegniek “al die wêreld se probleme [sal kan] oplos” het so sterk in Silicon Valley geword dat dit oplaas ’n naam gegee is, gedoop is asof dit na ’n egte filosofiese stelsel verwys: Daar word nou gepraat van “oplossingisme” (solutionism) om te verwys na hierdie onwankelbare geloof in die herontdekte deugde van die vooruitgang. (214)
Ferry sluit sy bespreking van die eintlike filosofies-teologiese uitgangspunte van die versnellers af deur eerstens daarop te wys dat dit vir hulle gaan oor niks anders nie as ’n poging om totale beheer:
In die tegniese wêreld – in die neoliberale globalisering – is die projek om die werklike te beheer nie meer ’n middel om meerderwaardige doelwitte te verwesenlik nie, maar word dit ’n doel op sigself. Selfs al word grootse oogmerke voorgehou, om al die wêreld se probleme op te los, is die waarheid dat dit nie meer gaan om die oorheersing van die natuur of die samelewing ten einde vryer of gelukkiger te wees nie, maar om te bemeester ter wille van bemeestering, om te oorheers ter wille van oorheersing. (221–2)
Laastens – ironie der ironieë – gaan dit om ’n oeroue religieuse ideaal:
Niemand betwyfel dit nie dat dit is om hierdie totale afwesigheid van geskiedkundige betekenis te beveg dat die versnellers deur hulle voorspraak vir slegs die tegniek ’n grandiose projek aan die ganse wêreld voorhou, ’n doelwit wat oplaas verheffend is, die heilige graal: onsterflikheid danksy die versmelting van ons identiteit in die “noösfeer van KI”. (222)
Liggaamlose onsterflikheid
Ferry nooi die leser uit om hierdie gedagte van nader te ondersoek, en som dit netjies op met die titel van die hoofstuk waarin hy dit aan die orde stel: “Om die liggaam agter te laat ten einde die ewigheid te betree: die groot metafisiese oogmerk van die posthumanisme.” Ferry wys daarop dat die nuwe blinde geloof van Silicon Valley sy wortels vind in die sogenaamde ekstropiese manifes van Max More, waarin reeds gedurende 1998 voorspraak gemaak is vir die “oorskryding van natuurlike grense” en die verwesenliking van “oneindige lewe” (226). Soos dié visie tans in Silicon Valley lyk, gaan dit om
’n kragdadige verwerping van die tradisionele wêreldbeelde, wat oplaas onttroon en deur die rasionalisme uit die pad gevee sal word; die wil om die skroomvalligheid van die “humanistiese nefie” te oorkom deur die verkeerdelik benoemde “natuurlike” biologiese grense van ons menslike toestand te oorskry ten einde ’n uitgebreide postmensdom te verwesenlik waarvan die lewe potensieel oneindig is terwyl die huidige mensdom slegs ’n “verbygaande fase” sou wees “wat nog onvolmaak en beperk was ...” (227–8)
Ferry waarsku die leser daarteen om, gegewe die bronne waaroor hulle beskik, hierdie nuwe profete nie sommer net af te maak nie. Daarom lig hy die leser voor oor die sewe stappe na die ewigheid wat in hierdie nuwe godsdiens voorgehou word, aan die hand van die werk van die Franse posthumanis Laurent Alexandre:
– Stel ’n videotestament vir jou nakomelinge op deur jou lewe, jou waardes en jou lewensopvatting op te som, met die oog daarop om die skepping van jou IS-avatar mee te bring.
– Dra jou digitale geheue en jou elektroniese spore saam met die res van jou erflating aan jou gesin oor.
– Voeg ’n IS by wat in staat is om die toekomstige ontwikkeling van die oorledene te verbeel.
– Voeg vir jou ’n hologram by.
– Voeg ’n IS-gespreksgenoot soos ChatGPT by om jou oorlewendes in staat te stel om steeds ná jou dood met jou te gesels.
– Maak gebruik van breininplantings om terwyl jy lewe jou herinneringe te onttrek om jou nadoodse ewebeeld nog oortuigender te maak.
– Om die dood finaal te bowe te kom, stem ons almal in om ons liggame agter te laat en met masjiene saam te smelt om ná ons dood in die noösfeer voort te bestaan. (232–4)
Ferry verduidelik vervolgens waarom dié tegnosentriese droom van ’n ontliggaamde ewige lewe nie ’n ekwivalent van die hemel nie, maar eerder van die hel sal wees:
Die probleem is dat “om ons biologiese skede agter te laat” goedskiks is om dit oor te gee aan die maaiers op so ’n wyse dat die alternatief wat voorgehou word, bloot ’n valstrik is ... [D]ie posthumanistiese projek wat voorgee om aan mense anonieme, liggaamlose en onpersoonlike onsterflikheid te bied, ’n onsterflikheid wat die agterlating van die vlees en die persoonlike bewussyn vooronderstel ten einde weg te smelt in ’n universele noösfeer sonder bewussyn, is nie ’n definisie van die hemel nie, maar van die hel; ’n hel wat des te afgrysliker is omdat dit wat van ons oorbly nadat dit eers iewers digitaal opgelaai is, onbepaald gemanipuleer kan word sonder dat ons ooit daarteen kan protesteer of dit kan verlaat! (236–7)
’n Sterk IS?
Met dié kritiek op die onsterflikheidsideaal van die blinde profete van Silicon Valley gelewer, wend Ferry hom vervolgens tot die vraag of generatiewe IS wel eendag kan ontwikkel tot ’n sterk IS wat oor bewussyn en emosies beskik – dus nie die soort IS wat tans die aandag trek omdat dit aspekte van menswees toenemend oortuigend naboots nie, maar eerder aspekte van menswees soos bewussyn en emosies masjienmatig reproduseer (251).
Ferry begin sy bespreking hiervan deur voort te bou op waarna reeds hier bo verwys is, naamlik dat diegene wat aan die moontlikheid van ’n sterk IS glo, vanuit ’n erg verskraalde mensbeeld vertrek:
In wese steun hulle op ’n ideologie, naamlik die “berekenisme” (computationalisme), wat op die wetenskaplike terrein inspirasie put uit die neurowetenskappe, en op die filosofiese terrein materialisties ... is. In die oë van hierdie materialiste ... is die waarheid dat ons nooit iets anders as masjiene is nie. Bowendien, uit ’n nanometriese oogpunt is daar nie meer ’n verskil tussen die meganiese en die lewende nie. Dis ons brein wat dink, en ons brein is niks meer nie as ’n stuk masjinerie wat sodanig op probleemoplossing gerig is dat ... dit nie meer gaan oor die vraag of masjiene eendag soos ons sal kan dink nie, maar oor die demonstrasie daarvan dat ons self reeds niks anders is as denkende masjiene nie – met die gevolg dat daar geen rede is waarom die grens tussen die mens en KI onoorkomelik is nie. In hulle oë is dit ’n hipotese wat des te geloofwaardiger is omdat die vervaardiging van kunsmatige DNS reeds aan die orde van die dag is. (257–8)
Fenomenologiese voorbehoude
Ferry is egter hoegenaamd nie van hierdie materialistiese mensbeeld oortuig nie. In aansluiting by ’n ander Franse filosoof, Daniel Andler, dink Ferry “die werklike verskil tussen die masjien en die mens is dat die masjien nie belange of hartstogte het nie – en ek wil byvoeg dat dit vanselfsprekend is, omdat ’n masjien nie beliggaamd is in ’n lewende liggaam nie, wat alleen iets kan ‘voel’” (283–4).
Soos ’n mens kan verwag van ’n filosoof wat, soos Ferry, opgelei is in die fenomenologiese tradisie en dié se baanbrekende besinning oor die intensionaliteit van die menslike bewussyn – ons is altyd bewus van íets – het Ferry ook ernstige voorbehoude oor die mate waarin die menslike bewussyn hoegenaamd masjienmatig gereproduseer kan word. Om mee te begin, herinner hy die leser aan wat met die klassieke fenomenologiese begrip intensionaliteit bedoel word:
So vreemd soos dit met die eerste oogopslag mag lyk, kan ’n mens nooit daarin slaag om heeltemal niks te dink nie; die denke moet altyd oor een of ander voorwerp wees, selfs al is dit slegs ’n denkvoorwerp, byvoorbeeld ’n herinnering, ’n begrip of ’n beeld van die verbeelding. (294)
Voorts verwys Ferry na nog ’n klassieke fenomenologiese insig, naamlik dat die mens se selfbewustheid en (self)besinning áltyd gepaard gaan met ’n verdeling in die self. Hy verduidelik dit aan die voorbeeld van die bieg, godsdienstig óf niegodsdienstig:
Hy wat vir die priester sê: “Vader, ek het gesondig”, en dan sy sondes lys deur terug te dink aan alles “boos” wat hy moontlik in die voorafgaande dae gepleeg het, verdeel homself. Deur die ervaring van die bieg te ontleed (en natuurlik kan ongelowiges dieselfde as gelowiges ervaar, of dit nou by ’n psigoanalis, ’n vertroueling of ’n vriend, ens is), merk ons op dat wanneer ons ook al aan onsself dink, wanneer ons ook al oor onsself met iemand praat, is daar ’n verdeling van die self, ’n gaping tussen die self as onderwerp (sujet) en die self as voorwerp (objet). Enersyds is daar die “ek”, die ek as voorwerp, wat oor homself praat, wat erken dat hy dit of dat gedoen het, maar andersyds is daar die een oor wie hy praat, wat, om dit so te stel, ’n ander ek is, ’n ek as voorwerp omdat die “ek” hom as die voorwerp van sy eie diskoers neem. (295)
Ferry herinner sy leser aan ’n verdere belangrike kwalifikasie oor hierdie selfverdeling soos dit in die fenomenologie beslag gekry het: “Die ek as voorwerp en die ek as onderwerp ... is ... om dit so te stel, uit pas met sigself: hy is nie die ek as voorwerp nie, maar op teenstrydige wyse is hy dit ook ook.” (296)
Dit is hier waar Ferry die uitklophou met betrekking tot die gewaande masjienmatige reproduksie van die menslike bewussyn plant: “Soos Rimbaud reeds gesê het, ‘Ek is ’n ander.’ Die klip of die masjien, selfs al is dit ‘denkend’ soos KI-sagteware, oorskryf sigself nooit nie: Dit is nooit ’n ander nie, dit is wat dit is ...” (296). Anders gestel, ’n masjien is volledig eendimensioneel gelyk aan sigself; dit het eenvoudig nie die interne verdeelheid wat eie aan menslike selfbewussyn en besinning is nie – veral wanneer dit by morele selfbewussyn kom, soos Ferry aan die hand van die voorbeeld van die bieg aantoon.
Ferry lig dit soos volg toe:
Mense kan gesprek voer oor waardes, oor hul keuses, en dit is waaroor die morele, estetiese en politieke filosofie dan ook handel. ’n Mens kan regs of links wees, aristokraat of demokraat, Nazi, liberaal of kommunis, ens, maar ek ken geen mens wat heeltemal “amoreel” en ontdaan van enige bewussyn van watter waardes ook al is nie, want selfs die onedelste pervert wat die waardes wat ander as heilig beskou, minag, kan nie anders nie as om die waardes in homself te dra en genot daaruit te put om dit te minag. Dog dis presies hierdie verhouding met waardes wat masjiene nie self kan hê nie, buiten ... wanneer hulle deur hul menslike programmeerders met ’n etiese, estetiese of politieke kode belyn is. (298)
Gevaarlike hibried
Ofskoon Ferry dus die moontlikheid van die masjienmatige reproduksie van emosie en (self)bewussyn as sterk IS met die grootste mate van skepsis bejeën, wil dit nie sê dat ’n sterk IS heeltemal buite die kwessie is nie. Om die waarheid te sê, skyn dit vir Ferry wel op omgekeerde wyse moontlik te wees, dit wil sê, deur die masjienmatige uitbreiding van die biologiese. Dit is op hierdie somber noot dat hy afsluit en die volgende waarskuwing aan die leser rig:
Ek is dus oortuig dat ons na eenvoudige goeie verstand moet terugkeer ...: ’n Sterk IS bly en sal vir altyd ’n utopie bly, minstens vir solank as wat masjiene nie in staat gestel word om standpunte en emosies te hê deur middel van hul integrasie met ’n lewende organisme, dus deur hibridisering of neuroversterking nie – wat ongetwyfeld werklik ... moontlik is. Indien die postmensdom sy opwagting maak, sal dit nie wiskundig-meganies wees nie, maar hibried, ’n soort animat1 van ’n ongekende soort ... (307)
1Animat is ’n term in die veld van IS wat verwys na die kombinasie van die dierlike (ani-) en die materiële (-mat).
Lees ook:
Universiteitseminaar: Gedagtes rondom die Universiteit van die Vrystaat (UV) se gewysigde KI-beleid