Hierdie lesersindruk is uit eie beweging deur die skrywer daarvan aan LitNet gestuur.
Titel: Deep fakes and the infocalypse: what you urgently need to know
Skrywer: Nina Schick
Uitgewer: Monoray
ISBN: 9781913183523
Hierdie video is vals.
Dit lyk soos ek, maar die Izak wat julle hier sien, is geheel en al kunsmatig geskep. Dit is nie ek nie. Dié hele sintetiese video is van ’n enkele foto gemaak.
Wat beteken dit vir jou as leser? Eenvoudig dat enige foto van jou wat iewers op die internet is, gebruik kan word om so ’n kunsmatige video van jou te maak. Meer nog, met ’n eenvoudige toep, aflaaibaar op jou selfoon, sal jy woorde in hierdie sintetiese Izak se mond kon voeg.
Beter nog: Mense wat my stem al gehoor het oor die radio, televisie of die internet, sal daardie stemopnames kan soek en gebruik om die toep te leer om enige boodskap in my stem te sê terwyl kunsmatige Izak se lippe volgens die geprogrammeerde woorde beweeg.
Dieselfde kan met jou, of enige iemand anders, gebeur.
Deep fakes
Nina Schick se Deep fakes handel oor die beginstadiums van KI en waar dit alles pas in die oorlog teen die waarheid.
Toe Schick die boek geskryf het, was die soort tegnologie wat gebruik is om ’n sintetiese Izak de Vries te maak, nog nie vryelik in die hande van Jan en San Allemens nie. Vandag is dit.
Lees jy egter Nina Schick, dan besef jy waar vandag se toeps vandaan kom en hoe hulle voorgangers al jare lank ingespan is om ons te mislei.
Wie is Nina Schick?
Ek vermoed mense sal boeke skryf om hierdie vraag te beantwoord1, maar die belangrike ding is dat sy in geopolitiek en inligting spesialiseer.
Sy was eens ’n vryskutjoernalis, maar het ook al opgetree as adviseur vir die EU, Navo en les bes ook Joe Biden.
Trump het haar beslis nie gevra nie.
Voor die enorme impak van alledaagse KI op ons samelewing het Schick die gevare én die voordele reeds gesien. Daarom het Google, Microsoft, Adobe en die VN van haar dienste gebruik gemaak.
Sy is vandag ’n gewilde spreker, veral oor KI, en doen ook TED Talks.
Die geskiedenis van vals inligting en die beskikbaarheid van toeps
Diegene wat bekend is met George Orwell se 1984 weet hoe tekste en foto’s gesuiwer word wanneer die politieke diskoers verander. Orwell het waarskynlik daardie idee gekry na aanleiding van ’n reeks bekende foto’s wat oor die jare gesuiwer is in die Unie van Sowjet Sosialistiese Republieke (USSR).
’n Baie bekende voorbeeld hiervan is ’n foto van Josef Stalin saam met nege ander mans wat geneem is tydens die 14de kongres van die Kommunistiese Party in April 1925. Teen 1939 is daardie foto gesuiwer na slegs vier mans. Die res was nie meer deel van Stalin se binnekring nie.
Jip, lank voor rekenaars is foto’s ook gemanipuleer. Vandag is dit net makliker.
Schick gebruik talle ander voorbeelde om die leser te laat verstaan dat fake nie nuut is nie.
Hoekom is dit ’n probleem?
Mense – ek ook – dink ons oë sal ons nie bedreig nie.
Sien is mos glo, nie waar nie?
Vir lank sou die gemiddelde persoon nog kon verstaan dat ’n mens “spesiale effekte” sou kon sien tydens duur speelfilms. Daar, in die knus, donker teater met springmielies op ons skote was dit lekker om na goed te kyk wat ons weet nie waar is nie. Bitter min mense sou byvoorbeeld glo dat die lieflike gedroggie ET werklik bestaan het.
Schick sê tereg dat tonele wat ’n dekade terug miljoene dollar sou kos om te verfilm, vandag op ’n tuisrekenaar geskep kan word met ’n toep wat ’n paar rand kos, of dalk selfs gratis afgelaai kan word.
Die sogenaamde sintetiese media, vandag grootliks deur KI geskep, kan dikwels nie meer onderskei word van werklike foto’s of films nie.
Wanneer spesiale effekte ons nuusbronne besoedel
Enkele jare gelede is nuus verkry van koerante, radio en televisie. Vandag kry talle mense (sommige ontleders dink die meeste mense) hulle nuus via die sosiale media.
Formele nuusbronne in demokratiese lande word deur perskodes gereguleer. Die sosiale media word nie so gereguleer nie en mense kan dus feitlik enige iets plak.
Hoe makliker dit dus is om die sintetiese media te gebruik, hoe doeltreffender kan vals inligting op die sosiale media versprei word.
Goeie sintetiese media
Nie alle sintetiese media is sleg nie.
Die sintetiese video van my hier bo is byvoorbeeld deur Jannie Pretorius geskep. Nie om iemand te verneuk nie, maar juis om te bewys dat dit moontlik is om ’n betreklik bekende persoon (dis nou bekend aan LitNet) kunsmatig op video vas te vang.
Pretorius gebruik hierdie selfde tegnologie om mense soos Sol Plaatje, CJ Langenhoven, MER en haar familielid Frederik L Rothmann weer opnuut aan ’n moderne gehoor bekend te stel.
Moderne jongmense is bekend met kort video’s. Pretorius is ’n opvoedkundige. Nou gebruik hy sy kennis van pedagogie saam met sy passie vir die geskiedenis om met behulp van KI die dooies weer bekend te maak aan ’n nuwe geslag. Die reeks se titel is nie om dowe neute Die Lasarus-effek nie.
Rusland gryp die Krim en die infokalips word uitgerol
Schick verduidelik dat die infokalips waarin ons vandag leef, grootliks begin vorm aanneem het toe Rusland in 2014 Oekraïne se Krim afgevat het.
Poetin is slim. Jy mag besluit dat jy nie van hom hou nie, maar dat hy tans een van die slimste wêreldleiers is, kan nie betwis word nie.
Ná die val van die muur in Berlyn het Poetin sy doktorsgraad gaan doen en stadig begin werk aan ’n plan om Mikhail Gorbatsjof se kleiner en Boris Jeltsin se grootskaalse veranderinge aan die toenmalige USSR ongedaan te maak. Jeltsin het uiteindelik die USSR laat verkrummel. Talle nuwe republieke het so tot stand gekom. Talle van hulle het vinnig by Navo aangesluit om seker te maak dat Rusland hulle nie weer sal kan inval nie.
Oekraïne se eerste leiers was egter na aan Moeder Rusland en hulle sou nie enige iets doen wat Moskou se base kon laat skeef kyk nie.
Ná Oekraïne se demokratiese revolusie in 2014 is Rusland se marionette egter vervang met ’n regering wat nader aan die Weste wou kom. Dit kon Moskou nie gedoog nie.
Poetin se jare van voorbereiding en sy uitstekende kennis van intelligensie het gemaak dat hy besluit het om die Weste se sterkste punt, demokrasie, teen hulle in te span.
Rusland het begin met enorme veldtogte om twyfel in die Weste te saai. Hy het geweet dat goeie leiers wat hul feite ken, Rusland nie sou toelaat om goedsmoeds ander lande in te val nie. Maar, as hy dit sou regkry om tweespalt te saai onder kiesers en mense soos Donald Trump om te praat dat Poetin se weergawe van die waarheid beter is as die feite, dan sal Westerse lande minder geneë wees om Oekraïne te verdedig.
Schick neem die leser terug na die Koue Oorlog, daar waar Poetin homself as meesterspioen bewys het, om te verduidelik hoe moderne Rusland hedendaagse tegnologie inspan om baie ou tegnieke te verbeter.
Sy haal ook ’n onderhoud uit 19842 met Joeri Bezmenof, ’n senior lid van die KGB, aan waarin hy sê dat spioenasie vir die USSR lank nie meer gaan oor die tradisionele vorme van inligting insamel nie. Vir die USSR was spioenasie veel eerder sielkundige oorlogvoering.
Dit is ’n stadige proses wat ons óf ideologiese ondermyning, óf “aktiewe stappe” noem. Wat dit basies beteken, is dat ons Amerika se persepsie van die realiteit tot so ’n mate verander dat niemand meer tot sinvolle gevolgtrekkings kan kom oor hoe om hulself, hul gesinne en hul gemeenskappe te beskerm nie, dit ten spyte van oorvloedige inligting. (My vertaling, Schick bl 54)
Nou ja. As dit in 1984 reeds waar was, dan besef ons waarmee Poetin in die era van KI besig is!3
’n Historiese dokument wat nou waarde het
Nina Schick se Deep fakes is reeds vyf jaar oud. Dit is in 2020 uitgegee. Sy raak nog net aan Trump se eerste termyn en verduidelik nog maar bolangs hoe Trump byvoorbeeld sy eie land se medici ondergrawe het met sy uitsprake oor COVID-19.
Elon Musk word ook net oppervlakkig betrek.
Teen die tyd toe hierdie boek geskryf is, was ChatGPT en al die gratis, of goedkoop, toeps vir gewone mense om sintetiese media te skep nog nie eens op die mark nie.
Ek sou hierdie boek juis om daardie rede aanbeveel. Schick kyk terug na die ontstaan van die infokalips.
Danksy tegnologiese ontwikkeling is Schick se boek juis nie veel meer as ’n skrywe uit die Ark nie. Waarom sou ek dan steeds relevansie sien?
Dis maklik. Die boek verduidelik wat “deep fakes” kon doen in die hande van ’n klein groepie spioene wat geweldig baie geld van hul base gekry het.
Vandag is daardie tegnologie op jou buurman, en elke tweede kroek, se selfoon.
Goeie spioene, soos Poetin wat ’n absolute meester is, sou sê: Ken jou vyande se verlede, dan kan jy hulle toekoms vorm.
Ek sou dus sê: Lees Schick. Dan verstaan ons KI se verlede beter, en dan sal ons beter voorbereid wees vir die manipulasie van ons toekoms.
Sien is nie meer glo nie.
Notas:
1. Haar webruimte: https://ninaschick.org/
2. Die ironie het my opgeval. In 1984 was Orwell se 1984 lank reeds outyds, want sy voorspellings vir ons toekoms het hy gebaseer op tegnologie wat reeds in gebruik was toe hy sy roman geskryf het.
3. Burgert Senekal het navorsing gedoen oor hoe Rusland se propaganda reeds ’n greep op Afrikaanse lesers het.
Lees ook:
Seen elsewhere: How was (and is) it possible for Afrikaners to believe the lies?
Disinformation in the Global South: ’n onderhoud met Herman Wasserman
Herman Wasserman en die infodemie: Disinformasie in die Globale Suide
Kommentaar
‘n Somber waarskuwing, uitstekend oorgedra. Baie dankie hiervoor.