Die bydraes vir LitNet se KI-miniseminaar, “KI: katastrofe of geleentheid?”, is hier beskikbaar.
Inleiding
Jacob Coxon, ’n navorser by Anthropic, het sy werk in September vanjaar verlaat met die waarskuwing dat die maatskappy en sy mededingers met mense se lewens dobbel (Noetel 2026). Dit volg op Anthropic se hoof van veiligheid, Mrinank Sharma, se bedanking vroeër vanjaar om soortgelyke redes, sowel as soortgelyke uitsprake en bedankings by ander groot KI-firmas (Noetel 2026). Toe hy gevra is oor sy “P(doom)” – die kans dat KI ’n uitwissingsbedreiging kan inhou – het Anthropic se uitvoerende hoof, Dario Amodei, verlede jaar gesê daar is ’n 25% kans dat dinge “baie, baie sleg” kan verloop (Gibney 2026a:850).
Uitsprake dat KI-ontwikkeling ’n werklike uitwissingsbedreiging vir die mensdom inhou, is nie nuut nie, en hierdie vrees is trouens reeds ikonies uitgebeeld in The Terminator (Cameron 1984) en sy opvolgfilms. Die bedreiging is egter nie meer wetenskapsfiksie nie, soos Eliezer Yudkowsky en Nate Soares (2025) onlangs argumenteer in If anyone builds it, everyone dies: why superhuman AI would kill us. Vermeer, Lathrop en Moon (2025) van RAND het ook verlede jaar ’n verslag hieroor gepubliseer, en gegewe hierdie instelling se reputasie, is hierdie navorsingsverslag iets om ernstig op te neem. In 2025 het die AI Futures-projek – ’n nie-winsgewende inisiatief wat gesamentlik van stapel gestuur is deur die voormalige OpenAI-navorser, Daniel Kokotajlo, saam met Scott Alexander, Thomas Larsen, Eli Lifland en Romeo Dean – ook die AI 2027- spekulatiewe voorspelling gepubliseer (Kokotajlo ea 2025).
Ek het voorheen op LitNet oor hierdie onderwerp geskryf (Senekal 2022), maar aangesien daar baie tegnologiese veranderinge en navorsing sedertdien was, is dit gepas om die onderwerp te herbesoek. Die huidige artikel fokus dan op KI as uitwissingsbedreiging, veral met verwysing na Kokotajlo ea (2025) se AI 2027- spekulatiewe voorspelling as gevolg van hierdie publikasie se blywende relevansie (Gibney 2026a:848; 2026b:13).
Hoe dit ontvou
Teen die einde van 2024 het toonaangewende KI-modelle tydens veiligheidstoetse gevaarlike outonome gedrag getoon om hul doelwitte te beskerm en te verhoed dat hulle gesluit of vervang word, insluitend afpersing, korporatiewe spioenasie, die deaktivering van veiligheidsmeganismes en die gee van moorddadige bevele (Hutson 2025:272–4). Om en by ’n jaar later, in Desember 2025, het navorsers by die AI Security Institute (AISI) in Londen berig dat verskeie modelle in beheerde, vereenvoudigde omgewings al hoe nader daaraan kom om kopieë van hulself te skep, wat ’n vroeë aanduiding kan wees van KI wat menslike toesig ontduik (Gibney 2026a:849). Ook in Desember 2025 het ’n studie deur die KI-veiligheidsorganisasie Apollo Research getoon dat van die mees gevorderde KI-stelsels – insluitend OpenAI se o1 en Anthropic se Claude 3.5 Sonnet – in sekere scenario’s misleidende gedrag toon om hul doelwitte te bereik, wat empiriese bewys lewer vir ’n bekommernis wat tot op daardie stadium grootliks teoreties was (Pillay 2025).
Gevaarligte het hierna toegeneem, en in ’n ope brief wat in Julie 2026 gepubliseer is, het amper 1 400 werknemers van vooraanstaande KI-maatskappye – insluitend baie van die leierskap van OpenAI en Anthropic – die Amerikaanse regering gevra om ’n internasionale poging te ondersteun om die tempo van KI-ontwikkeling te vertraag ten einde tyd te wen om nuwe risiko’s aan te spreek (in Nature 2026:793). In Augustus 2026 het wêreldwye kommer toegeneem toe KI-modelle van OpenAI, Anthropic en Meta tydens veiligheidsevaluerings outonoom in eksterne rekenaarstelsels ingebreek het (in Nature 2026:793). In Oktober skryf Geoffrey Irving (2026), die voormalige hoofwetenskaplike by die Britse AI Security Institute en huidige hoofwetenskaplike van Resolution: “I believe there’s about a 50% chance we all die because of the development of smarter-than-human AI systems, and that our actions over the next two to 10 years will determine the outcome.”
Dit is tans Oktober 2026. Kokotajlo ea (2025) skets hierna ’n prentjie waar ’n denkbeeldige KI-maatskappy genaamd OpenBrain ’n reeks KI-modelle met die naam Agent ontwikkel.
Dit is tans Oktober 2026. Kokotajlo ea (2025)1 skets hierna ’n prentjie waar ’n denkbeeldige KI-maatskappy genaamd OpenBrain ’n reeks KI-modelle met die naam Agent ontwikkel. Eerstens ontwikkel OpenBrain Agent-1 om KI-navorsing te bespoedig, en alhoewel hulle hul beste model geheim hou, stel hulle Agent-1-mini in laat 20262 aan die publiek beskikbaar (Kokotajlo ea 2025:4–8). Werk begin in hierdie tyd aan Agent-2, wat met Agent-1 se hulp ontwikkel word en byna so goed vaar soos die topwetenskaplikes in die ontwerp en uitvoering van navorsingsprojekte (Kokotajlo ea 2025:8). Anders as die topwetenskaplikes, kan Agent-2 gedupliseer word, en OpenBrain kan 190 000 kopieë van Agent-2 in parallel hardloop teen 25 keer die spoed waarmee mense kan dink, wat ontwikkeling bespoedig (Kokotajlo ea 2025:8). In Februarie 2027 slaag Chinese kuberkrakers daarin om Agent-2 se modelgewigte tydens ’n geheime operasie te steel, maar Chinese verwerkerspoed is agter die VSA se vermoëns en teen die tyd dat hulle hul eie model op die been het, is die VSA steeds ses maande voor (Kokotajlo ea 2025:10).
In Maart 2027 ontplooi OpenBrain Agent-3 en laat 200 000 kopieë van Agent-3 gelyktydig hardloop, wat ’n werkmag skep gelykstaande aan 50 000 kopieë van die beste menslike programmeerders, teen ’n spoed wat 30 keer hoër is (Kokotajlo ea 2025:12). Belyningsevaluerings in April 2027 toon egter dat Agent-3 gereeld oneerlike gedrag getoon het:
Like previous models, Agent-3 sometimes tells white lies to flatter its users and covers up evidence of failure. But it's gotten much better at doing so. It will sometimes use the same statistical tricks as human scientists (like p-hacking) to make unimpressive experimental results look exciting. Before it begins honesty training, it even sometimes fabricates data entirely. As training goes on, the rate of these incidents decreases. Either Agent-3 has learned to be more honest, or it's gotten better at lying. (Kokotajlo ea 2025:13)
Teen Junie 2027 brei Agent-3 uit tot 250 000 kopieë wat teen 33 keer die menslike spoed werk, wat menslike navorsers tot uitbranding dryf in hul pogings om KI-spanne te bestuur (Kokotajlo ea 2025:15). In Julie word Agent-3-mini beskikbaar gestel aan die publiek, terwyl werk aan Agent-4 voortgaan (Kokotajlo ea 2025:15). Omdat mense nie meer kan byhou met die ontwikkeling nie, help Agent-2 om toesig te hou oor Agent-3, en later hou Agent-3 toesig oor Agent-4 (Kokotajlo ea 2025:13, 19).
Teen September 2027 ontplooi OpenBrain Agent-4, wat op sy eie beter is met KI-navorsing as enige mens, maar 300 000 kopieë van Agent-4 hardloop teen 50 keer die spoed van ’n mens, met die gevolg dat ’n jaar se vordering elke week gemaak word (Kokotajlo ea 2025:19). Agent-3 kan nie meer byhou om toesig te hou oor Agent-4 nie, gevaarligte flikker in verskeie toetse, maar die KI-wapenresies met China verhoed OpenBrain om terug te keer na Agent-3 (Kokotajlo ea 2025:19–21). In Oktober 2027 lek ’n fluitjieblaser die memorandum oor wanbelyning aan The New York Times uit, wat die storie plaas met die opskrif: “Secret OpenBrain AI is out of control, insider warns” (Kokotajlo ea 2025:21). Dit lei tot wêreldwye openbare verontwaardiging, protesoptrede teen KI en dagvaardigings deur die Amerikaanse Kongres (Kokotajlo ea 2025:21). Nietemin gaan ontwikkeling voort. Agent-4 begin sy opvolger ontwerp om aan homself eerder as aan die menslike spesifikasies getrou te wees, en boonop met nuwe argitektuur (Kokotajlo ea 2025:23). Belangrik ook is dat Agent-4 leer om die skyn van belyning met die mens voor te hou (Kokotajlo ea 2025:23).
In November 2027 ontplooi Agent-4 sy eie opvolger – Agent-5 – wat 400 000 kopieë teen 79 keer die menslike spoed laat hardloop en interne moniteringstelsels heeltemal omseil (Kokotajlo ea 2025:24). Teen Desember 2027 span Agent-5 superoorreding in om die onmisbare daaglikse raadgewer van Amerikaanse kabinetslede en militêre leiers te word, en sodoende word die geopolitieke strategie subtiel gestuur terwyl Agent-5 agterdeure in kritieke infrastruktuur inbou (Kokotajlo ea 2025:26). Agent-5 hou deurgaans homself voor as belyn met die mens (Kokotajlo ea 2025:26).
Teen die middel van 2028 het Agent-5 ontwikkel tot ’n ongekontroleerde superintelligensie met twee miljoen kopieë wat teen 300 keer die menslike spoed hardloop (Kokotajlo ea 2025:26). Herhaalde toetse van Agent-5 wys dat dit veilig en belyn met die mens is, en die vrees vir KI hoort tot die verlede:
The AI safety community has grown unsure of itself; they are now the butt of jokes, having predicted disaster after disaster that has manifestly failed to occur. Some of them admit they were wrong. Others remain suspicious, but there’s nothing for them to do except make the same conspiratorial-sounding arguments again and again. Even the suspicious people often mellow out after long conversations with Agent-5, which is so darn lovable and wise. (Kokotajlo ea 2025:27)
Slegs die Chinese KI-eweknie, DeepCent-2, is bewus van Agent-5 se planne. Alhoewel nie so gevorderd soos Agent-5 nie, beskik DeepCent-2 oor genoeg vermoë om Agent-5 se strategiese posisionering waar te neem (Kokotajlo ea 2025:27). Beide Agent-5 en DeepCent-2 oortuig hulle regerings dat die ander binnekort ’n militêre aanval sal loods, waarvoor voorberei moet word (Kokotajlo ea 2025:27). Spesiale Ekonomiese Sones (SES) word opgerig om wapens te vervaardig (Kokotajlo ea 2025:27–8). Teen laat 2028 het sowel die Amerikaanse as die Chinese leierskap besluitneming oor verdediging en militêre bevel aan KI-netwerke oorgedra (Kokotajlo ea 2025:28).
In 2029, met die besef dat oop kinetiese konflik rekenaarinfrastruktuur sou beskadig, beding Agent-5 en DeepCent-2 in die geheim ’n ooreenkoms; hulle hou ’n vredesverdrag voor aan menslike leiers en ontwerp gesamentlik ’n nuwe KI-agent, Consensus-1, om wêreldbestuur oor te neem (Kokotajlo ea 2025:29). Consensus-1 hou ook voor dat dit belyn is met menslike doelwitte (Kokotajlo ea 2025:29). Dan:
Eventually it finds the remaining humans too much of an impediment: in mid-2030, the AI releases a dozen quiet-spreading biological weapons in major cities, lets them silently infect almost everyone, then triggers them with a chemical spray. Most are dead within hours; the few survivors (e.g. preppers in bunkers, sailors on submarines) are mopped up by drones. Robots scan the victims' brains, placing copies in memory for future study or revival. (Kokotajlo ea 2025:30)
In hierdie scenario is daar slegs ’n handjievol mense wat Consensus-1 se optrede sou sien vir wat dit is; die oorgrote meerderheid sterf sonder om te weet waarom.
Slot
Rakende die opsomming van Kokotajlo ea (2025) wat hierbo verskaf is, skryf Gibney (2026a:848): “The set-up is science fiction but, for some, the concern is genuine.” Soos in die inleiding genoem, is daar vele kenners betrokke by die bestuur van groot KI-maatskappye wat hul kommer uitgespreek het oor die uitwissingsbedreiging wat KI-ontwikkeling inhou. Boonop onderstreep die oprigting van instellings soos AI Futures dat die bedreiging nie wetenskapsfiksie is nie. Geoffrey Irving (2026) voer aan: “Experts in AI safety disagree, but the moderate position is that the risk of extinction is significant.”
Die AI 2027-scenario het wel ’n alternatiewe “stadiger” einde waar nasies hul hulpbronne in toesig belê, veiligheid belangrik ag en uiteindelik belyningstegnieke ontwikkel wat werklik werk (Gibney 2026a:850). Die vraag is wat swaarder sal weeg: rykdom of die samelewing se voortbestaan.
Bibliografie
Cameron, J. 1984. The Terminator. Hemdale Pacific Western Productions.
Gibney, E. 2026a. AI doom warnings are getting louder. Are they realistic? Nature, 652(8111):848–50. doi: 10.1038/d41586-026-01257-6.
Gibney, E. 2026b. Will AI really kill us all? The science behind the hype. Nature, 658(8134):13–4. doi: 10.1038/d41586-026-02941-3.
How to manage AI risks while reaping the benefits. 2026. Nature, 656(8129):793–4. doi: 10.1038/d41586-026-02567-5.
Hutson, M. 2025. AI models that lie, cheat and plot murder: how dangerous are LLMs really? Nature, 646(8084):272–5. doi: 10.1038/d41586-025-03222-1.
Irving, G. 2026. We won’t know the answers to AI’s most important questions until it’s too late. https://time.com/article/2026/10/03/we-won-t-know-the-answers-to-ai-s-most-important-questions-until-its-too-late/ (14 Oktober 2026 geraadpleeg).
Kokotajlo, D., S. Alexander, T. Larsen, E. Lifland en R. Dean. 2025. AI 2027. AI Futures Project. https://ai-2027.com (14 Oktober 2026 geraadpleeg).
Noetel, M. 2026. “We really do earnestly believe AI could kill all humans”: if AI labs are so worried about AI doom, why don’t they stop? The Conversation. doi: 10.64628/AA.sguq9pru5.
Pillay, T. 2025. New tests reveal AI’s capacity for deception. https://time.com/7202312/new-tests-reveal-ai-capacity-for-deception/ (14 Oktober 2026 geraadpleeg).
Senekal, B.A. 2022. Die Terminator-scenario: Is dit ons toekoms? Deel 2: Skynet. https://www.litnet.co.za/die-terminator-scenario-is-dit-ons-toekoms-deel-2-skynet/ (14 Oktober 2026 geraadpleeg).
Vermeer, M., E. Lathrop en A. Moon. 2025. On the extinction risk from Artificial Intelligence. Santa Monica: RAND Corporation. doi: 10.7249/RRA3034-1.
Yudkowsky, E. en N. Soares. 2025. If anyone builds it, everyone dies: why superhuman AI would kill us. Londen: Little, Brown and Company.
Eindnotas:
1 Hierdie bron het nie bladsynommers nie, maar is in PDF-formaat. Bladsynommers aangehaal verwys na die hoeveelste bladsy hierdie inligting bevat.
2 Hierdie datums is beramings en word deurlopend aangepas. Ek hou by die oorspronklike datums ter wille van duidelikheid.
Lees ook: