Die feit dat dodelike outonome wapenstelsels in die Russies-Oekraïense konflik beperk is tot onbemande lugvaartuie en lugafweerstelsels, wys aan die een kant dat alle vorme van dodelike outonome wapenstelsels nog nie gereed is vir operasionele ontplooiing nie, maar aan die ander kant wys veral die gebruik van onbemande lugvaartuie in hierdie konflik tot hoe ’n mate die tegnologie onmisbaar geword het.
Inleiding
Verskeie films beeld ’n distopiese toekoms uit waar masjiene die wêreld oorgeneem het. Twee van die bekendste filmreekse in hierdie opsig is die Matrix- en Terminator-films, waarvan laasgenoemde die algemene verwysingspunt verskaf wanneer dodelike outonome wapenstelsels (“Lethal Autonomous Weapons Systems”) bespreek word (Miller 2018; Caron 2020; Garvey en Maskal 2020; Sözübir 2021). Hierdie filmreeks bestaan tans uit The Terminator (Cameron 1984), Terminator 2: Judgment Day (Cameron 1991), Terminator 3: Rise of the machines (Mostow 2003), Terminator: Salvation (Nichol 2009), Terminator Genisys (Taylor 2015) en Terminator: Dark Fate (Miller 2019). Kortom beeld die filmreeks ’n toekoms uit waar ’n Kunsmatige Intelligensie (KI)-entiteit genaamd Skynet selfbewus geword het, en wanneer die mens hom probeer vernietig, gebruik hy die mens se kernwapens om die mensdom te vernietig – ’n gebeurtenis bekend as die “Oordeelsdag” (“Judgment Day”). Die klein groepies mense wat die kernoorlog oorleef, word verder deur robotte uitgewis, totdat die karakter John Connor die weerstandsbeweging (“The Resistance”) lei en uiteindelik Skynet oorwin. In ’n poging om sy nederlaag te verhoed, stuur Skynet ’n robot, die Terminator, terug in tyd om John Connor om die lewe te bring.
Die Terminator-films is nie bloot fiksie nie: hulle dui op ’n toenemend-verstrengelde noodlot van mens en masjien. Bowenal word baie wetenskapsfiksie deesdae ’n werklikheid ... In hierdie artikel word die huidige stand van dodelike outonome wapenstelsels ondersoek.
Die Terminator-films is nie bloot fiksie nie: hulle dui op ’n toenemend-verstrengelde noodlot van mens en masjien. Bowenal word baie wetenskapsfiksie deesdae ’n werklikheid: soos The Jetsons se diensrobotte wat vandag as robotstofsuiers te koop is, en Star Wars se laserwapens wat vandag as gerigte energiewapens (“Directed Energy Weapons”), soos Israel se Iron Beam, ontwikkel word. So ook is die HK-Aerial-hommeltuig van die Terminator-films tans ’n magsvermenigvuldiger op die slagveld in die vorm van onbemande lugvaartuie soos die Reaper en Bayraktar. Met snel ontwikkelende tegnologie, hoe lank nog voor Terminators ontwikkel word, of selfs Skynet self? Is Skynet enigsins moontlik? In Deel 1 van hierdie artikel word die huidige stand van dodelike outonome wapenstelsels ondersoek, en in Deel 2 word die moontlikheid van ’n vernietigende mens-masjien-konflik ondersoek.
Outonomie
Die onlangse oplewing in Kunsmatige Intelligensie (KI), ingesluit robotika, vind ook neerslag in die verdedigingsektor. In 2019 het die VSA se Departement van Verdediging se begroting byvoorbeeld US$9,6 miljard toegeken aan programme wat verband hou met onbemande en outonome stelsels (Wyatt 2021). Die meeste ander toonaangewende lande spandeer ook beduidende segmente van hul verdedigingsbegrotings aan die ontwikkeling van outonome wapenstelsels.
Outonomie kan op verskillende maniere gesien word. Caron (2020) omskryf ’n outonome agent as: “Someone who is first and foremost able to pose a deliberate and independent action that results from his own will.” In hierdie opsig maak Vardi (2015) ’n belangrike stelling in verband met die T-800/8501 van die Terminator-films: hy is nie outonoom nie, maar voer spesifieke opdragte uit. Hierdie opdragte kom van Skynet (in The Terminator, Terminator: Salvation en Terminator: Dark Fate), van John Connor (in Terminator 2: Judgment Day), van die karakter Kate Brewster (in Terminator 3: Rise of the machines), of van ’n onbekende persoon (in Terminator Genisys). Omdat die Terminator bloot opdragte uitvoer, vergelyk Vardi (2015) die Terminator met ’n vuur-en-vergeet- (“fire and forget”) wapen soos ’n missiel, wat duidelike instruksies oor sy teiken ontvang en self sy koers aanpas om daardie teiken te bereik. Wanneer die Terminator byvoorbeeld na ’n wapenhandelaar gaan in The Terminator om wapens aan te skaf, doen hy dit nie uit vrye wil nie, maar eerder as ’n noodsaaklike stap ter bereiking van sy doelwit. Alhoewel die stappe wat die Terminator moet neem heelwat meer gevorderd is as die aanpassings wat ’n Javelin-anti-tenkmissiel moet maak, is dit slegs ’n uitbreiding van die konsep en veronderstel nie ’n eie wil nie. Hierteenoor is Skynet selfbewus, hy val die mensdom aan om homself te beskerm, neem strategiese besluite, en vervaardig ander robotte.
In die literatuur word onderskei tussen twee verskillende vorme van KI: KI wat vir ’n spesifieke doel ontwerp is, bekend as Kunsmatige Spesifieke Intelligensie (KSI) (“Artificial Narrow Intelligence” of ANI), en Kunsmatige Algemene Intelligensie (KAI) (“Artificial General Intelligence” of AGI). Omdat die Terminator en Skynet verskillende vorme van outonomie verteenwoordig, verdeel ek die bespreking van tegnologie in twee dele: die T-800/850 self (die Terminator) (hierdie artikel), en Skynet (Deel 2).
Almal deel nie die siening dat outonomie ’n eie wil veronderstel nie en die meeste besprekings van dodelike outonome wapenstelsels het eerder ’n wapenstelsel in gedagte wat teikens kan identifiseer en op kan vuur sonder menslike inmenging. In hierdie opsig is Wyatt en Galliott (2020) se definisie van ’n outonome wapenstelsel van belang:
A fully autonomous Lethal Autonomous Weapon System (LAWS) is a weapon delivery platform that is able to independently analyse its environment and make an active decision whether to fire without human supervision or guidance (sien ook Boling, Boudreaux, Blanc, Foran, Geist, Kim, Klima, Leidy, McBirney en Tarraf 2022).
Hierdie definisie is ook wat in die huidige deel van hierdie artikel met ’n dodelike outonome wapenstelsel bedoel word, terwyl Skynet – oftewel Kunsmatige Algemene Intelligensie – in deel 2 van die artikel bespreek word.
Huidige tegnologie: Terminators
Dit is belangrik om in gedagte te hou dat ’n militêre robot nie ’n menslike vorm benodig om sy taak te vervul nie, en in die Terminator-films is daar vele vorme van robotte wat in die toekomsvisies gewys word, insluitend menslike robotte, onbemande lugvaartuie, onbemande grondvoertuie en selfs seevaartuie. In hierdie afdeling word sommige robotte bespreek wat tans bestaan, teen die agtergrond van robotte wat in die Terminator-films uitgebeeld word.
Menslike robotte
In die Terminator-films word die T-800/850 Terminator aangebied as ’n robot, bedek met lewendige vlees (met ander woorde ’n kubernetiese organisme), wat self kan rondbeweeg, besluite neem, mense herken, praat, bestuur, en skiet. Boonop word hy deurgaans as ’n mens aangesien. Die T-800/850 is gebaseer op ’n endoskelet, wat nie noodwendig met vlees bedek word nie (toekomstonele wys endoskelette op die slagveld). Dit is ook ’n verbetering op die T-600, wat met ’n rubber vel bedek was.
Oorspronklik bekend as PetMan, is Atlas van Boston Dynamics een van die bekendste bestaande menslike robotte. Die robot se ontwikkeling het in 2008 begin, en tans kan die robot trappe klim, oor klippe beweeg, en betroubaar buite rondbeweeg (Nelson, Saunders en Playter 2019). Die geskiedenis en ontwikkeling van Atlas word deur Nelson, Saunders en Playter (2019) bespreek, en sommige van die robot se vaardighede kan hier gesien word.
’n Groot aantal ander maatskappye het reeds menslike robotte ontwikkel, insluitend Toyota, Honda, Sony, NASA en ander (Goswami en Vadakkepat 2019). Tesla is ook besig om ’n menslike robot Optimus te ontwikkel, terwyl Xiaomi besig is om CyberOne te ontwikkel.
Daar bestaan groot kontroversie wanneer dodelike outonome wapenstelsels ter sprake is. Deel van die debat is oor of dit wettig is vir wapens om ’n lewe te neem sonder ’n mens in die besluitnemingsproses ... ’n Ander deel van die kontroversie handel daaroor dat robotte nie morele besluite kan neem nie en daarom ’n gevaar vir burgerlikes inhou.
Al hierdie robotte is egter burgerlike robotte en nie een van die outeurs in Goswami en Vadakkepat (2019) of Spenko, Buerger en Iagnemma (2018) noem militêre toepassings wanneer dit by menslike robotte kom nie. Ek kon ook nie elders voorbeelde opspoor nie. My vermoede is dat die menslike vorm ’n kontroversiële vorm is wanneer dodelike outonome wapenstelsels ter sprake is, want die publiek sal vinnig vergelykings met die Terminators tref. Tans is menslike robotte ook nie so robuus soos die T-800/850 nie, omdat hulle nie vir militêre toepassings ontwikkel word nie. Nietemin bestaan die tegnologie reeds om ’n menslike robot te vervaardig wat in hul omgewings op twee bene kan navigeer.
Robotvliegtuie
Naas die menslike robotte, is die bekendste wapen in die Terminator-films die HK-Aerial onbemande lugvaartuig, wat in al die films figureer. Hierdie vaartuig is in staat tot outonome vlug, sowel as vertikale opstyging en landing (“Vertical Take-Off and Landing” of VTOL), en is ook toegerus met wapens.
Onbemande lugvaartuie het ’n lang geskiedenis wat terugstrek na die Ryan Model 147 (Lightning Bug) en die Lockheed D-21 van die Koueoorlog. Wyatt (2021) neem die konsep selfs nog verder terug na 1849, toe die Oostenrykse weermag onbemande lugballonne gebruik het om plofstowwe oor Venesië te laat val. Tydens die Amerikaanse burgeroorlog het beide kante onbemande lugballonne vir verkenning gebruik, en in beperkte gevalle ook vir bombardering (Wyatt 2021).
Dit was egter eers tydens die Viëtnamoorlog dat onbemande lugvaartuie in die vorm van die Lightning Bug op ’n noemenswaardige skaal gebruik is (Wyatt 2021). Die QH-50 DASH, ’n helikopter-weergawe van ’n onbemande lugvaartuig, is ook tydens hierdie oorlog ontwikkel (Wyatt 2021). Tydens die Yom Kippur-oorlog (1973) het Israel ook onbemande lugvaartuie as lokmiddels gebruik sodat Siriese magte hulle posisies bekendgemaak het wanneer hulle op die onbemande lugvaartuie gevuur het, en in Libanon (1982) het Israelse magte Scout-onbemande lugvaartuie gebruik om lugafweerstelsels te vernietig (Wyatt 2021). Tydens die Golfoorlog (1991) het die onbemande lugvaartuig, die RQ-2 Pioneer, geskiedenis gemaak toe Irakese soldate oorgegee het toe hulle die vaartuig sien, wat die eerste keer in die geskiedenis is dat mense oorgegee het vir ’n masjien (Wyatt 2021).
In die laat negentigerjare is die bekendste onbemande lugvaartuig in gebruik geneem: Die MQ-1 Predator. Die Predator het bekendheid verwerf tydens die oorloë in Afghanistan en Irak, veral vir sy vermoë om lugaanvalle met die Hellfire-missiel uit te voer. Die Predator is vervang met die MQ-9 Reaper.
Verskeie lande vervaardig onbemande lugvaartuie wat ontwerp is om aanvalle uit te voer, byvoorbeeld die Turkse Bayraktar wat met groot sukses in die oorlog in die Oekraïne aangewend is. Rusland het ook die KT Orion en Zala 421-20 (Wyatt 2021). Suid-Afrika is ook sedert die 1980’s ’n rolspeler in hierdie veld en vervaardig byvoorbeeld die Scout- en Seeker-onbemande lugvaartuie wat tydens die oorlog in Angola in ’n verkenningsrol gebruik is.
Die meeste groot onbemande en gewapende lugvaartuie styg op vanaf ’n aanloopbaan, anders as die HK-Aerial van die Terminator-films, maar kleiner en ongewapende hommeltuie met ’n VTOL-vermoë soos dié van DJI en Skydio is só alombekend dat hulle skaars vermelding verdien. Militêre onbemande lugvaartuie prioritiseer eerder vlugtyd bo ’n VTOL-vermoë, maar ’n aantal hibriede lugvaartuie is ook reeds ontwikkel, soos deur die Suid-Afrikaanse maatskappy Alti.
Onbemande lugvaartuie word nie tans met ’n funksie toegerus wat teikens outomaties identifiseer en op vuur nie, omdat die tegnologie nog nie betroubaar genoeg is om byvoorbeeld ’n onderskeid tussen burgerlikes en vyandelike troepe te tref nie. Boonop is gesigsherkenning reeds ver gevorderd, maar intydse gesigsherkenning is nog nie akkuraat genoeg vir so ’n toepassing nie (Wyatt 2021).
Robottenks
Die HK-Tank van die Terminator-films het ’n amper menslike vorm met ’n kop, arms en bene, soos duidelik gesien in Terminator 3: Rise of the machines. Werklike robottenks neem nie ’n menslike vorm aan nie, maar eerder ’n tradisionele tenkvoorkoms.
Tydens die Eerste Wêreldoorlog het die Geallieerdes die Wickersham Land Torpedo ontwerp, wat volgens Wyatt (2021) die oorsprong van die onbemande grondvoertuig was. In die tydperk tussen die twee Wêreldoorloë het die Japanese die Nagayama-afstandbeheerde tenk en die Ya-I Go-ingenieursvoertuig ontwerp, maar hulle is nie tydens die oorlog gebruik nie (Wyatt 2021). Die TT-26 Teletank, ’n Russies-vervaardigde afstandbeheerde tenk, is in die Tweede Wêreldoorlog gebruik, en is toegerus met vlamwerpers en swaar masjiengewere (Wyatt 2021). Die Duitsers het ook die Goliath ontwerp, wat net ’n afstandbeheerde bom was, maar die Goliath was nie suksesvol nie.
Vandag is daar die Type X van Milrem Robotics, wat in staat is daartoe om vir ’n verskeidenheid soort operasies aangepas te word, maar is hoofsaaklik ’n vuurondersteuningsplatform. Die Combat-weergawe kan tot ’n 50 mm-kanon gebruik en is ontwerp om tenks te ondersteun, terwyl daar ’n ander weergawe is wat rondhangammunisie (“loitering munitions”) soos die Hero-120 kan afvuur. Milrem Robotics vervaardig ook die THeMIS, wat heelwat kleiner is en aangepas kan word vir logistieke, ongevalle vervoer, vuurondersteuning en verkenning. Die Type X kan hier in aksie gesien word.
Soortgelyk aan die THeMIS, kan Rheinmetall se Mission Master-platform vir ’n verskeidenheid militêre operasies gebruik word, insluitend logistieke, redding, verkenning en vuurondersteuning. ’n Video van die Mission Master XT kan hier gesien word.
China vervaardig ook die Sharp Claw, ’n 6x6-onbemande grondvoertuig wat vir aanvalle, patrollies en verkenning ontwerp is. Rusland vervaardig die Uran-9, wat toegerus kan word met anti-tenkmissiele, ’n 30 mm-kanon, lugafweermissiele en ligte masjiengewere. Die Oekraïne vervaardig op hul beurt die RSVK-M2, wat ook met masjiengewere en anti-tenkmissiele toegerus kan word. Israel het ook die AMSTAFF en Guardium (Wyatt 2021), terwyl Suid-Korea se DoDAAM die Athena vervaardig.
Op ’n baie kleiner skaal is daar die Dogo-robot van General Robotics, wat ontwerp is om binne geboue te werk en bewapen kan word met ’n 9 mm-pistool. Hierdie klein tenk is spesifiek vervaardig vir anti-terreur- en polisie-operasies.
Nie een van hierdie platforms is ontwerp vir outonome teikenopsporing en -vernietiging nie: hierdie stelsels verg steeds ’n mens om die besluit te neem wanneer die stelsel afvuur. Deel van die uitdaging is dat grondoperasies algemeen gesien word as die moeilikste, gegewe die teenwoordigheid van vriendelike magte en burgerlikes (Wyatt 2021). Wyatt (2021) sê:
Considering the status of LAWS as a disruptive military innovation through the lens of current technology, it appears that the ‘hardware’ component of LAWS has not sufficiently matured. Even with the massive resource investment, frontline combat robots would continue to struggle in a dynamic ground combat environment. However, it is also clear, even from publicly available data, that the rate of technological development is rapidly bringing that point closer. The main factor will be related to improving the reliability with which machines adapt to unexpected conditions in a combat setting.
Alhoewel daar met ander woorde beduidende vordering op die gebied van onbemande grondvoertuie is, is die tegnologie nog nie tans gereed vir volskaalse ontplooiing nie. Die Russiese Uran-9 het byvoorbeeld so swak gevaar tydens die oorlog in Sirië dat dit sover bekend nie tydens die oorlog in die Oekraïne ontplooi is nie, en hierdie oorlog word eerder beïnvloed deur onbemande lugvaartuie as onbemande grondvoertuie.
Robothonde
Miskien as gevolg van die mens se spesiale verhouding met honde, is daar nie robothonde in die Terminator-films nie, en honde word gewoonlik uitgebeeld as opspoorders van Terminators. In 2017 het die “Metalhead”-episode van die reeks Black Mirror egter ’n robothond uitgebeeld wat mense agtervolg en vermoor het (Moses en Ford 2021). In hierdie geval word die robothond as’t ware ’n Terminator-hond. Die konsep van robothonde is egter veel ouer, en Wyatt (2021) noem Khryseos en Argyreos vanuit die Griekse mitologie, wat waghonde was wat deur Hephaestus uit goud en silwer geskep is.
Militêre robotte neem eerder die vorm aan van onbemande lug-, grond- en seevaartuie, asook stilstaande brandwagte wat by basisse en op skepe gebruik word ... maar wanneer dit kom by die komplekse moderne slagveld, word mense steeds benodig om die besluite vir onbemande lug- en grondvoertuie te neem, ten einde burgerlike ongevalle en vriendelike vuur te beperk.
Boston Robotics se Spot is in 2019 vir kommersiële verkope bekend gestel en het sedertdien bekend geword as een van die beste robothonde op die mark. Die robot is ’n uitvloeisel van ’n DARPA-projek (Defense Advanced Research Projects Agency) wat die oogmerk gehad het om ’n robot te ontwerp wat militêre toerusting oor terreine kon vervoer waar voertuie met wiele nie kon gaan nie (Moses en Ford 2021). Alhoewel Spot nog nooit toegerus is met ’n dodelike vermoë nie, is dit ontwerp as ’n platform vir ’n verskeidenheid toepassings, wat dit moontlik sou maak vir ’n gebruiker om ’n dodelike vermoë toe te voeg (Moses en Ford 2021). Die maatskappy het hulself oor die afgelope paar jaar van militêre toepassings gedistansieer, en fokus eerder op burgerlike toepassings, maar volgens Moses en Ford (2021) verbind mense steeds Spot met militêre toepassings – deels as gevolg van bogenoemde episode van Black Mirror.
Alhoewel Boston Dynamics se Spot met militêre toepassings verbind word, is dit Ghost Robotics se Vision 60 wat reeds deur verskeie weermagte getoets word om byvoorbeeld basisse te patrolleer. Die robot kan 3 uur lank opereer voor dit herlaai moet word, kan oor enige terrein beweeg, kan selfs deure oopmaak, en daar is reeds eksperimente onderneem om vuurwapens op die robot te monteer (Moses en Ford 2021; Zeldovich 2022).
Robotbrandwagte
In Terminator: Salvation kan wapenplatforms gesien word wat op die perimeter van Skynet se hoofbasis (Skynet Central) gemonteer is en outomaties bedreigings identifiseer, volg en skiet. Sulke stelsels staan soms as brandwagte (“sentinels”) bekend. Dit is een van die bekendste huidige toepassings van dodelike outonome wapenstelsels.
Die Amerikaanse Phalanx Close-In Weapons System (CIWS) is reeds sedert 1980 in gebruik en benut tans KI om bedreigings van vyandelike missiele en vliegtuie te identifiseer, op te spoor en aan te val (Haney 2018; Ploumis 2022). Die stelsel kan ook op voertuie gemonteer word om as ’n lugafweerkanon te funksioneer.
Die Samsung SGR-A1 en DoDAAM se Super Aegis II funksioneer op hul beurt as wagte in die gedemilitariseerde sone tussen Noord- en Suid-Korea. Sodra dit geaktiveer is, het beide die vermoë om menslike teikens en inkomende projektiele te identifiseer, te volg en op te vuur sonder die verdere ingryping van ’n menslike operateur (Miller 2018; Caron 2020). Om etiese redes word mense tans benodig om die finale besluit te neem, maar dié beperking is eties eerder as tegnologies.
Soortgelyk aan hierdie Suid-Koreaanse wapens, vervaardig Israel die Sentry Tech, wat indringers opspoor en volg, en dan met ’n mens se insette die teiken neutraliseer. Israel se Iron Dome kan ook inkomende projektiele outomaties identifiseer, volg en op vuur (Caron 2020). Die stelsel het sedert sy ingebruikneming in 2011 reeds duisende vuurpyle afgeskiet wat uit die Gaza-strook op Israelse gebiede gevuur is. In 2022 het Israel aangedui dat die stelsel in die toekoms ondersteun gaan word deur die Iron Beam, die wêreld se eerste operasionele gerigte energiewapen. Op ’n kleiner skaal vervaardig Israel ook die Trophy Active Protection System, vir gebruik op tenks en ander gepantserde voertuie. Trophy kan inkomende projektiele binne minder as ’n sekonde opspoor en neutraliseer. In al hierdie gevalle is die stelsels ten volle geoutomatiseer, omdat dit gaan oor die vernietiging van projektiele eerder as menslike teikens.
Aangesien lugaanvalle blitsvinnige reaksies verg, is verskeie lugafweerstelsels ontwikkel wat teikens outomaties identifiseer, volg en op vuur. Een so ’n stelsel is die Duitse Nächstbereichschutzsystem MANTIS van Rheinmetall. Die stelsel is ontwerp om basisse te verdedig en kan vliegtuie, hommeltuie en inkomende projektiele afskiet, sonder menslike inmenging.
Volgens Wyatt (2021) is hierdie tegnologie van besondere waarde:
Assuming a constant supply of energy, autonomous weapon systems are simply more effective at maintaining a constant defence because they do not suffer from fatigue, distraction or boredom. Furthermore, these systems do not have a self-preservation instinct and thus are less likely to overreact to a non-lethal threat than a human border guard.
Robotbrandwagte is tans die beste voorbeeld van dodelike outonome wapenstelsels wat teikens kan identifiseer en op vuur sonder menslike inmenging. Hulle is veral bruikbaar op die moderne slagveld omdat hulle ’n OODA- (Observe–Orient–Decide–Act) siklus van nanosekondes het (Wyatt 2021), wat beteken hulle kan ’n bedreiging blitsvinnig identifiseer en daarop vuur. Die omgewing waarbinne hulle funksioneer bemiddel ook ’n groter mate van outonomie as wat byvoorbeeld die geval is met onbemande grondvoertuie: geen burgerlikes mag byvoorbeeld die gedemilitariseerde sone tussen Noord- en Suid-Korea betree nie en vriendelike magte se posisies is in daardie geval ook bekend en relatief staties; wapens soos die Phalanx word op skepe gebruik waar daar ook nie burgerlikes teenwoordig is nie; lugafweerkanonne is bedoel om in ’n konvensionele oorlog gebruik te word waar geen burgerlike vliegtuie in die lugruim is nie; en wanneer brandwagte by militêre basisse gebruik word, word daar altyd gewaarsku voor daar afgevuur word. Nietemin het daar reeds ’n paar foute voorgekom, byvoorbeeld toe die Switserse Oerlikon GDF-005-robotlugafweerkanon in 2007 oorgeskakel het na outomatiese modus en nege Suid-Afrikaanse soldate doodgeskiet en 15 gewond het toe ’n fout tydens ’n oefening by Lohatla ontstaan het (Wyatt 2021). Die dodelikheid van hierdie wapen kan daarin gesien word dat die wapen net vir ’n agtste van ’n sekonde gevuur het.
Robotseevaartuie
In Terminator: Salvation kan die Hydrobot gesien word, ’n waterslangrobot met skerp kloue. Werklike onbemande seevaartuie volg eerder die vorm van tradisionele skepe.
Die eerste onbemande seevaartuie was torpedo’s, wat in 1866 ontwikkel is (Wyatt 2021). In die 1890’s het Nikola Tesla ook ’n afstandbeheerde boot ontwerp, wat hy vir militêre toepassings beoog het, en hy het geglo dat wat hy “telautomats” genoem het, die toekoms van oorlogvoering sou wees (Wyatt 2021).
Vandag word onbemande seevaartuie soos die American Fleet Class Unmanned Surface Vehicle en die Wave Glider gebruik vir verkenning en vroeë waarskuwing. Die Seahunter word ook tans getoets vir moontlike toekomstige gebruik in anti-duikbootoorlogvoering.
Die kontroversie
Daar bestaan groot kontroversie wanneer dodelike outonome wapenstelsels ter sprake is. Deel van die debat is oor of dit wettig is vir wapens om ’n lewe te neem sonder ’n mens in die besluitnemingsproses. Landmyne kan ook as ’n vorm van dodelike outonome wapenstelsel gesien word, aangesien landmyne nie uiteindelik ’n mens in die besluitnemingsproses het wanneer dit ontplof nie (Caron 2020). Landmyne is in 1997 wêreldwyd verban, wat die vraag laat ontstaan of hierdie nuwer stelsels ook verban moet word. Die verskil tussen ’n landmyn en moderne dodelike outonome wapenstelsels is egter dat moderne stelsels spesifieke teikens kan aanval volgens spesifieke kriteria, terwyl landmyne byvoorbeeld ’n bedreiging vir wild en kinders inhou, en lank ná die konflik steeds aktief bly.
Figuur 1 hieronder dui ’n woordwolk aan van die 50 kernwoorde wat die meeste met die soektog “lethal autonomous weapons systems” op Google Scholar verbind word, met slegs die eerste 200 publikasies in ag geneem wat sedert 2018 verskyn het. Hier kan duidelik gesien word dat kwessies soos etiek, die wet, regulering en verantwoordelikheid kernkonsepte in die huidige akademiese diskoers oor dodelike outonome wapenstelsels is.
Figuur 1. Kernwoorde in die huidige akademiese debat oor dodelike outonome wapenstelsels
’n Ander deel van die kontroversie handel daaroor dat robotte nie morele besluite kan neem nie en daarom ’n gevaar vir burgerlikes inhou. Zeldovich (2022) noem egter die teenkant van hierdie argument:
Unlike humans, robots don’t get emotional and irrational. A military bot will never shoot civilians out of anger or revenge for lost comrades. An autonomous machine would have no independent incentive to torture or rape.
Die opsetlike teikening van burgerlikes is so oud soos oorlogvoering self en ’n mens kan honderde voorbeelde vind waar mense nie morele besluite geneem het nie – byvoorbeeld tydens die Tweede Wêreldoorlog, in Viëtnam, Angola, Mosambiek, Afghanistan, Suid-Afrika, Kosovo, Irak, Tsjetsjnië, Sirië, en in die Oekraïne. Dodelike outonome wapenstelsels verteenwoordig nie noodwendig ’n groter risiko vir burgerlikes as menslike soldate nie.
Slot
Militêre robotte benodig nie ’n menslike vorm om effektief te wees nie, alhoewel die tegnologie reeds bestaan om robotte met ’n menslike vorm te vervaardig. Militêre robotte neem eerder die vorm aan van onbemande lug-, grond- en seevaartuie, asook stilstaande brandwagte wat by basisse en op skepe gebruik word. Die effektiwiteit van sulke stelsels om inkomende bedreigings te neutraliseer, wys dat die tegnologie reeds in ’n gevorderde stadium is, maar wanneer dit kom by die komplekse moderne slagveld, word mense steeds benodig om die besluite vir onbemande lug- en grondvoertuie te neem, ten einde burgerlike ongevalle en vriendelike vuur te beperk.
’n Tweede afdeling van die Terminator-scenario betrek Skynet self: ’n ten volle outonome, selfbewuste entiteit wat daartoe in staat is om sy eie besluite te neem. Hierdie tegnologie, bekend as Kunsmatige Algemene Intelligensie, bestaan nog nie tans nie en daar is kenners wat glo dat dit nooit sal kan bestaan nie. Dit sal in die volgende artikel bespreek word.
Die feit dat dodelike outonome wapenstelsels in die Russies-Oekraïense konflik beperk is tot onbemande lugvaartuie en lugafweerstelsels, wys aan die een kant dat alle vorme van dodelike outonome wapenstelsels nog nie gereed is vir operasionele ontplooiing nie, maar aan die ander kant wys veral die gebruik van onbemande lugvaartuie in hierdie konflik tot hoe ’n mate die tegnologie onmisbaar geword het. Die tendens is dat wapenstelsels meer geoutomatiseer word, nie minder nie. Alhoewel die mens tans nog in die meeste gevalle die finale besluit neem wanneer ’n teiken geïdentifiseer word, beteken dit nie dat dieselfde steeds die geval sal wees oor ’n paar jaar nie.
’n Tweede afdeling van die Terminator-scenario betrek Skynet self: ’n ten volle outonome, selfbewuste entiteit wat daartoe in staat is om sy eie besluite te neem. Hierdie tegnologie, bekend as Kunsmatige Algemene Intelligensie, bestaan nog nie tans nie en daar is kenners wat glo dat dit nooit sal kan bestaan nie. Dit sal in die volgende artikel bespreek word.
Bibliografie
Boling, B., Boudreaux, B., Blanc, A.A., Foran, C., Geist, E., Kim, M., Klima, K., Leidy, E.N., McBirney, S. en Tarraf, D.C. 2022. Emerging Technology Beyond 2035: Scenario-Based Technology Assessment for Future Military Contingencies. Santa Monica: RAND Corporation. doi: 10.7249/RRA1564-1.
Cameron, J. 1984. The Terminator. Hemdale Pacific Western Productions.
Cameron, J. 1991. Terminator 2: Judgment Day. Carolco Pictures.
Caron, J.F. 2020. Defining semi-autonomous, automated and autonomous weapon systems in order to understand their ethical challenges. Digital War, 1(1–3):173–177. doi: 10.1057/s42984-020-00028-5.
Garvey, C. en Maskal, C. 2020. Sentiment analysis of the news media on artificial intelligence does not support claims of negative bias against artificial intelligence. Omics: a journal of integrative biology, 24(5):286–299. doi: 10.1089/omi.2019.0078.
Goswami, A. en Vadakkepat, P. (reds.). 2019. Humanoid robotics: A reference. Dordrecht: Springer Netherlands. doi: 10.1007/978-94-007-6046-2.
Haney, B.S. 2018. The perils & promises of artificial general intelligence. SSRN Electronic Journal. doi: 10.2139/ssrn.3261254.
Miller, S. 2018. Autonomous Weapons: Terminator-Esque Software Design, in H. Prunckun (red.). Cyber Weaponry. Cham: Springer International Publishing: 157–169. doi: 10.1007/978-3-319-74107-9_12.
Miller, T. 2019. Terminator: Dark Fate. Paramount Pictures.
Moses, J. en Ford, G. 2021. See Spot save lives: fear, humanitarianism, and war in the development of robot quadrupeds. Digital War, 2(1–3):64–76. doi: 10.1057/s42984-021-00037-y.
Mostow, J. 2003. Terminator 3: Rise of the Machines. Columbia Pictures.
Nelson, G., Saunders, A. en Playter, R. 2019. The PETMAN and atlas robots at boston dynamics, in A. Goswami en P. Vadakkepat (reds.). Humanoid robotics: A reference. Dordrecht: Springer Netherlands:169–186. doi: 10.1007/978-94-007-6046-2_15.
Nichol, J.M. 2009. Terminator Salvation. Columbia Pictures.
Ploumis, M. 2022. AI weapon systems in future war operations; strategy, operations and tactics. Comparative Strategy, 41(1):1–18. doi: 10.1080/01495933.2021.2017739.
Sözübir, U. 2021. UAV Autonomy in Turkey and around the world: The ‘Terminator’ Debate. Perceptions, 26(2):299–320.
Spenko, M., Buerger, S. en Iagnemma, K. (reds.). 2018. The DARPA robotics challenge finals: humanoid robots to the rescue. Cham: Springer International Publishing. doi: 10.1007/978-3-319-74666-1.
Taylor, A. 2015. Terminator Genisys. Skydance Productions.
Vardi, M.Y. 2015. On lethal autonomous weapons. Communications of the ACM, 58(12):5–5. doi: 10.1145/2839512.
Wyatt, A. 2021. The disruptive impact of lethal autonomous weapons systems diffusion: modern melians and the dawn of robotic warriors. London: Routledge. doi: 10.4324/9781003172987.
Wyatt, A. en Galliott, J. 2020. Closing the capability gap: ASEAN military modernization during the dawn of Autonomous Weapon Systems. Asian Security, 16(1):53–72. doi: 10.1080/14799855.2018.1516639.
Zeldovich, L. 2022. War Dogs. Mechanical Engineering, 144(5):28–33. doi: 10.1115/1.2022-SEP2.
Eindnota:
1 Die Terminator (Arnold Schwarzenegger) word in die meeste films aangedui as die T-800 (ook bekend as Model 101), maar in Terminator 3: Rise of the machines is hy aangedui as die T-850.