Litnet

• Bettina Wyngaard skryf ’n gereelde rubriek vir LitNet.

...

Sien dit teen die agtergrond van Trump-wetgewing wat die wetgewende gesag vir ’n dekade daarvan wil weerhou om in KI se ontwikkeling in te meng, en die begin van ’n resep vir ’n ramp begin deurskemer.

...

Laat ek sommer uit die staanspoor oop kaarte speel: Ek dink kunsmatige intelligensie is die grootste enkele bedreiging vir mense se vermoë om kreatief, skeppend, indringend en ondervragend met die wêreld rondom ons in interaksie te gaan.

Moet my nie verkeerd verstaan nie. ’n Robotstofsuier wat die huis kan skoonmaak sonder dat ek heeltyd toesig moet hou of die toerusting fisies hoef te hanteer hanteer, is wonderlik. Ek sien daar is deesdae ook robotgrassnyers internasionaal beskikbaar. Enigiets wat my fisieke arbeid verminder, kan nie sleg wees nie. Die probleem is egter dat KI al meer gebruik word om ons kritiese en kreatiewe denke te vervang, terwyl die fisieke arbeid nie veel verander nie. Boonop het die superrekenaars wat die KI dryf, soveel water nodig dat dit sommige Amerikaanse stede in bedreiging van watersnood laat.

Ek sien onlangs ’n meem wat ironies kommentaar lewer op die omvang van die rekenaars se impak op die natuur: “All this so that an incel in his mom’s  basement can create an action figure with three tits.” Dis natuurlik erg genoeg dat onvervangbare hulpbronne gevaar loop om uitgewis te word vir vermaak. Maar wat gebeur wanneer noodsaaklike inligting ook deur KI bedreig word?

Wanneer laas het jy iets probeer Google? In die verlede was dit doodeenvoudig: Jy pons sleutelwoorde in die soekenjin, en jy word na verskillende webwerwe geneem wat die inligting bespreek. Hierdie webwerwe is heelparty kere opgestel en in stand gehou deur kenners in hulle veld. Dis die internet soos die bedoel was, vir die demokratisering van inligting.

Probeer dit vandag, en jy moet deur ’n mynveld van sg AI Overviews gaan voordat jy by ’n webwerf uitkom waarvan jy die inligting kan vertrou. Ek gebruik die woord “vertrou”, want KI is nie betroubaar nie.

Net hierdie week het ’n waarnemende regter in die Gautengse Hooggeregshof agtergekom dat sake wat in betoogshoofde voor hom gedien het, nie bestaan nie. Die regspan wat die hoofde saamgestel het, het bestaan uit ’n prokureursfirma, twee junior advokate en ’n senior advokaat. ’n Gedugte span, of so sou mens dink. Die regter, waarnemende regter DJ Smit, het self ook eers terwyl hy besig was om sy beslissing te skryf en iets wou opvolg, agtergekom die verwysings bestaan nie. Hy het hierna die niebestaande beslissing ’n KI-hallusinasie genoem. 

...

Dis nou al jare sedert ek laas in ’n hof verskyn het, maar destyds was advokate, en veral senior advokate (of silks, soos hulle algemeen bekend staan) beskou as so twee trappies onder die liewen Heer self wat kennis en insig in die reg betref.

...

Natuurlik is almal vreeslik jammer en het niemand bedoel om die hof te mislei nie. Die opdraggewende prokureur gee ’n KI-program, Legal Genius, en tydsdruk die skuld. Die senior advokaat sê hy het net ’n “sense check” gedoen op die hoofde, en dat hy in elk geval bygestaan is deur twee bekwame junior advokate. Wat die senior advokaat se bas red, is dat hy nie tydens sy mondelinge argument staatgemaak het op die niebestaande verwysings nie.

Regter Smit het gewaarsku teen die gevare vir regspleging indien regspraktisyns so nalatig optree, en het die saak na die Legal Practice Council verwys vir beslissing, en ook tereg, na my mening.

Dis nou al jare sedert ek laas in ’n hof verskyn het, maar destyds was advokate, en veral senior advokate (of silks, soos hulle algemeen bekend staan) beskou as so twee trappies onder die liewen Heer self wat kennis en insig in die reg betref. As drie advokate, en ’n regsfirma wat senior genoeg is om drie advokate te kan bekostig (wat ook ’n skatryk kliënt impliseer), almal deur KI om die bos gelei kan word, aan watter gevare word ons gewone sterflinge nie blootgestel wanneer ons KI-inligting vir soetkoek opeet nie?

Die selfs groter vraag: Wat sou gebeur het indien die saak voor ’n minder deeglike regter gedien het? Sou ’n KI-hallusinasie deel van ons regspleging geword het, klakkeloos nagepraat en aangehaal deur ander regspraktisyne onder tydsdruk? Hoe lank sou dit geneem het voordat iemand uiteindelik agtergekom het hier is groot fout?

Ek wonder ook hoe, en hoekom, KI-hallusinasies plaasvind. As die rekenaarmodelle opgelei word op grond van bestaande inligting, beteken dit dan dat vals beslissings  alreeds geruime tyd voor ons howe dien? En as dit nie die geval is nie, dan ontstaan die vraag hoekom ’n rekenaar in effek lieg.

Sien dit teen die agtergrond van Trump-wetgewing wat die wetgewende gesag vir ’n dekade daarvan wil weerhou om in KI se ontwikkeling in te meng, en die begin van ’n resep vir ’n ramp begin deurskemer.

Lees ook:

Kunsmatige Intelligensie en die reg: Regspraak en opinies lê nog ver in die toekoms

Jan Alleman vs ChatGPT: Kan KI uit regswerk gehou word?