Inleiding
As deel van die gesprek rondom die onetiese gebruik van kunsmatige intelligensie (KI) skryf Johann Rossouw onlangs op Netwerk24 ("Ons kort ’n register van skaamte vir dié wat met KI skryf") dat daar ’n register saamgestel moet word van skrywers wat KI op ’n onetiese wyse gebruik "sodat sodanige bedrieërs nie toegelaat word om die Afrikaanse openbare gesprek en letterkunde vir niks anders nie as openbare aansien en erkenning te probeer misbruik" nie. Rossouw verwys na die omstredenheid rondom Frankryk se mees gesogte literêre prys, die Goncourt, waarvoor die Haïtiaans-Quebecse skrywer Thélyson Orélien vir sy roman C'était ça ou mourir (Dit was dit of die dood, Parys: Grasset) oorweeg is en dit later geblyk het dat die roman moontlik deur KI geskryf is (Rossouw 2026).
Ek stem in beginsel saam met Rossouw (ek het trouens ook al voorgestel dat skrywers verban moet word wat KI op onetiese wyses gebruik (2025b)), maar daar is ’n paar belangrike besonderhede om in gedagte te hou. Ek skryf die huidige artikel aanvullend tot Rossouw se stuk en met die vraag oor hoe om so iets te realiseer.
Grafika: © RosZie (Pixabay.com, geplaas op 30 Januarie 2023)
Die betroubare uitkenning van KI-geskepte teks
Rossouw (2026) stel voor dat uitgewers, webwerwe en koerante ’n paneel van KI-kenners saamstel en alle voorleggings deur die KI-verklikker Pangram laat toets; dat indien Pangram probleme uitwys, sulke manuskripte verder ondersoek word, en indien gevind word dat ’n skrywer KI op ’n onetiese wyse gebruik het, daardie skrywer se naam op ’n register aangebring word. Om iemand van onetiese gedrag te beskuldig sonder voldoende bewyse, het morele en wetlike implikasies en moet daarom nie ligtelik gedoen word nie, wat Rossouw duidelik besef. Hy stel nie voor dat KI-verklikkers alleen gebruik moet word nie en noem die konteks van ’n akademikus wat ’n geskiedenis van plagiaat het of wat byvoorbeeld skielik produktief begin publiseer op gebiede waarop hy nie ’n kenner is nie. Gegewe KI-verklikkers se gebreke – ook dié van Pangram – stem ek saam met Rossouw dat dit aanvullend gebruik kan word, maar nie die enigste manier moet wees waarop die onetiese gebruik van KI opgemerk word nie.
Ek het voorheen op LitNet geskryf oor die probleme daaraan verbonde om KI-verklikkers te gebruik wanneer hulle nie 100% akkuraat is nie (Senekal 2025a, 2025b, 2026). Kortom kan dit gebeur dat ’n KI-verklikker teks verkeerd klassifiseer, en aangesien KI-verklikkers ’n waarskynlikheid aanbied eerder as ’n bewys ("these features cannot always be easily described in human terms" (Naddaf en Van Noorden 2026:809)), kan dit moeilik wees om die waarskynlikheid te staaf. Een van die duidelikste bewyse van die onbetroubaarheid van KI-verklikkers is die feit dat die Amerikaanse Onafhanklikheidsverklaring al herhaaldelik as KI-geskrewe gemerk is. Nature het byvoorbeeld hul eie toets met verskillende KI-verklikkers gedoen wat aangedui het dat tussen 95% en 100% van hierdie verklaring – wat in 1776 opgestel is – KI-geskep is (McKie 2026:536).
Rossouw noem tereg dat Pangram tans die akkuraatste KI-verklikker is. Pangram is so bevind in ’n studie wat die maatskappy op hul webwerf lys wat Pangram met GPTZero, Copyleaks, en Turnitin vergelyk het (Van Vlasselaer, Van Droogenbroeck en Spruyt 2026). Pangram se akkuraatheid is ook uitgelig in ’n ander studie wat ek kon opspoor (Jabarian en Imas 2025). Onthou egter dat die skepping van mensagtige teks deur KI en die herkenning daarvan as sodanig ’n wapenresies is (Naddaf en Van Noorden 2026:809), en die voordeel skuif tussen skepping en herkenning binne ’n venster van weke of maande, nie jare nie. Naddaf en Van Noorden (2026:809) skryf dat KI-verklikkers soos Pangram onlangs baie verbeter het, maar waarsku: "[T]hey still sometimes make mistakes, so the tools can be used only as starting points for investigation." In ’n nie-ewekniebeoordeelde studie het Kiskis en Krilavicius (2026) Pangram se beweerde akkuraatheid uitmekaar getrek en hul bemarking in sterk bewoorde terme as "evidently misleading and likely unlawful" afgemaak. Almal se ervaring met Pangram was met ander woorde nie positief nie, alhoewel die maatskappy ’n reputasie opgebou het dat hulle akkurater as hul voorgangers is.
’n Verdere probleem is die grys areas. Natuurlik is dit oneties om ’n hele publikasie met KI te skryf en dit dan as jou eie werk aan te bied, maar die meeste vaktydskrifte laat KI-steun in die vorm van teksredigeringstake toe (Senekal 2025b). Trouens, KI-hulp word soms gesien as die beste praktyk as dit by die redigering van tekste en die duidelike oordrag van inligting kom (Naddaf en Van Noorden 2026:810). Volgens Naddaf en Van Noorden maak Pangram op hierdie terrein groot foute deur ligte teksredigering met behulp van KI as geheel en al deur KI geskryf te klassifiseer. Die voorbeelde wat hulle in hierdie verband bespreek is vir my ’n reuse rooi lig wat my huiwerig sou maak om mense op grond van hierdie gereedskap van die onetiese gebruik van KI te beskuldig. Die studie wat deur Pangram self aangehaal word as bewys van hoe akkuraat hierdie gereedskap is, beveel trouens aan: "Findings show that while detection tools can provide useful initial flags, they should not be used as sole evidence in high-stakes decision-making but should be implemented in a broader evaluation strategy" (Van Vlasselaer, Van Droogenbroeck en Spruyt 2026:1).
Omdat KI-verklikkers nie op sigself voldoende is nie, is Rossouw se ander voorstelle om uit die konteks die onetiese gebruik van KI te identifiseer, belangrik. Die beste idee wat Rossouw hier het, is om voorleggings met skrywers se publikasiegeskiedenisse te vergelyk, want dit behoort reeds afwykings uit te wys. Wanneer ’n akademikus skielik meer produktief word, of skielik buite sy veld begin publiseer, kan dit ’n eerste aanduiding van KI-gebruik wees. Dalk kan ’n mens selfs ’n lys van vorige publikasies saam met manuskripvoorleggings aanvra? Of dalk kan ’n mens selfs KI inspan om te kyk of ’n manuskripvoorlegging afwyk van ’n akademikus se bestaande publikasiepatroon?
Wanneer dit kom by die bewys van die onetiese gebruik van KI, is daar verder die moontlikheid om na te gaan watter bronne in die bronnelys werklik bestaan (Bryant 2026:4; Topaz, Roguin, Gupta, Zhang en Peltonen 2026:1779). Ek het onlangs ’n span skrywers so uitgevang met ’n artikelvoorlegging waar meer as die helfte van die bronne in die bronnelys nie bestaan het nie. Sover ek kan sien, is dit tans die enigste ondubbelsinnige en onweerlegbare bewys van die onetiese gebruik van KI, want niks behalwe KI-hallusinasies verklaar waarom so baie van hierdie bronne nie bestaan nie. Boonop dui KI-hallusinasies onteenseglik op die skepping van teks sonder menslike toesig, én boonop is dit nie ’n toelaatbare gebruik van KI wat as iets meer ingrypends en oneties voorkom nie – die gebruik van KI sonder mensetoesig is altyd oneties. Topaz e.a. (2026) beklemtoon dat hierdie simptoom van die onetiese gebruik van KI die wese van die wetenskap aantas en beveel aan dat uitgewers geoutomatiseerde metodes gebruik om verwysings te kontroleer en ook terugwerkend vorige publikasies te ondersoek. Ek wil ’n verdere voorstel maak: Die outomatiese herkenning van gehallusineerde bronne kan ’n eenvoudige, bewysbare en effektiewe manier bied om die onetiese gebruik van KI by manuskripvoorlegging te identifiseer op so ’n manier dat ’n werklike probleem geteiken word en boonop sonder dat onskuldige skrywers benadeel kan word. Skrywers wat artikels voorgelê of gepubliseer het waarin gehallusineerde bronne voorkom, se name kan dan op ’n openbare register aangebring word sonder vrees vir die onbillike skending van mense se reputasies, omdat hulle werklik skuldig is aan akademiese misdrywe. (Ek sou egter ’n regsopinie inwin voor ek so ’n lys van name bekendmaak.) Vaktydskrifte soos LitNet Akademies sal in elk geval intern so ’n lys van ongewenste skrywers kan byhou. Ongelukkig werk so ’n benadering net vir akademiese publikasies met bronnelyste.
Slot
Benewens KI-verklikkers se welbekende tekortkominge beantwoord hierdie tegnologie uiteindelik ook nie die vraag wat ons wil beantwoord nie, naamlik of die geskrewe teks die gedagtes van die skrywer verteenwoordig en of dit blote masjienvervaardigde teks is. Daar is ’n groot onderskeid tussen die twee, en dit is iets wat ons nie uit die oog moet verloor en onsself blind staar in die oppervlak nie. Bygesê, die integriteit van die wetenskap (en ander velde) is op die spel, en daarom is dit noodsaaklik dat die onetiese gebruik van KI bekamp moet word.
Daar is belowende tegnologie op die horison. IdeaLens beloof om idees, nie alleen oppervlakkige teks nie, as KI- of mensgeskep te kan uitken (Brainard 2026; Gibney 2026b). Dit spreek dus tot meer fundamentele vrae as slegs sinsformulering, en identifiseer waar die gedagtes agter die teks vandaan kom. Verder is daar die belofte van watermerke, wat beteken dat ’n onsigbare kode deur woordkeuses in die teks ingebed word. Google het reeds sedert 2024 ’n watermerk ingebou in hul KI-geskepte teks (Gibney 2024), en sedert Augustus vanjaar implementeer Anthropic ook ’n watermerk (Gibney 2026a). Ek is huiwerig om té opgewonde te raak oor sulke verbeterings voor hulle deeglik getoets is, omdat ek al baie sagteware getoets het wat "100%" werk en dan in die praktyk teleurstel, maar dit is goed om daarvan kennis te neem dat oplossings buite die wapenresiessiklus ondersoek word.
Bibliografie
Brainard, J. 2026. Did an AI or a human write that paper? New detector decides by examining its ideas. https://www.science.org/content/article/did-ai-or-human-write-paper-new-detector-decides-examining-its-ideas (21 Oktober 2026 geraadpleeg).
Bryant, A. 2026. AI and academic publishing. Informatics, 13(7):113. DOI: 10.3390/informatics13070113.
Gibney, E. 2024. Google unveils invisible “watermark” for AI-generated text. Nature, 634(8036):1027–8. DOI: 10.1038/d41586-024-03462-7.
—. 2026a. Can Anthropic's invisible watermarks curb “AI slop”? Researchers remain sceptical, Nature. DOI: 10.1038/d41586-026-02503-7.
—. 2026b. Is this idea from AI or humans? A detector claims it can tell, Nature. DOI: 10.1038/d41586-026-03247-0.
Jabarian, B en A Imas. 2025. Artificial writing and automated detection. Cambridge, MA: National Bureau of Economic Research. DOI: 10.3386/w34223.
Kiskis, M en T Krilavicius. 202. Is Pangram the new Theranos? Pangram V4 misrepresents classification as certainty of provenance. SSRN. DOI: 10.2139/ssrn.7532918.
McKie, A. 2026. Universities are relying on AI-detection software to catch cheating. How well do the programs work? Nature, 655(8122):535–7. DOI: 10.1038/d41586-026-01358-2.
Naddaf, M en R van Noorden. 2026. AI-detection tools have made huge leaps forward — how good are they? Nature, 656(8129):808–11. DOI: 10.1038/d41586-026-02569-3.
Rossouw, J. 2026. Ons kort ’n register van skaamte vir dié wat met KI skryf. https://www.netwerk24.com/stemme/menings/johann-rossouw-ons-kort-n-register-van-skaamte-vir-die-wat-skryf-met-ki-20261016-0927 (21 Oktober 2026 geraadpleeg).
Senekal, BA. 2025a. Hoe herken jy KI-geskepte teks? https://www.litnet.co.za/hoe-herken-jy-ki-geskepte-teks.
—. 2025b. Skeppende KI se uitdagings en oplossings vir akademiese vaktydskrifte. https://www.litnet.co.za/skeppende-ki-se-uitdagings-en-oplossings-vir-akademiese-vaktydskrifte.
—. 2026. Gedagtes rondom die Universiteit van die Vrystaat (UV) se gewysigde KI-beleid. https://www.litnet.co.za/universiteitseminaar-gedagtes-rondom-die-universiteit-van-die-vrystaat-uv-se-gewysigde-ki-beleid.
Topaz, M, N Roguin, P Gupta, Z Zhang en L-M Peltonen. 2026. Fabricated citations: an audit across 2·5 million biomedical papers. The Lancet, 407(10541):1779–81. DOI: 10.1016/S0140-6736(26)00603-3.
Van Vlasselaer, M, F van Droogenbroeck en B Spruyt. 2026. Who wrote this? Evaluating the reliability of AI detection tools in higher education. International Journal for Educational Integrity, 22(1):16. DOI: 10.1007/s40979-026-00226-w.
Lees ook:
Universiteitseminaar: Gedagtes rondom die Universiteit van die Vrystaat (UV) se gewysigde KI-beleid
Die etiese gebruik van KI vir akademiese skryfwerk: ’n literatuuroorsig met behulp van NotebookLM
Skeppende KI se uitdagings en oplossings vir akademiese vaktydskrifte
LitNet-AfriKI-miniseminaar: Kunsmatige intelligensie as skrywer