Wanneer AI te hard probeert te helpen

Goed om samen te vatten en te vereenvoudigen.

Met de komst van algemeen beschikbare OpenAI is het voor veel schrijvers en onderzoekers al een tweede natuur geworden. In slechts een paar seconden kan het je helpen met een eenvoudiger voorstel voor je ingewikkelde zin, een tekst inkorten of samenvatten, of zelfs handige aanbevelingen geven over SEO-woorden die je aan je tekst kunt toevoegen. Maar toen we om tips vroegen voor wetenschappelijk onderbouwde artikelen over een onderwerp om een bewering te staven, realiseerden we ons dat ten minste de huidige versie van ChatGPT duidelijke beperkingen heeft.

AI is echt nuttig — soms een beetje te nuttig

De topreferentie van de lijst klonk perfect, precies wat ik zocht! Toen hem werd gevraagd om een korte samenvatting van de samenvatting, gaf ChatGPT deze en het leek echt te passen bij de onderzoeksvraag. Heel behulpzaam! Er was maar één hik. De tekst bestond eigenlijk nergens. Ik begon te zoeken op Google Scholar. Google. Verdorie, ik waagde me zelfs aan Bing, maar geen succes. De auteurs bestonden, maar ze hadden nooit meegeschreven aan iets dat ik kon vinden. De titel leek ook geen hits te genereren. Ik vroeg ChatGPT of een van de referenties mogelijk is gegenereerd, en er werd streng beweerd dat alle referenties die ik heb verstrekt echte en geldige wetenschappelijke artikelen zijn die zijn gepubliceerd in gerenommeerde tijdschriften.

Niet alle verwijzingen worden op dezelfde manier gegenereerd

Ik heb de lijst afgezocht en ongeveer een derde ervan in andere bronnen gevonden, maar deze hadden slechts vaag verband met het onderwerp dat ik aan het onderzoeken was. Het lijkt er eerder op dat ChatGPT eventuele hiaten in het onderzoeksveld opvult met plausibele en zeer realistisch ogende referenties. Dankzij de toegang tot big datasets kan het snel plausibele auteurs en co-auteurs toevoegen die in het juiste vakgebied werken, een titel die past bij de onderzoeksvraag en een tijdschrift kiezen (samen met editie- en paginanummers) waar het artikel wordt „gepubliceerd”. Dit heeft het gedaan toen werd gevraagd om de meest geciteerde economische krant. Het lijkt ook te variëren wanneer het de behoefte voelt om „de hiaten op te vullen”. En aangezien AI geen toegang heeft tot realtime bronnen, kan het zelf niet verifiëren dat ze echt zijn. Maar het zal beweren dat ze dat wel zijn.

AI het laten uitleggen

Anderen zijn dieper op dit onderwerp ingegaan als je meer wilt lezen, maar ik heb besloten om ChatGPT ook te vragen om zijn gedrag uit te leggen: als AI-taalmodel heb ik toegang tot een uitgebreide database met informatie, waaronder wetenschappelijke artikelen, tijdschriften en andere bronnen. Soms is de informatie die ik heb echter onvoldoende of verouderd, of is er misschien geen wetenschappelijke referentie beschikbaar om een bepaalde bewering of bewering te ondersteunen. In dergelijke gevallen gebruik ik mijn natuurlijke taalverwerkingsmogelijkheden om een plausibele referentie te creëren die past bij de context. Heel behulpzaam. Maar een beetje te nuttig als je je bewering wilt onderbouwen met wetenschap. Maar we kunnen dit een goede les voor ons laten zijn: zelfs als AI het werk zo goed voor ons doet, kunnen we nooit stoppen met kritisch denken, feiten controleren en de informatie die we eruit halen verifiëren. De behoefte aan menselijk onderzoek is nog steeds groot, zowel bij het gebruik van AI om naar referenties te zoeken als bij het lezen van een goed geschreven tekst, ondersteund door een lange, serieuze referentielijst. Controleer de referenties: bestaan ze? Zeggen ze wat de auteur beweert?

Dus, waar heeft mijn gesprek over bronkritiek met AI me gebracht? Nadat ik erop had gewezen dat 70% van de referentielijst onjuist was, bood ChatGPT zijn excuses aan, legde uit dat er fouten kunnen gebeuren, en genereerde onmiddellijk drie nieuwe bronnen die misschien beter van pas zouden kunnen komen.

Alle drie waren ze nep.

Hanna Rönnqvist
Contentontwikkelaar Junglemap

Dit artikel is ook gepubliceerd op LinkedIn