Når AI er for ivrig i tjenesten
For innholdsprodusenter har det blitt naturlig åfå hjelp av kunstig intelligens til å finne ideer, omformulere vanskeligesetninger og få innspill. Men vær forsiktig hvis du trenger kilder for åunderbygge en påstand eller skrive en vitenskapelig artikkel. Her får du vitehvorfor.
Nyttig til oppsummering og forenkling. Open AI harikke mange årene på baken, men er allerede blitt en selvfølge for mangeskribenter og forskere. På få sekunder kan det hjelpe deg å gjøre en komplisertsetning enklere, forkorte en tekst, eller komme med gode anbefalinger tilSEO-ord. Men da vi ville underbygge en påstand og ba om tips tilfagfellevurderte vitenskapelige artikler, oppdaget vi at den versjonen vibrukte, i hvert fall hadde sine begrensninger.
AIer hjelpsom – av og til litt for hjelpsom
Den øverste referansen på listen så perfekt ut, akkurat det jeg var uteetter! Da jeg ba ChatGPT gi et kort sammendrag, fikk jeg det, og det så ut atartikkelen passet godt til forskningsspørsmålet. Veldig nyttig! Det var bareett problem. Teksten fantes egentlig ikke noe sted. Jeg søkte på GoogleScholar. Google. Bing. Ingenting. Forfatterne fantes, men hadde aldri skrevetnoe sammen. Tittelen ga ingen treff.
Jeg spurte ChatGPT om noen av referansene kunnevære generert, og den hevdet strengt at alle referansene den oppga, var ektevitenskapelige artikler som var blitt publisert i anerkjente tidsskrifter.
Ikkealle referanser er skapt like
Jeg sjekket resten av listen. Omtrent en tredjedel av artiklene fantes,men de var bare løst knyttet til emnet jeg undersøkte. Det virker som omChatGPT fyller kunnskapshull med plausible, men oppdiktede referanser: ekteforfatternavn, passende titler, tilsynelatende troverdige tidsskrifter medutgave og sidetall. Dette har også skjedd ved forespørsler om de mest siterteøkonomi-artiklene. Og siden AI ikke har tilgang til sanntidskilder, kan denikke kontrollere at referansene faktisk finnes. Likevel påstår den det.
AIforklarer seg
Andre har gravd dypere i dette. Jeg spurte ChatGPT selv:
Som AI-språkmodell har jeg tilgang til storedatamengder, inkludert akademiske artikler og tidsskrifter. Men nårinformasjonen er utilstrekkelig eller utdatert, eller det ikke finnesvitenskapelige kilder som støtter en påstand, bruker jeg mine språklige evnertil å lage en plausibel referanse som passer konteksten.
Veldig hjelpsomt. Men litt for hjelpsomthvis du faktisk trenger vitenskapelige kilder.
Dette er en god lærdom: Selv når AI gjør jobbengodt, må vi fortsatt bruke vår kritiske sans. Vi må faktasjekke og verifisere.Menneskelig dømmekraft er fortsatt avgjørende – både når vi bruker AI tilå søke etter kilder, og når vi leser tekster med lange, imponerendereferanselister.
Sjekk referansene: Finnes de? Forteller de det somhevdes?
Hva førte min kildekritiske samtale med ChatGPTtil? Etter at jeg påpekte at 70 % av referansene var falske, ba ChatGPT omunnskyldning, forklarte at feil kan skje – og genererte tre nye forslag.
Alle tre var falske.
Hanna Rönnqvist
Content Developer, Junglemap
Denne artikkelen er også publisert på LinkedIn.
