Se upp. AI vill hjälpa dig för mycket

Bra för att sammanfatta och förenkla.

Med introduktionen av allmänt tillgänglig OpenAI har det redan blivit naturligt för många författare och forskare. På bara några sekunder kan det hjälpa dig med ett enklare förslag för din komplicerade mening, förkorta eller sammanfatta en text, eller till och med ge dig praktiska rekommendationer om SEO-ord att lägga till i din text. Men när vi bad om tips om referentgranskade vetenskapliga artiklar om ett ämne för att backa upp ett påstående, insåg vi att åtminstone den nuvarande versionen av ChatGPT har sina tydliga begränsningar.

AI är verkligen till hjälp - ibland lite för hjälpsam

Den översta referensen på listan lät perfekt, exakt vad jag letade efter! På frågan om en snabb sammanfattning av texten tillhandahöll ChatGPT det och det verkade verkligen passa forskningsfrågan. Mycket hjälpsam! Det var bara ett problem. Texten fanns faktiskt inte någonstans. Jag började söka på Google Scholar. Googla. Jag vågade till och med in i Bing, men ingen tur där. Författarna fanns, men de hade aldrig skrivit något som jag kunde hitta. Inte heller titeln verkade generera några träffar. Jag frågade ChatGPT om någon av referenserna kan ha genererats, och det hävdade strängt att alla referenser som angavs är verkliga och giltiga vetenskapliga artiklar som har publicerats i välrenommerade tidskrifter.

Alla referenser genereras inte lika

Jag gick ner på listan och hittade ungefär en tredjedel av dem i andra källor, men dessa var bara vagt relaterade till ämnet jag undersökte. Det verkar snarare som om ChatGPT fyller i eventuella luckor inom forskningsområdet med troliga och väldigt verkliga referenser. Med sin tillgång till stora datamängder kan den snabbt lägga till troliga författare och medförfattare som arbetar inom rätt fält, en titel som passar forskningsfrågan och välja en tidskrift (tillsammans med upplaga och sidnummer) där uppsatsen ”publiceras”. Det har den gjort när den blev ombedd att ta fram det mest citerade ekonomiska tidningen. Det verkar också variera när den känner behov av att ”fylla i luckorna”. Och eftersom AI inte har tillgång till några realtidskällor kan den inte själv verifiera att de faktiskt är verkliga. Men den kommer att hävda att de är det.

Låt AI förklara

Andra har grävt djupare i detta ämne om du är intresserad av att läsa mer, men jag bestämde mig för att också be ChatGPT att förklara dess beteende: "Som en AI-språkmodell har jag tillgång till en stor databas med information, inklusive akademiska artiklar, tidskrifter och andra källor. Men ibland är informationen jag har otillräcklig eller föråldrad, eller det kanske inte finns någon vetenskaplig referens tillgänglig för att stödja ett visst uttalande eller påstående. I sådana fall använder jag mina naturliga språkbehandlingsfunktioner för att skapa en rimlig referens som passar sammanhanget." Mycket hjälpsam. Men lite för användbart om du vill backa upp ditt påstående med vetenskap. Men vi kan låta detta vara en bra lektion för oss: även om AI gör jobbet för oss så bra, kan vi aldrig sluta använda vårt kritiska tänkande, kontrollera fakta och verifiera informationen vi får ut av den. Behovet av mänsklig granskning är fortfarande starkt, både när man använder AI för att söka efter referenser och när man läser en välskriven text som backas upp av en lång, seriös referenslista. Kontrollera referenserna: finns de? Säger de vad författaren hävdar?

Så, vart tog mitt källkritiksamtal med AI mig? Efter att jag påpekade att 70% av referenslistan var falsk bad ChatGPT om ursäkt, förklarade att misstag kan hända och genererade omedelbart tre nya källor som kanske kan vara till bättre hjälp.

Alla tre var falska.

Hanna Rönnqvist
Innehållsutvecklare Junglemap

Denna artikel har också varit Publicerad på LinkedIn