Varför har AI ibland fel, och hur vet du när du kan lita på det?

Det finns något du måste förstå innan du börjar använda AI på allvar.

Det kallas för "hallucination" på engelska. AI:n hittar på saker. Inte alltid, inte ens ofta, men det händer. Och det som gör det knepigt är att du inte kan höra på tonen när det händer. AI:n låter lika övertygande när den har fel som när den har rätt.

Du vet den typen: han har alltid ett svar. Direkt. Utan tvekan. Det spelar ingen roll om du frågar om bästa vägen till Sundsvall, hur länge man ska grilla kycklingen eller vad som händer om man blandar paracetamol och ibuprofen.

Han svarar alltid. Ibland stämmer det. Ibland är det rent uppdiktat. Men rösten, rösten är alltid lika säker.

Det är exakt hur AI fungerar.

AI är tränad på att ge ett svar som låter rimligt. Inte ett svar som är rätt. Det är en stor skillnad. Och den berättar inte när den är osäker, om du inte frågar.

Enkelt förklarat: AI förutspår vilket ord som troligtvis kommer näst, baserat på allt det läst. Det är inte en databas med fakta. Det är ett mönstermatchningsprogram som är extremt bra på att låta kunnigt.

Om du frågar om en lag, ett läkemedel eller en historisk händelse, kan AI:n ge ett svar som låter perfekt men som råkar vara en blandning av rätt och fel, paketerat i en professionell mening.

Det är enkelt. Du behöver inte bli paranoid. Du behöver bara en tumregel:

Hjälp med att formulera, skriva, förstå, brainstorma? Lita på AI:n.

Beslut som har konsekvenser, som medicin, juridik, ekonomi, viktiga fakta? Kolla en annan källa.

Det är det.

Be AI:n hjälpa dig skriva ett mejl till chefen. Bra. Be AI:n berätta exakt vilka biverkningar ett läkemedel har och om det är säkert att ta det ikväll. Det är ett tillfälle att kolla 1177 i stället.

Moderna versioner av ChatGPT, Claude och liknande är faktiskt ganska bra på att säga saker som "jag är inte säker på det" eller "detta stämde vid min senaste uppdatering, kontrollera gärna". Det händer inte alltid, men det händer mer och mer.

Du kan även fråga AI:n: "Hur säker är du på det här?" Det ger ofta ett ärligare svar.

AI är ett fantastiskt verktyg. Det kan spara dig massor av tid och hjälpa dig med saker du aldrig trodde du skulle klara av.

Men det är ett verktyg, inte ett orakel. Och som med alla verktyg gäller det att veta vad det är bra på och vad man aldrig ska använda det till.

Nu när du vet det: häng kvar. I nästa lektion pratar vi om varför hela världen verkar satsa på AI just nu, och varför det faktiskt inte handlar om hype.