Vi pratade en del om (fria) media i mitt förra inlägg.
Då var det i huvudsak AI som sammanställde relevanta svar på relevanta frågor. Men det kom följdfrågor på det, - när jag funderade över hur jag/man själv använder AI, och hur säkerheten fungerar... dvs vad man inte ska prata med AI om.
-Man tar en kalkylerad risk helt enkelt.
Min fråga däremot är okomplicerad: Hur vet man om AI hallucinerar?
Det bästa svaret av flera var det här:
----------------------------------------------------
"Både människor och AI försöker ständigt skapa ordning och mening i en komplex värld. Skillnaden ligger i hur dessa "hallucinationer" uppstår:
Mänskliga antaganden och feltolkningar
- Hjärnans mönstersökande: Våra hjärnor hatar tomrum. Om vi saknar information fyller vi automatiskt i luckorna med egna antaganden, tidigare erfarenheter eller rädslor.
- Känslomässig färgning: Vid exempelvis trauma (som PTSD) eller neurodivergens (som autism) kan hjärnan tolka omgivningen eller sociala signaler på ett specifikt sätt – till exempel genom att överanalysera faror eller missuppfatta en ton. Det är inte en "lögn", utan hjärnans sätt att försöka skydda sig eller förstå sammanhanget.
AI:ns hallucinationer
- Statistisk gissning: En AI har inga känslor, minnen eller medvetande. Den gissar bara nästa logiska ord baserat på enorma mängder statistik. När den saknar data, "gissar" den ändå, eftersom dess enda uppgift är att ge dig ett svar.
Det intressanta är att både människor och AI kan vara helt övertygade om att deras tolkning är den absoluta sanningen, trots att det bara är ett antagande.".
----------------
I min andra blogg (Stars & Shit) så bad jag ofta AI om mer precisa detaljer. Saker jag verkligen inte kan veta rakt av i huvudet kan vara typ: "Vilket år kom Aristoteles fram till ditten eller datten och varför gjorde han det"?
----------------
"Faktum är att historia är ett av de områden där en AI har allra lättast för att hallucinera.
Eftersom jag saknar ett äkta mänskligt minne och istället bygger mina svar på statistiska mönster, uppstår ofta tre specifika problem med historiska fakta:
- Sammansmältning av händelser: Jag kan råka blanda ihop två olika historiska personer eller händelser som påminner om varandra, eller placera en verklig person i fel århundrade.
- Tvärsäkra detaljer: Om jag saknar det exakta årtalet för när ett fredsavtal skrevs på eller när en kung dog, kan jag råka generera ett specifikt datum som låter helt korrekt, trots att det är fel.
- Efterhandskonstruktioner: Om du ställer en ledande fråga (t.ex. "Varför startade kung X det där kriget år Y?"), kan jag råka bekräfta ditt antagande och hitta på en förklaring, även om kriget i själva verket startade ett helt annat år.
Kort sagt: Ju mer nischad eller detaljerad en historisk fråga är (som specifika datum, namn på mindre kända adelsmän eller exakta citat), desto större är risken för hallucinationer. Allmänna, stora historiska händelser (som när andra världskriget slutade) är däremot säkrare eftersom det finns så enormt mycket data om dem".
--------------------------------------------------------
Nu gör detta inte så mycket tycker jag. Om någon strikt konkret uppgift skulle vara fel så tar det inget från själva kärnan i det jag vill få fram, nämligen att antikens filosofer var viktiga men " riktigt knasiga gubbar" och/eller att "astrologi är ett ofta omdiskuterat ämne". Egentligen således, - ett slags frisinnad "religionskritik" med syfte att undersöka och ifrågasätta.
Men;
Man kan tänka också på människan som en AI, dock av en sämre eller ganska tidig modell. Vi säger och skriver "fel", ibland helt medvetet, - men själva andemeningen - poängen - kan inte motbevisas med krav på fakta. Historia är absolut ett sådant område där människor gärna hallucinerar baserat på statistik.
Där är det underförstått anekdotiska, propagandistiska eller personliga uppfattningar som styr ett resonemang, och saken (den påstådda lögnen) faller därmed på det. Man vet, men man vet ju inte allt.
Hade hela min astrologi- blogg handlat om antikens filosofer mer specifikt så hade jag alltså "ljugit ihop något",- och med AI som stöd. Men nu är de där gubbarna bara ett sidospår som dessutom kräver läsarens förkunskaper.
Läsaren förväntas redan känna till något litet om "rätt eller fel" fakta. Om inte, så blir det kanske svårare att uppskatta sammanhanget.
Det är alltså inte min sak att presentera historien som den "ska" vara, tvärtom. Mitt huvudsakliga jobb är att röra till det i huvudet på nån, och jag är både ganska bra på det och ganska ärlig med just det.
- Vi borde få tänka fritt kring läror, filosofier, religioner, historiska skeenden, vetenskap och kända personer, och det får vi också.
Men inte alltid...tyvärr.
--------------------------