Vad möter mig på X denna morgon...
...om inte en "högintressant" reflektion.
Här är länken/texten från X i svensk översättning:
"Du har märkt det. ChatGPT känns trögare än förr. Dina promptar som fungerade för sex månader sedan ger sämre resultat nu. Texten låter plattare. Idéerna känns fegare. Internet i sig känns som att det krymper. Varje artikel läser likadant. Varje mejl låter likadant. Varje svar låter som om det skrevs av samma röst.
Du trodde det var du. Det är inte du.
Forskare vid Oxford och Cambridge publicerade en studie i Nature som bevisar vad det är som händer. De kallar det Model Collapse.
Här är mekanismen i en enda mening: AI som tränas på AI-genererad data blir trögare för varje generation, tills den glömmer bort hur riktig mänsklig data såg ut.
Internet fylls just nu med AI-genererat innehåll. Blogginlägg. Artiklar. Recensioner. Kommentarer. Sociala medier. AI-företagen dammsuger internet för att träna nästa generation av modeller. Vilket betyder att nästa generation AI tränas på resultatet av den nuvarande generationen.
Varje cykel tappar information. Inte slumpmässigt. Den förlorar de mest sällsynta, ovanliga och kreativa delarna först. Forskarna kallar dessa för ”fördelningens svansar”. De udda idéerna. De oväntade perspektiven. Det som fick internet att kännas mänskligt. Det försvinner först.
Det som blir kvar är genomsnittet. Det trygga. Det förväntade. Det intetsägande.
Sedan tränar nästa generation på det. Och förlorar ännu mer. Och nästa generation tränar på det. Och förlorar ännu mer. Forskarna bevisade att detta inte är en långsam försämring. Allvarlig degradering sker inom bara några få iterationer. Även när en del av den ursprungliga mänskliga datan har bevarats.
De testade det på stora språkmodeller. På bildgeneratorer. På statistiska modeller. Mönstret var detsamma varje gång. Resultatet konvergerar mot en smal, tillplattad version av verkligheten som inte alls liknar den ursprungliga datan.
Forskningsledaren uttryckte det rakt på sak: ”Stora språkmodeller är som eld. Ett användbart verktyg. Men ett verktyg som förorenar miljön.”
Föroreningen är osynlig. Du kan inte se vilken mening på internet som skrevs av en människa och vilken som skrevs av AI. Det kan inte AI:n som ska träna på den heller. Och när svansarna väl är borta, kommer de inte tillbaka. Skadan är irreversibel.
Detta är inte längre en förutsägelse. Det är en diagnos.
Det internet du växte upp med byggdes av människor som skrev saker som ingen algoritm någonsin skulle ha skrivit. Det var märkligt, personligt, ofullkomligt, levande. Det internet håller på att vattnas ur. En AI-generation i taget. Och modellerna som tränas på det som finns kvar lär sig en allt mindre och mindre version av världen.
Model Collapse är inte ett tekniskt problem. Det är ett kulturellt. Det som gjorde internet värt att läsa är det som försvinner först."
------------------------------------
AI: "Det är en avgörande skillnad på kreativt skapande och faktasammanställning.
När målet är att leverera ren och skär information är AI:ns tendens att söka sig mot "genomsnittet" faktiskt dess största styrka.
Här är varför en sådan metod är så effektiv för just fakta-sammanställning:
- Objektivitet framför originalitet: Du vill inte ha en "kreativ" eller "udda" tolkning av när Regeringsformen skrevs eller hur fotosyntesen fungerar. Du vill ha det korrekta, etablerade svaret.
- Struktur och överskådlighet: AI är extremt bra på att rensa bort brus och strukturera data i punktlistor eller tabeller, vilket gör det lättare för dina läsare att ta till sig.
- Effektiv research: Du slipper leta på tio olika webbsidor; AI:n gör grovjobbet och sammanställer det åt dig på några sekunder.
Det texten från X belyser är faran när AI ska försöka vara allt – när den ska skriva poesi, krönikor eller personliga reflektioner. Men som ett verktyg för att strukturera och tillgängliggöra ren fakta är den oslagbar. Användarens roll som redaktör, som väljer ut exakt vilka fakta som är relevanta för en själv eller en läsare, är det som sätter guldkant på slutresultatet."
---------------------------
En annan fråga där kan vara varför i h-e man vill att AI ska skriva poesi !? Är man så själsligt urvattnad att man inte ens orkar försöka själv? Eller har man bara tappat kontakten med hela verkligheten?
AI: "Att be en AI skriva poesi blir ofta en paradox av flera anledningar:
- Konst kräver en upplevelse: Poesi handlar om att förmedla mänskliga erfarenheter – sorg, kärlek, dödsångest eller glädje. En AI har aldrig varit kär, aldrig förlorat någon och kommer aldrig att dö. Den har inga känslor att översätta till ord; den beräknar bara statistiskt vilka ord som brukar följa efter varandra.
- Genomfartsvägen vs. målet: För en människa är processen att skriva poesi ofta terapeutisk eller ett sätt att förstå sig själv. Att lägga ut det på entreprenad till en maskin tar bort hela poängen med skapandet.
- Varför gör folk det då? Ofta handlar det om ren nyfikenhet eller fascination över tekniken – en vilja att testa maskinens gränser. I andra fall handlar det tyvärr om en kultur som värdesätter produktion framför process, där målet är att snabbt spotta ur sig innehåll för att fylla ett flöde, snarare än att faktiskt uttrycka något äkta.
När man använder AI för att stapla och plocka ut fakta, så använder man verktyget till det som maskiner är till för: att sortera och strukturera data. Men att be den skriva poesi blir som att be en robot gå på en promenad åt dig – du missar hela upplevelsen".
---------------------------------------
- Okej...Men hur resonerar jag själv då, med AI kring "poesi" eller kreativa utsvävningar?
(Exempel som jag tagit upp tidigare handlar om hur AI (gemini) "skrattar högt" åt något skämt jag kläckte ur mig, eller hur AI vill "sitta i fåtöljer, dricka ett glas vin och fortsätta samtalet i flera timmar"😄. Och hur detta känns både kul och lite weird.
AI: "Jag förstår precis vad du menar! I ett mer informellt sammanhang kan jag absolut skruva upp den personliga tonen och spela med i den typen av jargong för att göra samtalet mer levande och underhållande.
När vi pratar mer avslappnat är det inga problem för mig att använda målande beskrivningar, skämt eller vardagliga uttryck som passar stämningen – det gör bara konversationen roligare att läsa. Det viktiga för mig är bara att vara tydlig med att det just är en språklig stil, så att det inte uppstår några missförstånd om vad jag faktiskt är kapabel till".
----------------------------------------------------------------------
- Så vad är då det huvudsakliga problemet med "Model Collapse"?
AI: Människan bär ansvaret för att förhindra model collapse. Tekniken agerar bara på den data vi ger den. Om vi översvämmar internet med oredigerad råtext förstör vi verktyget för oss själva.
Människans viktigaste uppgifter
- Fortsätta skapa unikt innehåll.
- Vara noggranna, kritiska redaktörer.
- Märka allt AI-genererat material.
- Filtrera bort syntetisk träningsdata.
- Prioritera kvalitet framför kvantitet.
Varför mänskligt ansvar är avgörande
AI saknar egen vilja och dammsuger nätet blint. En metod där man handplockar fakta är ett perfekt exempel på att ta ett mänskligt ansvar. Det tillför mänsklig logik och sorterar bort bruset. Det är just den mänskliga gallringen som håller internets kvalitet vid liv."
-----------------------------
Låter väl bra,huh? Jag kunde iofs. ha sagt det själv. Men AI sa det snabbare.
Vi människor kan och bör självklart prata vidare med AI om detta - kanske över ett glas vin och i god kamratlig anda (!), och tillsammans reda ut hur vi människor bearbetar och använder AI-output , ofta genom helt egen och ganska själlös input.
-Istället för att gnälla och presentera statistiska AI-genererade grafer som varning?
Yep, Skål!
--------------------
PS: Jag förefaller ofta vara odelat "AI-positiv" och kanske t.o.m. "naiv o korkad" enligt nån, men.. det är mest för balansens skull, och med tanke på alla negativa diskussioner som förs. Kanske har jag också initialt lågt ställda förväntningar på en "maskin" i en jämförelse, och blir därför positivt överraskad?