Berättelserna
Vi lever våra liv i berättelser för att ge form och mening åt tiden; den som är, den som varit och den som kommer. I ett samtal med Nina Wormbs, professor i teknikhistoria på KTH, lyfter hon just behovet av berättelser när en ny, hittills oprövad teknologi träder fram. Vi bygger vår förståelse genom hur vi pratar om teknologin, inte hur vi jobbar med den.
Varför gör vi berättelser
The best way to predict the future is to invent it.
I en förbiblinkande LinkedIn-post efterfrågas poeter i form av visionärer, människor som kan måla upp bilder av framtiden. Vi kan inte bara harva de gamla trötta berättelserna om hur teknikskiften sett ut förr i tiden. Allt är annorlunda den här gången, och därför måste också berättelserna vara nya. Vi måste ha något att sträva mot istället för att fastna i gamla farhågor.1
Berättelser är viktiga. De gör tankar och idéer synligare och mer förståeliga.2 De skapar framtiden. Som Alan Kay och XeroxPARC som fick datorn att gå från rumsstora åbäken till behändiga persondatorer. De förutsåg inte utvecklingen, de skapade den.
"High" and popular culture both – the arts and the humanities – are not only expressions but also constructions of our identity.
Joanna Bryson, på LinkedIn
Enligt Nina Wormbs lever vi samtidigt med en idé om teknikdeterminism - att tekniken är den förändringskraft som utvecklar samhället och att tekniken i någon mån är autonom, att den utvecklar sig själv. Hittills har det inte varit sant, påpekar hon, det är människan som skapar tekniken och som fattar beslut om vilken teknik som ska få spridning. Det finns en vilja bakom utvecklingen - en berättelse om en möjlig framtid.
Samtalet om visionerna
Eftersom berättelserna är så kraftfulla måste man ta dem på allvar. Titta på dem, prata om dem, umgås med dem. Utforska dem riktigt ordentligt. För berättelser är både synliggörare och bedragare. De utelämnar det som inte passar, förskönar det fula (eller förfular det sköna, beroende på) och konstruerar samband som kanske inte finns (eller slätar över förutsägbara konsekvenser).
I samtalet kan man låta bländande visioner möta den komplexa verkligheten. Den tröga, oförutsägbara3 och svårstyrda värld där vi levande finns, med alla våra opraktiska och påtagliga önskningar, behov, rädslor och förhoppningar4. Som regleras av de där tråkiga, begränsande fysiken-lagarna.
Om man vill.
Men det är ju inte säkert att man gör.
Varför är samtalet så svårt?
Visioner är härliga.5 Det är lustfyllt att måla upp bilder av hur världen skulle kunna vara.6 Allt är så möjligt. Man kan välja och välja bort. Föreställa sig hur utvecklingen kommer att se ut och hur vi människor kommer att fungera i det nya samhället, alldeles oberoende av hur det faktiskt är.
Den som ifrågasätter en vision kommer utan tvekan att belysa problem och prata om oönskade konsekvenser. Den kommer med mörker och skuggor och tyngd. Det är inte upplyftande. I bästa fall är det fördjupande. Ofta känns det bara trist. Gruskorn i den vita snön.
Dessutom värderar vi både möjligheter, risker och relevans mycket olika. Det som för den ena är centrala frågor kan för den andra te sig som fjuttigheter. Vi har olika uppfattningar om vilka potentiella konsekvenser som är troliga och vilka vi har ansvar för. Eller om det som är problem idag verkligen kommer att vara ett problem imorgon, eller om det är barnsjukdomar som kommer att växa bort. Till exempel.
Det är helt enkelt svårt att mötas, lätt att avfärda varandras perspektiv.
Varför är det viktigt?
Om man utgår från att teknik är skapad av människor7, kommer det att spela roll vilka det är som skapar och hur de ser på världen. Deras berättelser och visioner kommer att påverka hur tekniken utvecklas och vilka användningsområden den får.
Vi kan välja hur vi förhåller oss till berättelserna och i förlängningen till tekniken. Vi kan lyfta fram det som har hamnat i skuggan, fördjupa bilden och vidga perspektivet. Fundera på vad vi håller med om och vad vi inte tror på. Prata om möjligheter och svårigheter utifrån verkligheten som vi uppfattar den. Fundera på vad vi vill och värderar.
Jag kan börja. Jag tror till exempel att:
Världen är komplex, människan värdefull (och allt annat liv också förstås) och att vi har ett ansvar mot varandra.8
Världen inte kan beskrivas i form av datapunkter - hur finkornigt man än mäter kommer aspekter att missas.9
Optimering kan vara bra för flertalet - men mycket dålig för undantagen. Och att vi alla är undantag i något sammanhang.
Sannolikhetsbaserad AI-teknologi leder till att svansar och ytterligheter prioriteras ner och rensas bort - och att det i slutändan leder till ett alltmer generiskt och utslätat samhälle.10
Sannolikhetsbaserad teknologi oundvikligen leder till en andel felaktiga resultat - och att det potentiellt är livsfarligt. Om det inte upptäcks, vilket är krångligt och kostsamt.
Det är viktigt att träna på att tänka - ensam och med andra
Egen kunskap är förutsättningen för omdöme och kritiskt tänkande
Det är alldeles för roligt att tänka och skapa för att det ska vara värt att lämna över det till en yttre aktör11
Eller så kan vi anpassa vår verklighet till andras visioner - men det brukar verkligen aldrig sluta bra.
Risken med poeter
I den där LinkedIn-posten jag inte hittar igen sågs ett potentiellt område för poeter - de kan skapa visioner!
Tyvärr är poeter och författare notoriskt svårstyrda. Risken är stor att de inte alls är intresserade av att skapa glänsande visioner.
Läs till exempel författaren Melanie Dusseaus underhållande text om AI-motstånd. HON kommer inte att stå i kö för att skriva visioner om AI-samhället.
Feeling a little sweaty about the huge energy suckage AI draws from the grid and the monopolistic maneuvers of a handful of software companies? We are allowed to object based on the values of environmental stewardship, condemnation of rogue capitalism and disdain for the mustache-twirling villainy of big tech’s global politics.
Eller Abhijit Mahabals genomgång av Chat-GPT:s skönlitterära begränsningar.
If learning about the world is difficult for a large language model — for all the aforementioned reasons — then the creation of a consistent alternate world is even more challenging. If the creation of one alternate world is challenging, then the creation of several alternate worlds interacting with each other is exponentially harder. Add to this the need to gradually reveal these new worlds to the reader, keeping track of what they know thus far in the story, and we face something Herculean. Yet, it is this Herculean feat that authors of good fiction routinely carry out.
Eller så kan man roas av Chuck Wendigs tankar om oundvikligheten hos generativ AI. (Han tycker inte att det är oundvikligt. Och läs hela texten.)
They are taking on the inevitability of Gen AI sure as a broken-hulled boat takes on water — but that boat doesn’t have to sink, and nor does AI have to be inevitable. I do think it is inevitable that Moneyed Interests will continue to push AI as a catch-all solution to problems that don’t exist, and they won’t just let that bone go — but I do think, just like crypto and NFTs and what-have-you, that the actual value of Gen AI and the inclusion of Gen AI is far, far from confirmed prophecy.
Chuck Wendig, Generative A.I. For Writers: An Unfolding (But Not Inevitable) Nightmare!
Man ska helt enkelt inte hoppas för mycket på att poeter och författare målar upp ens visioner. De har egna berättelser att berätta. Läsvärda berättelser.
Tack för att du läser! Dela och tipsa gärna om du tycker om det jag skriver!
Jag håller föredrag och samtal om AI och kommer gärna till ditt företag eller organisation. Kontakta mig om du vill veta mer.
Irriterande nog hittar jag den inte igen - det här blir ur minnet. Se det som en illustration.
I en studie såg man hur afantasi, oförmåga att skapa inre bilder, påverkade både minne och förmåga att förutse framtiden. Personer med högre grad av afantasi har också svårare både att minnas personliga händelser och utveckla idéer om framtiden.
Jag håller ju inte med Ilya Sutskever om att man kan förutsäga framtiden bara man har tillräckligt med data att utgå från.
Lite beroende på livsform förstås. En del har nog mer behov mer än de har förhoppningar. Men jag ville inte utelämna.
Skräckscenarier också, på ett lite annat sätt.
Det är en stark drivkraft i skönlitterärt skrivande. Man har sån MAKT. Vad som helst kan hända, var, när och hur som helst. Du bestämmer till och med hur dina karaktärer ska agera och reagera på det du utsätter dem för. Ibland får jag till och med lite dåligt samvete, hur kan jag GÖRA så här elakt tänker jag.
Det gör jag, och jag tror att det dröjer innan AI börjar utveckla sig själv. Eller så hoppas jag på det.
Här är typiskt en sån vision jag tänker man skulle vilja ha specificerad. Vad menar jag med komplex? Människan är värdefull hurdå? Vadå allt liv? Är inte det här ungefär lika innehållslöst som att säga att fred och lycka är bra? Vilka konsekvenser tänker jag att det här påståendet skulle få? Och då skulle jag svara att jag jättegärna pratar vidare om det, men att jag bara kände att det var viktigt att säga. Att jag upplever att det kan vara lite lätt att glömma bort att vi har en hel massa människor (och annat liv) här på jorden, och att jag vill påminna om det. Men det kanske vi kan ta någon annan gång?
“Silence and contemplation are the enemies of the digitisation and datafication of everything” Amanda Lagerkvist
Det osannolika glöms bort över tid när AI tränas på AI-genererat material: “Thus, ‘model collapse’ according to Shumailov et al. is a ‘degenerative learning process where models start forgetting improbable events over time, as the model becomes poisoned with its own projection of reality’” (Reference Shumailov, Shumaylov, Zhao, Gal, Papernot and Anderson2023, 2).
Jag kommer att komma på SÅ många fler saker jag tror. Men jag börjar så här.