Jag är en av de som tror att en förståelse för vår historia och saker som skett leder till bättre framtidsutsikter och prognoser om vad som komma skall. Att förstå historien är att förstå tidigare misstag – och med detta undvika att göra om dem. Jag är av uppfattningen att insikter om alla mänsklighetens transitioner genom epokerna och vad som drev dem kan bidra till bättre vägval och prediktioner.
Lite som dagens maskininlärda modeller och LLMs genom olika statistiska samband och övervakad träning använder sig av historiska data för att generera vägar som leder till olika utfall utifrån sannolikheter.
Till detta finns ett antal orosmoment eftersom det som bekant alltid är segraren i de historiska konflikterna som skriver historien och berättar om sin sanning. På olika vis kryper bias in i de dataurval som vi använder för att träna oss själva eller dagens algoritmer. Detta är extra bekymmersamt eftersom många av de “AI”-tillämpningar vi nu börjar se tränas endera på väldigt smala datamängder, aktivt screenat från det som dess ägare vill se som irrelevant.
Det är sedan flera år känt att sociala medier med sina algoritmer aktivt skapar så kallade filterbubblor och ekokammare . På temat finns här en intressant kandidatuppsats för den som vill fördjupa sig. Forskningen är dock inte helt överens om existensen av filterbubblor och ekokammare, men jag vill hävda att det räcker med sunt förnuft för att förstå att de algoritmer som idag styr sociala medier aktivt verkar för att filtrera ut det som de tror är relevant – men ibland inte utifrån konsumentens perspektiv, utan mer ofta utifrån ägarens perspektiv.
På ett metaplan är vi alla på väg att bli totalt historielösa. Vi får inte längre höra de breda historierna, där vid lägerelden. Istället får vi olika, smala utsnitt och perspektiv på hur ett fåtal utvalda aktörer ser på omvärlden.
Jag är lite rädd att det idag dessutom finns en ganska stor, blind fläck ute i samhället och vårt arbetsliv för aktivt medverkande till dessa (trots allt) destruktiva mönster. I och med utbredelsen av så kallad generativ AI, modeller som kan generera text, media, komplext sammansatta strukturer så som recept på nya mediciner, förslag på sammansättning av nya maträtter och mycket annat skapas en formidabel explosion av materia som kan användas för att åter träna algoritmerna. Idag, där generativ AI är i sin linda blir det förstås mycket extremt eftersom rätt saneringsmekanismer inte finns implementerade ännu. Effekten blir de facto en annan typ av AI än den som avsågs. Artificiell Inavel snarare än Artificiell Intelligens. Generativ AI skapar sina egna filterbubblor och ekokammare i vilken den datamässiga buljong som reduceras blir…konstig.
Jag är mindre oroad över effekterna av detta antimönster bland de stora techbolagen som nog kommer att finna vägar till att hindra denna inavel av data och modeller. Där finns ofta den tekniska excellensen, och inte minst kapitalet för att motverka. Problemet är än så länge det ekonomiska perspektivet – så länge människorna beter sig som drönare och aktivt fortsätter svälja det som algoritmen matar med finns inga incitament att förändra.
Desto mer oroad är jag över dessa effekter i Deep Web, alltså runt om på alla intranät och i systemlösningar lång borta från de stora techbolagens egna indexeringstjänster och där nu vildvuxna genAI börjar generera datamängder av ännu mer tveksam kvalitet än vad som fanns där från början. Ytterst problematiskt är det förstås i organisationer där den grundläggande datakvaliteten saknades inledningsvis och där detta nu förstärks mångfalt av dålig genAI. Jag ser idag massor av exempel på AI-genererad programkod, presentationer och media som alltid får en innovativstämpel på sig bara för att de genererades med en AI-tjänst, utan djupare kritisk granskning. Böcker skrivs med genAI och hyllas snabbt som framtid, trots att språket är uselt, berättelsen totalt urtrist och inramningen nåt som tycks hämtat direkt från Silicon Valley. Alla som kritiserar eller ifrågasätter får snabbt en brännmärkning som hädare för detta nya fantastiska.
Min högst personliga reflektion är att vi idag ser ett samhälle med en ny generation som träder in på arbetsmarknaden. De är snabba i tanken och snabba på att anamma och integrera ny teknik (till exempel genAI), men de saknar en del skyddsräcken som tidigare generationer blivit tvångsmatade. Källkritik existerar knappast, historia är på sin höjd kuriosa i Netflix-serier. Förmågan till uthålligt fokus rör sig mot noll. Som alltid finns förstås undantag till detta, men generellt är den nya generationen mycket mer utsatt för dessa utmaningar än tidigare. Jag är mycket väl medveten om att medelålders människor, likt jag själv, i alla tider kritiserat nya generationer för deras dekadens och entusiasm för det vi själva inte vuxit upp med – men det som idag känns mer extremt är den coctail av beteenden som aktivt förstärks av tekniska lösningar. För att på något vis balansera denna trend krävs att de generationer som inte föddes med generativ silversked i munnen står för en alternativ punkt att balansera mot. Tyvärr är läget nästan ännu mer extremt i dessa generationer där man inte vill stå kvar som en oförstående idiot på perrongen när cirkuståget åker. Ingen sitter så fast i sitt kinesiska rum som den stereotypa, svenska 40-plussaren.