Terminator and me - några tankar efter Future of Democracy

Förra veckan tillbringade jag två dagar på Future of Democracy, en konferens ute på Lindholmen Science Park i Göteborg. Jag fick lyssna till mycket intressanta presentationer, intervjuer och deltog i samtal kring runda bord med andra deltagare. Egentligen är jag lite skeptisk till konferenser i allmänhet, men det här var riktigt upplyftande. Och det säger jag inte bara för att jag sitter i styrgruppen för Medier och Demokrati, som står bakom konferensen. Jag hade uppriktigt sagt riktigt intressanta diskussioner och utbyten av perspektiv. Det piggar upp!

Fokus låg på AI, teknikutveckling och demokrati, både på möjligheter och hot. Här är några reflektioner som kom fram efter lyssnande och pratande.

1. Det är något lurt om man inte kan berätta vad man gör! I diskussioner om AI och ny teknik uppstår alltid frågan om relationen till användarna. Skandaler kopplat till sociala medieplattformar handlar ofta om att data samlats in utan att man berättar vad den ska användas till. Samma fråga, men ur en liten annan synvinkel, kommer upp  då AI-baserade system mer och mer liknar mänsklig interaktion. Ta exempelvis robotjournalistik som är under snabb utveckling. Allt fler texter skrivs av robotjournalister, men det är knappast något som redaktionerna skyltar med. Min misstanke är att man är rädd att det kan skrämma publiken om de får veta att det inte är en journalist av kött och blod som skrivit texten. Men jag tror journalistiken måste vara transparent här. Den dag det avslöjas att robotjournalister skriver många av texterna i tidningen kommer många att reagera. Det är troligen en pedagogisk poäng att inte vänta för länge så att backlashen blir mildare. Det handlar trots allt om förtroende, kan man inte berätta vad man gör då gör man något skumt. Om jag får säga emot mig själv så verkar människor gärna lita på tekniken, åtminstone om man ska tro mina bordsgrannar på konferensen. Trots att människor som testar självkörande bilar får information att de inte kan överlåta allt till maskinerna gör det ändå och låter AI:n sköta allt. Så kanske rycker vi bara på axlarna när vi ställs inför fullbordat faktum att de flesta nyheter i en framtid produceras av robotar?

2. Varför använder vi saker vi inte litar på? Både medieforskare och journalister kopplar ofta samman förtroende och mediekvalitet. Det ses ofta som självklart att det är tillgång för medier att ha högt förtroende. Alla medier som hamnar högt i förtroendebarometrar håller också gärna fram att journalistiken är i förtroendebranschen. Men denna sanning har också ifrågasatts. "Vi är inte i förtroendebranschen, vi är i sanningsbranschen", lär Jan Helin ha sagt en gång. Det viktigaste är att stå på sanningens sida, inte i alla lägen bry sig om förtroendet. Inte minst lyfts detta i relation till alternativa nyhetssajter, där allsidigheten är mycket begränsad, hårdvinklingarna är legio och sanningshalten ibland är tveksam. De hängivna läsarna har dock ett mycket högt förtroende för dessa medier, trots deras bristande kvalitet, vilket ju beror på att alternativmedier bekräftar deras världsbild. Världen presenteras så som man vill ha den och då rusar förtroendesiffrorna. Traditionella medier ska då istället syssla med sanningen och allsidigheten oavsett vad publiken tycker. Men är det så enkelt? För frågan är ju om medier har någon publik utan förtroende. Utan publik så har man ingen journalistik heller och vem ska då ska ta fram sanningen? Men vad som ytterligare komplicerar bilden är att vi vänder oss till saker som vi inte har högt förtroende för. De allra flesta klickar på appen till Aftonbladet eller Expressen när det händer något, trots att dessa medier alltid hamnar långt ner i förtroendemätningarna. Varför gör man då det? Rimligen för att vi vet att Aftonbladet och Expressen är snabbast med det senaste. Kvällspressen är ofta kritiserad, men är snabbt på plats när något händer. Där finns det ändå tydligen någon sorts förtroende, trots att siffrorna på detsamma ofta ligger i botten. Sammantaget behöver vi nog dyka djupare i frågan om förtroendets och trovärdighetens mekanismer i relation till hur vi söker information och använder oss av medier. Man ska ju inte heller glömma att en stor del av vår nyhetskonsumtion inte handlar om att leta information utan att bli underhållna. Då spelar kanske inte alltid trovärdigheten så stor roll.

3. Alla vill oss inte väl. Det finns gott om dystopier kopplat till teknisk utveckling, inte minst AI. Skynet i Terminator eller maskinvärlden i Matrix är bara två av de många populärvetenskapliga sammanhang där tekniken inte självklart är våra vänner. Vi bygger aningslöst något som vi bara ser möjligheterna med, men det slutar med att blir ett monster som förgör oss alla. Detta är en närmast arketyp i hur teknik framställs i populärkulturen. Nu kan man givetvis ha farhåor om att AI tar över och ersätter människan. Men om det finns faror är det nog snarast människan själv som är farligast. Tekniken är vare sig god eller ond, utan det handlar om vad vi gör med den. Teknik kan göra gott och den kan göra ont. Skillnaden mellan förr i tiden och dagens samhälle är att skalan på det som utvecklas är globalt. Förr kunde en innovation tas fram och testas ganska långsamt, spridas i maklig takt över världen och både de som höll på med teknisk utveckling och de som skulle besluta om tillämpningar (dvs. politiker) hann med att reflektera och kanske även bygga system för att hindra de värsta avarterna av innovation. Men idag går det så hisnande fort att ingen verkar hänga med. Och vem ska då försöka se till att inte utvecklingen går överstyr eller blir utom all kontroll. Många pekar på att de stora techföretagen har skaffat sig en global makt som i sig är en fara. De styrs av sin egen logik, långt borta från medborgarkontroll. Frågan är bara om det går att få tillbaka kontrollen. Organisationsforskning brukar ibland påpeka att företag inte är demokratiska till sin natur, utan mer av en diktatur. Frågan är vad det betyder för "demokratins framtid". Lägg därtill att staten, både i demokratiska och odemokratiska länder blivit allt skickligare på att kontrollera medborgarna. Det senare är det som jag kanske oroar mig mest för och vi måste bygga system på alla samhällsnivåer som klarar av att hantera att staten inte är god. Vi måste vara misstänksamma mot all maktkoncentration, både privat och offentligt. Och ska något riggas så måste det riggas så att vi begränsar makt, i alla dess former. Då kanske vissa hjul inte kommer rulla lika snabbt. Men det måste det kanske vara värt. Effektivitet och demokrati går inte alltid hand i hand.