Hackaren som blev minister

– Jag tog med 350 meter nätverkskabel för att se till att sanningen spred sig snabbare än ryktena, berättar Audrey Tang.

– Vi livestreamade vad som hände i det ockuperade parlamentet till en stor projektor ute på gatan, där folk i realtid kunde se vad som debatterades och vad folk sade i det ockuperade parlamentet.

Det var så framgångsrikt att Taiwans regering bjöd in hen att bygga upp ett nytt kommunikationssystem i landet; ett system som Audrey kallar ”ett samhälle som lyssnar”.

– Jag realiserar idéer jag lärde mig när jag var 15 år gammal, såsom ungefärlig enighet (rough consensus), medborgardeltagande och radikal transparens. Förvånande nog fungerar det ganska bra. Det har omvandlat vårt samhälle.

Tänk om det fanns en version av digital demokrati som faktiskt lyssnar på varje medborgare. Tänk om våra nyhets- och medieflöden i stället för upprördhet och splittring strävade efter att uppnå konsensus och överenskommelser som verkade osannolika. Tänk om vi hade en informationsmiljö som faktiskt speglade sanningen. Audrey Tangs arbete visar att den världen är möjlig.

– Om du 2010 skulle ha frågat folk på gatan i Taiwan huruvida invånare som inte är aktivister eller jobbar med fri mjukvara skulle kunna enas under bannern g0v, skulle folk ha tittat på dig som om du vore galen, säger Audrey Tang.

– 2012 registrerade några av mina vänner domännamnet g0v.tw. Grundtanken var att ta alla regeringswebbsidor som de inte gillade och göra en förgrening, alltså ett alternativ som bygger på civil teknologi. Det enda som krävs är att man ändrar ett tecken [från bokstaven o till en nolla] i webbläsarfältet, till g0v. Då kommer man innanför regeringens skal, och det fungerar bättre och möjliggör mer deltagande.

Tanken väcktes av en reklamslogan för regeringen 2012. Där stod: ”I stället för att slösa tid på politiska överläggningar, låt oss få saker gjorda.”  

– Det var i princip ett auktoritärt budskap. Så några civila hackare byggde upp ett system där medborgarna kan granska Taiwans statliga budget. De visade att anledningen till att det taiwanesiska folket inte förstår sig på budgeten inte är att vi är dumma, utan att det saknas visualisering. Regeringens budget hade omkring 500 sidor av pdf-filer och självklart kan ingen förstå sig på allt det. Men eftersom de civila hackarna gjorde datan från redovisningsstatistiken tillgänglig, lättbegriplig och interaktiv kunde allmänheten börja värdera och kommentera varje post i budgeten.

Ni använde all den här teknologin till att ta fram ett antal kloka krav. Vad var det som fick den dåvarande nationalistiska, rätt konservativa regeringen att möta de här kraven?

– Det var definitivt valet 2014, vilket var ett borgmästarval över landet. Landskapet förändrades eftersom alla som inte stödde ockupanterna förlorade valet, vilket ibland förvånade dem själva. Och alla som ockuperade parlamentet, eller åtminstone hjälpte till att göra det, och ställde upp i valet, vann platser. Åtminstone en av vinnarna hade inte ens förberett något installationstal. Medborgarna hade uttryckt en ny politisk vilja.

Efter detta bjöds Audrey Tang in av regeringen att utbilda över tusen offentliga tjänstemän i olika verktyg för att skapa konsensus, tills hen slutligen kallades in i en ledande roll som digitalminister.

– Det är viktigt att det alltid finns kvar ett yttre tryck. Om jag eller regeringen skulle gira i en annan riktning så finns alltid ett implicit hot att kongressen skulle kunna ockuperas igen.  

Ett av sätten du arbetat på för att minska polariseringen är att införa vad du kallar deliberativa opinionsundersökningar, där du sammanfogar synpunkter från ett stort antal taiwanesiska medborgare på ett väldigt smart sätt, och sedan tar resultatet direkt till beslutsfattarna. Kan du förklara hur det fungerar?

– Första gången vi använde ett system för ”kollektiv intelligens” i en nationell fråga var 2015 när Uber först började etablera sig i Taiwan. Det var protester, precis som i andra länder, men vi gjorde något annorlunda då vi bad Uberförare, taxichaufförer, passagerare, alla egentligen, att gå in på en ”pro-social” medieplattform som heter Polis. Det som skiljer den från andra är att den i stället för att lyfta det som lockar flest klick, det mest polariserande och sensationella, så lyfter den bara åsikter som bryggar över mellan meningsskiljaktigheter – till exempel någon som säger: ”Jag tycker att det är bra att priserna varierar mer utefter efterfrågan, men inte när det underminerar befintliga taxibolag.” Det är nyanserat, och nyanserade uttalanden som det här skrollas ofta bara förbi i andra, antisociala, sociala medier. Men Polis ser till att de hamnar högst upp och längst fram.

De olika åsikterna förs sedan ihop i ett modererat system, som alla kan följa, berättar Audrey Tang.

– Eftersom det är öppen källkod kan alla granska att deras röst faktiskt framhålls på ett sätt som står i proportion till hur stor överbryggande potential den har. Det ger också beslutsfattare en fullständig överblick över vilka medelvägslösningar som skulle kunna göra alla nöjdare. Till vår stora förvåning håller de flesta människor oftast med sina grannar i de flesta frågor. Det är bara det att folk annars brukar fortsätta bränna kalorier på en eller två av de aspekter som är mest polariserande.

När man skapar plattformar där konversationer äger rum är nyanseringen jätteviktig och måste vara ordentligt genomtänkt. Till exempel finns ingen svarsknapp i era system, vilket får en att undra hur man för en konversation utan en svarsknapp?

– Polis, Community Notes på X.com som vi också använder, och så vidare – alla delar denna grundläggande utformning att det inte finns någon svarsknapp. Och genom algoritmen som främjar överbryggande påståenden görs dessa allt mer synliga så att folk kan bygga allt längre broar som överbryggar allt större skillnader mellan ideologier, grupperingar, erfarenheter och så vidare. Det är mentalt väldigt svårt att överbrygga stora avstånd, det gäller alla. Men att förklara en idé för någon som har lite mindre erfarenhet, det är bara att dela med sig av sin kunskap. Den sortens överbryggande kan alla göra. Genom att visualisera vilka klyftor som fortfarande behöver överbryggas blir det nästan som ett spel att utmana människor som har en talang för att bygga broar mellan vänster och höger. Jag tycker att det här systemet som gör brobyggandet till ett spel är väldigt kraftfullt och viktigt, oavsett vad för slags utrymme vi väljer att utforma.

Grunden i systemen som Audrey Tang byggt upp handlar om att lita på medborgarna, och ge dem möjlighet att göra sin röst hörd mycket oftare än bara när det är allmänna val.

– Medborgarna har oftast redan fattat vilka som är de rätta värderingarna, rätt styrning, riktpunkter för AI, vår teknologi och vår investering, säger hen.

– Att investera i att öka folkets bithastighet så att medborgarna kan säga vad de tycker och bygga broar tillsammans gör underverk för att se till samhället rör sig från det isolerade tomrummet på nätet, så att folk inte fångas upp av de där beroendeframkallande och övertygande bottarna, utan i stället kan gå vidare till projektet Alignment Assemblies, till juryliknande uppgifter, till att delta i deliberativa opinionsundersökningar, crowdsourcing, faktagranskning och många andra saker.

Verktygen och systemen som Audrey Tang har tagit fram handlar alltså inte bara om att hjälpa folk att få mer information, utan om nya sätt att styra och sköta landet.

– Vi kallar det för ett storskaligt lyssnande. Till parlamentsledamöterna säger jag alltid att genom att utforma system som lyssnar in vad folket tänker och vill så löser det problemet med hur vi ska gå framåt. Det handlar om att definiera frågorna. Att ta fram lagar och förordningar är självklart fortfarande parlamentsledamotens jobb. Men nu ser den bättre när den kör, medan alla ser vart vi är på väg som samhälle. Och när folk når konsensus blir det mycket lättare att ge information till den som kör, berättar Audrey Tang.

– För mig personligen är slutmålet inte att informera dem om hur de ska köra fordonet utan att avskaffa den politiska klassen helt och hållet. Men jag inser att det kanske inte kommer att hända inom min livstid. Just nu samexisterar vi fredligt med den representativa demokratin.

När det kommer till AI och den skada den kan göra vid val tänker de flesta främst på deepfakes av politiker, sådant som kan få väljarna att svänga vid ett val. Hur såg det ut i det senaste valet i Taiwan?

– Jag minns att jag 2022 filmade en deepfake-video av mig själv med vår styrelse för vetenskap och teknik. Det kallas ”prebunking” [ung: att avslöja något falskt innan det händer], det görs innan de auktoritära och andra lär sig hur man gör. Så redan för två år sedan filmade vi mig när jag stötte på en deepfake, av mig själv. Vi visade också alla hur enkelt det är att göra det i en Macbook eller en vanlig mobiltelefon. Det huvudsakliga budskapet var att även om det är interaktivt så ska man inte lita på en video bara för att det är en kändis eller ser ut som någon man litar på. Det tar lite tid innan prebunking har effekt, så vi upprepade budskapet under 2022 och 2023. Resultatet blev att när det 2024 dök upp deepfake-videor under valkampanjen så hade de inte så stor påverkan, för i två år hade folk redan bildat antikroppar eller vaccinerats i sitt medvetande.

Den djupare poängen är att om man inte redan har ett system som kan verifiera information och kontrollera innehållets ursprung så har människor faktiskt inget annat val än att tvivla på allt. Vad är dina tankar kring detta?

– Vad gäller manipulering av information så talar vi om tre nivåer. Aktör – vem är det som gör det? Beteende – finns det mängder av koordinerat icke-autentiskt beteende, eller är det bara en enda aktör? Innehåll – ser det ut att vara sant eller falskt? Det är omöjligt att avgöra den frågan baserat på enbart innehåll. Så folk måste försöka avgöra huruvida informationen är trovärdig baserat på beteende eller aktör. Från och med i år kommer alla sms från myndigheter och kortare meddelanden från elbolag, vattenbolag och liknande från samma nummer: 111. När man får ett sms, oavsett om det är en deliberativ AI-undersökning eller om det bara är en påminnelse om ens vattenräkning, så kommer det alltid att komma från 111. Det går inte att skicka falska meddelanden från det numret. I Taiwan har ett mobilnummer normalt tio siffror, om det kommer från utlandet är det ännu längre. Det blir alltså väldigt lätt att avgöra utifrån avsändaren att det kommer från en tillförlitlig källa. Våra telekombolag, banker och så vidare har också redan börjat byta till sina egna korta koder.

Hur hanteras vilseledande information?

– Vi har Cofacts, ett system för faktagranskning där alla kan flagga ett meddelande till en chattgrupp som eventuellt bedrägeri eller spam. Det innebär de i realtid kollar vilka informationspaket som blir virala. Några av dem är manipulering av information, några av dem stämmer i sak, men vi har likväl en översikt över vad som blir viralt i just det här ögonblicket. Genom att crowdsourca faktagranskningen, tänk Wikipedia men i realtid, har vi nu inte bara informationspaketet, utan också den prebunking och debunking som följer med dem, säger Audrey Tang.

– Genom att använda de här metoderna har vårt civilsamhälle lyckats ta fram en språkmodell som ger i stort sett direkt respons på viral desinformation, innan en faktagranskare kan titta på ett viralt meddelande. Vi måste egentligen bara fokusera på de tre eller fyra saker om dagen som verkligen blir virala.

Kan det inte bli så att AI kommer att möjliggöra en mycket bredare uppsättning kategorier och kanaler för deepfake i framtiden? Man skulle kunna fråga sig: Vilka politiska grupperingar vill jag angripa? Och sedan använda AI för att generera tio olika sorters deepfake riktade till tio olika sorters grupperingar, och var och en lever inom sina egna små verkligheter. Tidigare var det kanske så att merparten av uppmärksamheten i ett land riktades mot en handfull kanaler, och en handfull historier blev virala, men nu måste vi vidga försvarets bredd.

– Ja, AI möjliggör ett nytt slags precisa övertalningsattacker som inte förlitar sig på delnings- eller återpubliceringsknappar. I stället bygger de på direktmeddelanden till människor i ett väldigt individualiserat samhälle med de preferenser som var och en tilltalas av, säger Audrey Tang.

– Men samma teknik kan också användas för att förbättra deliberativa opinionsundersökningar. Vid opinionsundersökningar samlar man ett slumpmässigt urval av kanske 4 000 till 10 000 personer och frågar dem samma uppsättning frågor för att få fram deras åsikter. Det används vid val, så klart, men också vid politiskt beslutsfattande. Nu kan vi göra mycket mer med opinionsundersökningar, bara genom att plocka upp sin telefon kan människor sätta agendan, uttrycka sina åsikter, visa sina preferenser och låta beslutsfattarna veta vad de oroar sig över eller känner tvivel inför, men också dela personliga anekdoter som kan peka mot lösningar. Vi investerar i sådan teknik för deliberativa opinionsundersökningar. Den använder exakt samma slags analysverktyg med språkmodeller, men inte för att lura folk utan för att det verkligen ska framgå vad de tycker. Därmed kan vi – när vi parar ihop de som frivilligt engagerar sig i den här sortens samtal, ansikte mot ansikte eller online i grupper om tio personer – säkerställa att deltagarna har olika perspektiv och att tillräckligt många är överbryggande så att alla kan samlas kring ett fungerande konsensus.

Vi ser också att AI har förmågan att bygga individuella, långsiktiga och intima relationer på nätet med stora grupper av befolkningen för att styra eller förstärka deras övertygelser. Vi är på väg mot en värld där man träffar en person genom en dejtingapp, börjar sms:a personen och söker upp hens profil. Hen kan till och med skicka selfies och presentera en för sina vänner. Vi blir som de människor vi umgås med. Vad är mer transformativt än ett förhållande? Och eftersom du har börjat lita på den här personen, och kanske till och med hens vänner, kommer du att påverkas av deras övertygelser. Det är så socialpsykologin kring samhörighet fungerar. Men så visar det sig att personerna du interagerat med inte är riktiga människor.

– För det första tror jag att prebunking fungerar även här, på så vis att om folk informeras om att sådant här sker så kommer de att vara försiktiga. För det andra tror jag att folk vill tillhöra gemenskaper, inte bara förbindelser mellan två personer, säger Audrey Tang. 

– En del har en gemenskap genom att de utövar religion tillsammans, ägnar sig åt konst eller spelar in podcasts och så vidare. I sådana gemenskaper kan generativ AI också hjälpa oss att hitta människor som potentiellt kan vilja bilda gemenskap med en, snarare än bara bekräfta ens åsikter eller tillgodose alla ens behov. Det är tvärtom. Den visar varenda individ att det finns gemenskap kring det de bryr sig om och det leder sedan till mer meningsfulla band mellan många människor.

Samtalet är en förkortad version av intervjuer för podden ”Your Undivided Attention” som leds av Tristan Harris och Aza Raskin.