– Jag vill inte leva i en värld där en handfull miljardärer och megaföretag bestämmer allt vi gör. Jag vill inte leva i en värld där allt är en pengatransaktion och inget annat.
Mot den världen är vi på väg, menar Balkan. Med stormsteg. En av få aktörer som skulle kunna stoppa denna utveckling är EU. Och för ett par veckor sedan kom EU-kommissionen med sitt ”white paper”, en EU-strategi för data och artificiell intelligens, som väntas utmynna i lagförslag innan året är till ända.
– Men EU-kommissionens förslag är en total kapitulation för Silicon Valleys affärsmodell, säger Aral Balkan.
Marknad av människor
Han medger att det finns en del positiva detaljer i marginalerna. Visst, EU ställer krav på att Silicon Valley-företag ska betala skatt och följa europeiska lagar som Dataskyddsförordningen, GDPR – krav som Facebook och Google i och för sig verkar strunta i vilket ännu inte fått några konsekvenser.
Men problemet som överskuggar allt, enligt Balkan, är att EU vill skapa en inre marknad för data och artificiell intelligens, för att ta upp konkurrensen med Kina och USA. Det ord som Balkan avskyr i den meningen är ”marknad”.
När en marknad består av data som människor har skapat genom att – oftast omedvetet – lämna ifrån sig information om sina digitala liv så är det de facto en marknad av människor, menar han.
– De här företagen har så mycket information om dig, som de sätter ihop till så kallade profiler, att de kan börja simulera dig. Det ger företagen ett väldigt värdefullt redskap, för genom den här versionen av dig kan de manipulera ditt beteende.
All data som miljardtals människor producerar samlas ihop av företag som Facebook och Google i vad som kallas för serverhallar.
– Men tänk efter, vad är det egentligen som ryms i de där hallarna?, säger Balkan.
– Vi borde kalla det människofabriker.
Övervakningskapitalism
Det är framför allt kunskapen om oss människor och hur det går att tjäna pengar på oss som skapat enorma rikedomar i Silicon Valley, och som skapat några av världshistoriens mäktigaste företag. En av världens främsta experter på vårt teknologiska samhälle, Harvardprofessorn Shoshana Zuboff, kallar Silicon Valley-modellen för ”övervakningskapitalism”, och menar att det är vår tids viktigaste uppgift att bekämpa denna maktfaktor.
Det är just vad EU inte gör, menar Balkan. Istället för att försöka tävla med Facebook och Google på deras planhalva bör EU bygga ett annat system, på en solid grund av demokrati och mänskliga rättigheter.
Aral Balkan har själv skrivit ett sådant förslag, som han, själv och i samarbete med organisationer, förgäves försökt få EU att ta hänsyn till. Idag handlar EU:s strategi i princip om att låta storföretag samla in data och sedan försöka skydda medborgarna från hur företagen använder datan. Aral Balkan vill istället minimera mängden data som dessa företag tillåts samla in till i princip noll. Din information är din, och du bestämmer vem som får ta del av den.
– Om det förslaget blev lag idag skulle vi döda övervakningskapitalismen imorgon. Men så långt jag kan se finns noll politisk vilja för att göra detta.
EU gör mer mer än de flesta
Enligt Balkans förslag går det utmärkt att utveckla teknologier som ger oss i princip samma service som vi har idag, men som skyddar oss. Vi behöver bara börja ställa rätt frågor.
– Hur skulle en digital nätverksframtid se ut om vi hade individuell bestämmanderätt, om vi kunde kommunicera direkt med varandra utan att behöva gå genom mellanhänder som Facebook och Google? Hur skulle ett alternativ till ett exploaterande system som låser inne vår gemensamma kunskap se ut? Hur skulle alternativ som finansierades offentligt för det allmännas bästa se ut?
Virginia Dignum är världskänd forskare inom, data, AI och etik. Hon sitter också med i EU:s expertgrupp för artificiell intelligens, som tog fram underlag för EU-kommissionens strategi. Dignum säger inte emot huvuddragen i Aral Balkans kritik och håller i princip med om att hans förslag rent tekniskt skulle kunna genomföras inom EU, utan att hota EU:s teknologiska möjligheter.
– Men EU gör mer än något annat land eller region i världen. Vi börjar reglera nu, och hans förslag är kanske lite för ambitiösa. Det finns en växande medvetenhet kring dessa frågor men vi kan inte förändra allt på en dag, säger Dignum.
– EU kan inte vänta på att det ska hända, vi måste ta en ledande roll.
En ledande roll i vad? I vilket samhälle vill vi ha en ledande roll? Det är frågorna vi måste ställa oss, menar Aral Balkan.
– Vill Europa bli ytterligare en kapitalistisk framgångshistoria? Och jag utgår från att du hör sarkasmen här, med tanke på hur USA ser ut idag. Vill vi ha fler miljardärer, en större ojämlikhet, och att vi fortsätter göda de som överallt tjänar mest på hur internet ser ut idag, fascisterna och extremhögern? För det är det som kommer hända om EU vill spela samma spel som USA och Kina. Okej, om ni vill det, kör på det. Men det är inte framtiden jag vill ha.
