Detta gäller för skolan, vården och alla andra offentliga verksamheter som underkastat sig den mätbarhetsdogm som kallas New Public Management (NPM). Det gäller i lika hög grad för penningpolitiken, vars enda mål är att kontrollera inflationen. Sättet att mäta inflation får därför enorma konsekvenser. Bostadspriser räknas exempelvis inte in, så dessa har kunnat skjuta i höjden utan att Riksbanken reagerat med höjda räntor. Resultatet blev en omfördelning av resurser till dem som redan äger.

Det var den sortens återkopplingsmekanismer som nationalekonomen Charles Goodhart pratade om för snart femtio år sedan. (Han var knappast först med sin enkla observation om mätbarhetens dilemma. Men manliga nationalekonomer är otroligt bra på att uppkalla ”lagar” efter varandra.) Nuförtiden nämns ”Goodharts lag” lika ofta i debatterna om artificiell intelligens. 

I praktiken handlar nämligen AI-utveckling mycket om att optimera mätmetoderna, ”metrics”. När vi ser algoritmerna löpa amok handlar det ofta om att de försöker optimera ett mål som mäts på tveksamma sätt.

Titta bara på Youtubes rekommendationer, de som kommer upp när en video är slut och som sätter riktningen för hur människor utforskar allt från musik till konspirationsteorier. För att erbjuda tittaren det bästa måste Youtube först ha ett mått på vad varje individ tycker är bra. Ett sätt att mäta det är hur lång tid man fortsätter glo (eller låta videon rulla i bakgrunden). Ett annat sätt är att mäta aktivt engagemang, som antal skrivna kommentarer. Två möjliga definitioner av ”bra” och det finns fler. Numera försöker Youtube även väga in parametrar som ”trovärdighet”. Men oavsett vilket mått som upphöjs till mål för en rekommendationsalgoritm så kommer det upphöra att vara ett bra mått. För då kommer allsköns propagandister genast att försöka ”gejma systemet” för maximalt genomslag. Goodharts lag definierar vår tid.