Figurer huggna i sten på romersk triumfbåge

Vem ska utveckla utvecklarna?

Jonas Söderström

”Vem ska vakta väktarna?”
Sedan romarna hamrade fram frasen på stålblankt latin – som ”Quis custodiet ipsos custodes” – har den frågan symboliserat dilemmat hur vi ska kontrollera dem som vi gett makt att bestämma över oss.
Nu behöver den uppdateras.

De som tidigare stod i fokus för romarnas fråga var just polis och militär. Så småningom kom den att tillämpas också på politiker och ledare över huvud taget. Om vi ger dem privilegiet att bestämma över oss, hur kan vi vara säkra på att de inte missbrukar förtroendet?

De senaste åren har dock en helt ny grupp av människor – på mycket kort tid – fått en oerhörd makt över allas våra liv. Teknikens snabba utveckling har givit en helt ny klass av entreprenörer inom tech, ingenjörer, programmerare och mjukvaru-utvecklare  en makt utan motstycke över det dagliga livet för miljarder människor.

Mycket av vad de åstadkommit har varit till nytta för oss. Men gradvis börjar vi nu upptäcka ett antal obehagliga bevis på att allt de gör inte enbart är välgörande.

Ta till exempel tvålautomaten som inte vill ge tvål till färgade

Eller inpasseringssystemet som menar att en kvinna inte kan vara läkare

Visst, det är bara exempel från den triviala änden av spektrat. Buggar som kan rättas enkelt.

Men vad sägs om algoritmer som missgynnar minoritesgrupper inom rättssystemet, eller ger dem sämre möjligheter till lån eller ett jobb? Eller det robotiserade bidragssystemet som felaktigt klassar svaga grupper som bedragare?

Eller datorprogrammet som ritar om valkretsar för att hitta det mest orättvisa valresultatet – men som gynnar det styrande partiet? 

Eller taxiföretagets system för att specifikt lura trafikinspektörer?

Och då har vi inte ens pratat om ”fake news”, eller hur eller hur digitala plattformar kommit att används för att organisera etnisk rensing eller provocera fram mord och överfall

Erfarenheterna får allt fler att ifrågasätta: hur kan vi vara säkra på att denna nya klass inte missbrukar den makt de tagit sig? Eller, för att vara korrekt, som vi givit dem genom att använda deras produkter.

Det är sant att få av dessa system eller tjänster skapades med onda avsikter. De skadorna som de orsakat har, med några otäcka undantag, varit oförutsedda bieffekter.

Oförutsedda – men ingalunda oförutsägbara.

I en del fall är förklaringen förmodligen en sorts blåögd tanklöshet. Men en hel del måste bottna i ett djupare o-intresse för mänskliga förhållanden. Att det finns människor med olika hudfärg i världen är uppenbart för de flesta av oss. Att skapa en sensor som inte tar hänsyn till det speglar bara värderingarna och trångsyntheten hos konstruktören. 

Och sedan har vi förstås den rena ondskan. Som tech-entreprenören som kräver att gatorna han och andra värdefulla går på måste rensas från obehagliga, fattiga människor. Eller den öppna kvinnofientligheten.

Utan en djupare förståelse för vad det är att vara människa, kommer techindustrin att fortsätta leverera produkter som skadar eller exkluderar.

Efter två årtusenden måste frågan om vem som vaktar våra väktare, som så mycket annat, uppdateras. Det nya, avgörande dilemmat för vårt samhälle är, på latin: Quis machinabitur ipsos machinatores? 

Eller på samtida svenska: Vem ska utveckla utvecklarna?

Som John Naughton skriver i The Guardian:

Now mathematics, engineering and computer science are wonderful disciplines – intellectually demanding and fulfilling. And they are economically vital for any advanced society. But mastering them teaches students very little about society or history – or indeed about human nature. As a consequence, the new masters of our universe are people who are essentially only half-educated. They have had no exposure to the humanities or the social sciences, the academic disciplines that aim to provide some understanding of how society works, of history and of the roles that beliefs, philosophies, laws, norms, religion and customs play in the evolution of human culture.
We are now beginning to see the consequences of the dominance of this half-educated elite.


Sant: Educating the Silicon Valley elite has proved expensive, som Kara Swisher skriver i New York Times.

En huvuduppgift måste därför bli att komplettera utbildningen av ingenjörer, utvecklare, systemerare: att lära dem etik, historia, psykologi. Jag vet också att det finns de som gör det idag. (Kanske är vi bättre på detta i Sverige – jo, alla exemplen ovan är ju amerikanska.) En annan är att rekryteringen till dess utbildningar måste bli mycket bredare – för att motverka den aningslösa exklusionen.

Men det är inte bara skolor som utbildar. Medier, lagar, politiker, företag ger uttryck för värderingar som påverkar och formar oss.

Humanistiska och humanitära värderingar måste återfå en mer central plats i samhället. 

Så svaret på frågan ”Vem ska utveckla utvecklarna?” måste bli: ”Vi, alla”.

PS: Typiskt nog hittade jag frasen ”Who will engineer the engineers?” i ett skönlitterärt verk: Julian Barnes ”The noise of time” (på svenska: Tidens larm) –  en berättelse om Sovjetunionen och Stalins anspråk på att omskapa hela samhället efter ”rationella” och ”vetenskapliga” principer... Naturligtvis för det gemensamma bästa

Dagens tech-entusiaster skulle ha en del att tjäna på att studera den historien.

PPS: Eftersom vi inte har något verb ”att ingenjöra” på svenska, har jag fått använda ”att utveckla utvecklare”, trots att det kan verka peka mot bara en del av den grupp det egentligen berör.

Tack till Andrew Keen (Head of Classics, Bristol Grammar School) för hjälp med latinet, och till Roland Clare som förmedlat kontakten.

Engelsk version av denna text: Who will engineer the engineers?

Lämna en kommentar