15 mars 2017

Vilken värld vill vi bygga? – Construction bias i techvärlden

En diskussion som hörs allt oftare inom techvärlden är den kring mångfald. Vi vet sedan tidigare att mångfald hos anställda och i styrelser gör företag mer kreativa och lönsamma, men när det gäller techvärldens system- och produktutveckling finns en ännu viktigare aspekt med detta: de system som tas fram nu kommer att diktera hur välden framöver ser ut, globalt. Vilka system vi bygger, vilka yrken vi gör överflödiga, vilka produkter som tas fram bestäms av en väldigt liten del av världens befolkning, men får effekter för alla.

Det spelar roll vem som kodar

Vem det är som kodar kommer att påverka vad det är som kodas, och om den personen är ingenjör, vit och man som lever i Kalifornien (som majoriteten av utvecklarna ser ut i the Valley) kommer produkten att vara anpassad till hans önskemål och syn på världen.

Vi har sett det förr, i att exempelvis krockkuddar är utvecklade för män på 78 kilo och 180 cm och att kvinnor, barn eller män som är mindre än så löper större risk att omkomma eller skadas, eller att medicin klassiskt testas på män och därför fungerar sämre på kvinnor (som har annorlunda uppsättning vatten och fett i kroppen). Vi ser det också i vardagsdetaljerna: vilka emojis som finns, vilka Wikipedias artiklar handlar om och hur det kulturella utbudet ser ut i våra streamingtjänster.

Watson vs. Siri

Den här diskussionen är ständigt närvarande på SXSW: i frågan om vilken framtid vi skall skapa, hur framtidens företag skall se ut, hur global lagstiftning kan reglera AI och hur lagstiftningen på Mars borde byggas, till vad som händer när Googles jobbsökaralgoritmer bara visar höga och välbetalda positioner till sökare som bedöms vara män.

Varför är Siri, som är en assistent, kodad som kvinna men Watson, som är ett geni, kodad som man? Etik, mångfald, reglering och politisk inblandning i techvärldens systemutveckling lyfts på nästan alla seminarier vi varit på, men vi saknar den större diskussionen. Både här och i Sverige.

Sandra Runsten

Sandra Runsten

Se hela min profil