Den fjärde industriella revolutionen, den teknologiska, är här – nu har vi chansen att bygga ett helt nytt samhälle. AI handlar inte längre om framtiden – det är nutid. Men problemen med ojämställdhet inom techsektorn finns i både den virtuella och den fysiska världen och riskerar att forma hela vår framtid.
Techbranschen är ojämställd – det vet vi. Könsskillnaderna inom AI-forskningen världen över är stora, endast 16 % inom denna grupp är kvinnor, enligt en rapport från World Economic Forum. Detta är ett stort problem eftersom det innebär att hälften av jordens befolkning knappt ens deltar i den forskning och utveckling av teknik som just nu påverkar oss alla – och som kommer att få avgörande betydelse för framtiden.
Det borde vara helt självklart att vi behöver både mångfald och jämlikhet för att återspegla hela mänskligheten i dessa beslutsprocesser. Riskerna är uppenbara: Om vi inte har flera olika perspektiv, riskerar vi att bygga in partiska och diskriminerande beteenden i algoritmerna. Det finns många exempel på det, ett av dem är det AI-verktyg för rekrytering som Amazon satsade på för ett par år sedan. Verktyget tränades på de CV:n som företaget fått in under de senaste tio åren. De flesta av dem kom från män, vilket lärde programvaran att den borde fokusera på att hitta män för positionerna. Amazon skrotade satsningen 2018.
Ett annat exempel på inbyggd diskriminering finns när det gäller ansiktsigenkänning, ett område inom AI som utvecklas snabbt. Det finns statistik som visar att träffsäkerheten är så hög som 99,97 procent under vissa förutsättningar. Men här finns stora skillnader, är du kvinna och dessutom mörkhyad sjunker träffsäkerheten avsevärt. En artikel i NY Times visar att algoritmerna i en viss mjukvara kände igen ansikten hos vita män i 99 procent av fallen. Motsvarande siffra för mörkhyade kvinnor var 65 procent.
Programvaran är inte smartare än den data som används för att träna den. Dessa exempel visar tydligt att om vi inte förändrar något så kommer vi bara att få mer av det vi redan har – det vill säga fördomar och ojämlika premisser.
Virtuella stereotyper
Tyvärr ser vi samma stereotyper i den virtuella världen som i den fysiska. De mest kända mänskliga robotarna är ”kvinnor” – Sophia av Hanson Robotics och Erica av Hiroshi Ishiguro. Sophia var med i tv-programmet 60 minutes, hon dök upp i Tonight Show med Jimmy Fallon, och gick på dejt med Will Smith. Andra, mer fysiskt starka robotar som Atlas och räddningsroboten Hermes från MIT, har också mänskliga drag, men en mer traditionellt manlig form.
Det fanns också en tid för inte så länge sedan när nästan varje chatbot på marknaden hade ett kvinnligt namn och avatar, men kunder gjorde företagen uppmärksamma på dessa könsstereotyper, och numera är det vanligare att se chatbots med könsneutrala namn och avatarer.
Vi måste komma ihåg att AI i sig varken är partisk eller opartisk – människor, å andra sidan, är väldigt partiska, både medvetet och undermedvetet. Och det är människor som väljer vad vi använder AI till, samt hur och vilka data vi använder för att träna den. I processen för att utveckla AI-lösningar måste vi därför vara noga med att få med flera olika perspektiv och utgångspunkter, för att i alla fall ha möjlighet att upptäcka potentiella källor till partiskhet.
Våra sociala föreställningar om kön riskerar att avspeglas även i AI och robotik – vi håller på att bygga in grundläggande könsskillnader där kön inte ens finns och upprätthåller på så vis våra fördomar och ojämställda strukturer.
Brist på kvinnor i den fysiska världen
Enligt en artikel i Wired, visade det sig att av de 641 personer på Google som arbetade med machine learning och AI, var bara 10 procent kvinnor. Motsvarande siffra för Facebook var 115 personer inom AI, varav 15 procent var kvinnor. Det råder ingen brist på siffror av det här slaget, det visade inte minst Allbright-rapporten från i maj, Tech lever grabbmyten, tydligt. Rapporten visar inte bara att män är överrepresenterade inom tech utan också att män ger jobb till män och inte minst – män ger riskkapital till män. Nu i oktober har ännu en rapport släppts, Pandemin backar bandet, som visar att coronakrisen har bromsat börsbolagens framsteg när det gäller jämställdhet. Det här är en oroande utveckling.
Så vad ska vi göra åt den dubbla ojämställdheten inom techbranschen? Hur får vi med kvinnorna på tåget? Och hur ser vi till att hela samhället representeras? Vi menar att tre delar är viktiga; utbildning, rekrytering och företagskultur. Det görs redan mycket för att uppmuntra unga tjejer att söka sig till tekniska utbildningar och det är förstås där det börjar. Men därefter är det vi som är chefer på techbolagen som har ett stort ansvar – både när det gäller rekrytering och företagskultur. Vi måste tvinga fram förändring tills den blir norm.
Snabbheten ett hinder
En naturlig del av tech- och startupvärlden är att utvecklingen går snabbt. Ny teknik utvecklas snabbt och för många företag är speed to market avgörande. Många techbolag växer fort, de kan gå från fem till femhundra anställda på några månader. Men snabbheten är i sig ett problem för både jämställdhet och mångfald, eftersom den riskerar att leda till slarviga rekryteringsprocesser som slutar med att kvinnor förbises till förmån för män.
Argumentet när det gäller rekrytering är ofta ”Vi anställer inte efter kön, vi anställer den bästa för jobbet.” Men eftersom kvinnor sedan länge har varit i majoriteten bland dem som tar examen från universiteten och med alla mått mätt har utmärkta kvalifikationer och meriter, så stämmer det inte riktigt att de ”bästa” anställs, utan istället de ”mest lämpliga”. Och de ”mest lämpliga” är ofta de som liknar det som redan finns, det vill säga män, och därmed sprids obalansen mellan könen. Eftersom det är enklast så. Det känns helt enkelt tryggare att anställa någon som liknar en själv, och är det bråttom är risken för att det blir så förstås ännu större.
Företagskultur som skapar möjligheter
Ojämlikhet är ett samhällsproblem, men som företag i allmänhet och techföretag i synnerhet, har vi ett tungt ansvar. Hos oss på Solita är männen fortfarande i majoritet, ur den aspekten är vi inte bäst i klassen. Men vi jobbar hårt med att förändra det – vi jobbar aktivt med jämställdhet och inkludering i stort och smått, i allt från hur vi utformar våra jobbannonser till våra långsiktiga, strategiska affärsbeslut. Vi tror stenhårt på att företagskulturen är grunden till allt och våra värderingar är inte bara tomma ord, de genomsyrar allt vi gör.
Vår kultur har ett starkt fokus på jämställdhet, mångfald och inkludering. Vi tar hänsyn till var och en på individnivå och vi siktar alltid på att bygga team med olika åsikter, åldrar, kön och bakgrunder, eftersom vi är övertygade om att innovation uppstår i diversifierade grupper. Vi vill att våra lösningar ska reflektera den moderna världen och det menar vi görs genom olika perspektiv och synpunkter. Då måste hela samhället finnas representerat.
Nu är den fjärde industriella revolutionen här och tillsammans har vi en unik chans att bygga en ny, jämställd värld. Nu är det vårt, dvs alla techbolags, ansvar att rekrytera och främja fler kvinnliga talanger inom AI och AI-forskningen. Vi måste bygga företagskulturer som tar jämställdhets- och mångfaldsfrågor på allvar. Investerare behöver stödja fler kvinnliga grundare och vi måste skapa fler bilder av AI och robotar som är fria från könsstereotyper i media.
Techbolagen har stor makt att forma vårt samhälle just nu. Att då exkludera halva mänskligheten är oacceptabelt – och rimmar dessutom illa med nytänkande och innovation.
Vill du läsa mer om hur vi på Solita resonerar kring AI? Här finns vår rapport The Impact of AI, som handlar om AI och etik och här finns våra etiska principer för hur vi arbetar med AI och machine learning.
