Miksi on paljon todennäköisempää kuulla “algoritmisesta vinoumasta” kuin “algoritmisesta rasismista” tai “algoritmisesta seksismistä” jopa silloinkin kun me tarkoitamme jälkimmäisiä? “Bias” on viimeisin kappale edelleen avautuvassa sosiaalipsykologian historiassa, joka on kamppaillut vastatakseen kysymykseen miksi rasismi ja muut alistavat järjestelmät ovat edelleen olemassa. Viimeaikaisessa historiallisessa katsauksessa tähän diskurssiin Dovidio et. al. (2010) kuvaavat sitä miten termi “bias” syntyy akateemisesta kirjallisuudesta. He aloittavat Walter Lippmannista, joka kirjassaan Public Opinion (1922), popularisoi termin “stereotyyppi” sen modernissa merkityksessä tarkoittamaan henkilön mielipidettä ryhmästä ihmisiä.
Tarkastelemalla sitä miten Lippmannin “stereotyyppi” otetaan teoreettisena terminä sosiaalipsykologiassa, joka johtaa nykyaikaisiin teorioihin “biasista”, me voimme paremmin ymmärtää termin “bias” käytön rajoitteita nykypäivän keskusteluissa algoritmien haitoista. Koska sekä “stereotyppi” että “bias” ovat teorioita yksilöllisestä havainnoinnista, keskustelumme eivät tarpeeksi priorisoi rakentamiemme teknologioiden systeemisten haittojen nimeämistä ja paikallistamista. Kun me lakkaamme ylikäyttämästä sanaa “bias”, me alamme käyttää kieltä joka on suunniteltu teoretisoimaan rakenteellisen alistamisen tasolla, sekä haitan laajuuden identifioinnin suhteen että sen kuka sitä kokee.
Kun me lakkaamme ylikäyttämästä sanaa “bias”, me alamme käyttää kieltä joka on suunniteltu teoretisoimaan rakenteellisen alistamisen tasolla.
Ymmärtääkseen yhteiskunnallisten jakautumisten syitä hänen aikansa yhteiskunnassa, Lippmannin piti tarjota selitys sille miksi henkilöt pitivät kiinni kokonaisia ryhmiä koskevista yleistyksistä, jopa silloinkin kun ne olivat haitallisia yhteiskunnalliselle harmonialle. Hän selkeästi kritisoi stereotyyppejä, ja määritteli ne “vääristyneeksi kuvaksi henkilön mielessä, joka ei perustu henkilökohtaiseen kokemukseen, vaan joka on johdettu kulttuurillisesti.” Hänen konseptinsa pysyy uskollisesti sosiaalipsykologian, journalismin ja politiikan tieteen kirjallisuuden lainauksissa, erityisesti koska nämä alat vastaavat moniin yhteiskunnallisiin ongelmiin ajan mittaan. Kirjassa The Nature of Prejudice (1945), sosiaalipsykologi Gordon Allport kuuluisalla tavalla esittää, että meillä on stereotyyppejä joilla ratinalisoida käyttäytymistämme jotain kohtaan tietyssä kategoriassa. Eräs määritelmä nykyajan psykologian kirjallisuudessa kuuluu, että stereotyypit ovat vaikutelmia jotka jäävät muuttumattomiksi, jopa silloin kun uutta relevanttia informaatiota johtopäätökselle esitettäisiin.
Nykyään sosiaalisen ja kognitiivisen psykologian kirjallisuudessa bias kuvataan joksikin joka on implisiittinen ja väistämätön ajatusprosesseillemme meidän kategorisoidessa ympärillä olevaa maailmaamme. Stereotyyppi, täten, on perustavanlaatuinen komponentti sosiaalipsykologian pyrkimyksessä teoretisoida sitä miksi ihmiset käyttäytyvät kaikenlaisilla tavoilla, jotka sallivat yhteiskunnallisten hierarkioiden pysyä.
Ottaen huomioon tämän historian, kun me sanomme “algoritmi on biasoitunut”, me jollain tavalla kohtelemme algoritmia kuin se olisi viallinen yksilö, sen sijaan että se olisi institutionaalinen voima. Kehityksessä “stereotyypista” “biasiin” me kätevästi olemme tiputtaneet “stereotyypin” negatiivisen konnotaation Lippmannin alkuperäisestä määritelmästä. Me olemme pitäneet tallessa konseptin pakoon pääsemättömästä mentalisoivasta prosessista yksilön kokemuksen merkityksenannon prosessissa, erityisesti kun kohtaamme pelkoa tai epävarmuutta — kuitenkin algoritmit toimivat instituutioiden tasolla. Algoritmeja otetaan käyttöön kouluissa, yrityksissä ja valtioissa teknologian mukana, ja ne vaikuttavat yhteiskunnallisiin, poliittisiin ja taloudellisiin järjestelmiimme. Käyttämällä vinoutumisen kieltä me saatamme päätyä keskittymään liikaa yksilön aikeisiin, sen sijaan että me keskittyisimme niiden instituutioiden rakenteelliseen valtaan jossa ne toimivat.
Käyttämällä vinoutumisen kieltä me saatamme päätyä keskittymään liikaa teknologiankäyttäjien aikeisiin, sen sijaan että me keskittyisimme niiden instituutioiden rakenteelliseen valtaan jossa ne toimivat.
Itse asiassa Lippmann tunnustaa, että stereotyypit ovat “kulttuurista johdettuja”, mutta hän ei sitoudu todella teoretisoimaan kulttuurin ja instituutioiden roolista, vankasti pitäen analyysinsä tason henkilön havainnoissa. On mahdollista nähdä miten “bias” kärsii samanlaisesta teoreettisesta vajauksesta kuin, esimerkiksi, yritettäessä identifioida “algoritmien rotuvinoumaa”. Vuonna 1967, Kwame Ture (Stokely Carmichael) ja Charles V. Hamilton ottivat käyttöön termin “institutionaalinen rasismi” viittaamaan hyväksyttyihin status quon yhteiskunnallisiin ja poliittisiin instituutioihin, jotka tuottavat rodullisesti hajanaisia tuloksia. Jos algoritmit toimivat instituutioiden tasolla, silloin ne pakottavat institutionaalisen rasismin politiikkaa rakenteellisesti rasistisessa yhteiskunnassa.
Kuten Camara Phyllis Jones esittää, rotua tulisi käsitellä viitekehyksessä, jossa on mikro- (yksilöllinen), meso- (institutionaalinen) ja makro- (systeeminen) analyysitaso. Bias terminä sekoittaa enemmän kuin selittää, koska me emme ole yhtä kiinnostuneita kaikista vinoumista samoista syistä. Me erityisesti emme kiinnostu algoritmisen vinouman purkamisesta, joka jatkaa haitantekoa niille jotka kuuluvat yhteen tai useampaan historiallisesti alistettuun yhteiskunnan identiteettiryhmään.
Kun me käytämme “vinoumaa” algoritmien aikaansaamista eriarvoisuuksista puhumiseen, me olemme, niinkuin Lippmann, sitomassa analyysimme yksilötasolle — mutta “bias”-teoriat yksin eivät auta meitä kritisoimaan laajemmin sosio-teknisiä systeemejä. Mahdollisesti koska me vaadimme käyttää biasia lähtökohtana teknologiakriittisissä keskusteluissa, me olemme olleet hitaita hyväksymään Safiya Noblemin määritelmää “alistamisesta” teknologioiden vaikutuksesta. Mitä tapahtuisi jos me lainaisimme Kwame Turea ja Charles V. Hamiltonia yhtä uskollisesti kuin me teemme Walter Lippmannin kanssa teoreettisten viitekehyksien rakentamisessa?
Vain siirtymä institutionaalisesti keskittyneeseen kieleen tekee tilaa systeemikritiikille, sallii meidän nähdä selkeämmin se mikä on vaarassa kun me puhumme tulevista meidän rakentamien teknologioiden riskeistä, sekä identifioida ketkä erityisesti kokevat haitallisia jälkiseuraamuksia teknologiasta, huolimatta siitä miten hyvää tarkoittavia transhumanistit ovat. Ja kun me selkeästi nimeämme ongelman, ainoastaan silloin voimme me pitää niitä vastuussa ongelman ratkaisemiseksi.
Kinjal Dave on Media Manipulation Initiativen analyytikko Data & Societyssa.
Lähde: points.datasociety.net