Olemme kuulleet Yuval Noah Hararin varoitukset siitä, että jos emme keksi, miten tekoälyä (AI) voidaan säännellä... Ihmisen aivot hakkeroidaan pian”, lausunto, joka luultavasti kertoo ihmiskunnan pahimmista peloista tekoälyä kohtaan. Tämä voi pitää erityisesti paikkansa, kun kuulee Schwabin neuvonantajalta Hararilta, että ”ihmisen hakkerointi on oppimista tuntemaan hänet paremmin kuin hän itse tuntee”, mikä voi antaa teknologian omistajille mahdollisuuden manipuloida meitä yhä enemmän.

Saatamme uskoa, että tämä äärimmäinen uhka yksityisyydellemme tapahtuu joskus tulevaisuudessa, mutta Hararin kuvailema hakkerointi on enemmän sananlaskuista kuin kirjaimellista, ja sitä on jo tapahtunut ympäristöissä, kuten Facebook ja YouTube ...jossa meidät johdatetaan katsomaan sisältöä, jonka algoritmit ovat katsoneet meille kiinnostavaksi. Nyt näyttää siltä, ​​että monet ovat vähitellen turruttaneet sen, "hakkeroinnin" ja manipuloinnin ansiosta se voi lisääntyä ilman suurempia vastalauseita.

Mutta miltä sinusta tuntuisi, jos työpaikkasi seuraisi, miltä sinusta tuntuu? kysyy Nazanin Andalibi joka on informaatiotieteen apulaisprofessori Michiganin yliopistossa. Alla olevassa artikkelissa käsitellään tunnepohjaista tekoälyä, jota käytetään jo työpaikoilla.

Tunteiden seuranta – tekoäly työssä: työntekijät pelkäävät tulevansa tarkkailluiksi – ja väärinymmärretyiksi.

By Nazanin Andalibi

Tunne- ja tekoäly käyttötarkoituksiin biologiset signaalit kuten äänensävy, ilmeet ja puettavista laitteista saatu data sekä teksti ja se, miten ihmiset käyttävät tietokoneitaan, lupaavat havaita ja ennustaa, miltä joku tuntuu. Sitä käytetään sekä arkipäiväisissä yhteyksissä, kuten viihteessä, että tärkeissä tilanteissa, kuten työpaikalla, rekrytoinnissa ja terveydenhuollossa.

Laaja valikoima toimialoja käyttävät jo tunneälyä, mukaan lukien puhelinkeskukset, rahoitus, pankkitoiminta, hoitoala ja hoiva-ala. Yli 50 % Yhdysvaltojen suurista työnantajista käyttää tunnepohjaista tekoälyä pyrkii päättelemään työntekijöiden sisäisiä tiloja, käytäntö, joka kasvoi COVID-19-pandemian aikanaEsimerkiksi puhelinkeskukset seuraavat, mitä heidän operaattorinsa sanovat ja heidän äänensävyään.

Tutkijat ovat ilmaisseet huolensa siitä, tunne-tekoälyn tieteellinen pätevyys ja se on kiistanalaisten tunneteorioiden hyödyntäminenHe ovat myös korostaneet tunneälyn potentiaalia yksityisyyden loukkaaminen ja näytteille asettaminen rodullinen, sukupuoli ja vammaisuus puolueellisuus.

Jotkut työnantajat käyttävät teknologiaa ikään kuin se olisi virheetön, kun taas jotkut tutkijat pyrkivät vähentää sen harhaa ja parantaa sen validiteettia, kyseenalaistaa sen kokonaan tai ehdottaa tunteiden tekoälyn kieltäminenainakin siihen asti, kunnes sen vaikutuksista tiedetään enemmän.

Tutkin teknologian sosiaaliset vaikutuksetUskon, että on ratkaisevan tärkeää tutkia tunneälyn vaikutuksia sen kohteeksi joutuneisiin ihmisiin, kuten työntekijöihin – erityisesti niihin, jotka ovat syrjäytyneitä rodunsa, sukupuolensa tai vammaisuutensa vuoksi. Voiko tekoäly todella lukea tunteitasi? Ei aivan.

Työntekijöiden huolenaiheet

Ymmärtääkseen, mihin tunneälyn käyttö työpaikalla on menossa, kollegani Karen Boyd ja lähdin tutkimaan keksijöiden käsitykset tunneälyä työpaikalla. Analysoimme patenttihakemuksia, joissa ehdotettiin tunneälyteknologioita työpaikalle. Patenttihakijoiden väittämiin hyötyihin kuuluivat työntekijöiden hyvinvoinnin arviointi ja tukeminen, työpaikan turvallisuuden varmistaminen, tuottavuuden lisääminen sekä päätöksenteossa avustaminen, kuten ylennysten tekeminen, työntekijöiden irtisanominen ja tehtävien jakaminen.

Mietimme, mitä työntekijät ajattelevat näistä teknologioista. Havaittaisivatko he myös nämä hyödyt? Pitäisivätkö työntekijät esimerkiksi työnantajien tarjoamasta heille hyvinvointitukea hyödyllisenä?

Yhteistyökumppanini Shanley Corvite, Kat Roemmich, Tillie Ilana Rosenberg ja tein kyselyn, joka osittain edusti Yhdysvaltain väestöä ja osittain yliotannalla kattisi värilliset, trans- ja ei-binääriset ihmiset sekä mielenterveysongelmista kärsivät ihmiset. Nämä ryhmät saattavat todennäköisemmin kokea tunneälyn aiheuttamia haittoja. Tutkimukseemme osallistui 289 osallistujaa edustavasta otoksesta ja 106 osallistujaa yliotoksesta. Havaitsimme, että 32 % vastaajista ilmoitti kokeneensa tai odottavansa, ettei heille olisi ollut hyötyä tunneälyn tekoälyn käytöstä työpaikalla, olipa se sitten nykyistä tai odotettavissa.

Vaikka jotkut työntekijät mainitsivat tunneälyn käytön mahdolliset hyödyt työpaikalla, kuten lisääntynyt hyvinvoinnin tuki ja työpaikan turvallisuus, jotka heijastivat patenttihakemuksissa väitettyjä hyötyjä, kaikki ilmaisivat myös huolensa. He olivat huolissaan hyvinvoinnilleen ja yksityisyydelleen aiheutuvista haitoista, työsuoritukselleen ja työsuhteelleen aiheutuvista haitoista sekä heihin kohdistuvista ennakkoluuloista ja mielenterveyteen liittyvistä stigmoista.

Esimerkiksi 51 % osallistujista ilmaisi huolensa yksityisyydestä, 36 % huomautti mahdollisuudesta, että työnantajat hyväksyisivät virheellisiä päätelmiä sellaisina, ja 33 % ilmaisi huolensa siitä, että tekoälyn luomia tunteisiin perustuvia päätelmiä voitaisiin käyttää epäoikeudenmukaisten työhönottopäätösten tekemiseen.

Osallistujien äänet

Yksi osallistuja, jolla oli useita terveysongelmia, sanoi: ”Tietoisuus siitä, että minua analysoidaan, vaikuttaisi ironisesti kielteisesti mielenterveyteeni.” Tämä tarkoittaa, että vaikka tunneälyn väitetään tavoittelevan työntekijöiden hyvinvoinnin parantamista työpaikalla, sen käyttö voi johtaa päinvastaiseen vaikutukseen: hyvinvoinnin heikkenemiseen yksityisyyden menetyksen vuoksi. Itse asiassa kollegoideni Roemmichin muut työt, Florian Schaub ja ehdotan, että tekoälyn aiheuttama tunteiden yksityisyyden menetys voi ulottua monille alueille yksityisyyden loukkauksetmukaan lukien psykologinen, autonomia, taloudellinen, ihmissuhde, fyysinen ja syrjintä.

Huolenaiheista, että emotionaalinen valvonta voisi vaarantaa heidän työpaikkansa, mielenterveysongelmainen osallistuja sanoi: ”He voisivat päättää, etten enää sovi työhöni ja irtisanoa minut. Päättää, etten ole tarpeeksi kyvykäs, eivätkä anna palkankorotusta, tai ajatella, etten tee tarpeeksi töitä.”

Tutkimukseen osallistujat mainitsivat myös vallan epätasapainon mahdollisen pahenemisen ja sanoivat pelkäävänsä dynamiikkaa, joka heillä olisi työnantajien kanssa, jos tunneäly integroitaisiin heidän työpaikalleen. He viittasivat siihen, kuinka tunneälyn käyttö voisi mahdollisesti voimistaa jo olemassa olevia jännitteitä työnantajan ja työntekijän suhteessa. Esimerkiksi eräs vastaaja sanoi: "Työnantajien jo nyt työntekijöihin kohdistuvan hallinnan määrä viittaa siihen, että näiden tietojen käyttöä valvottaisiin vain vähän. Työntekijöiden 'suostumus' on tässä yhteydessä pitkälti harhakuvitelmaa." Tunneäly on vain yksi tapa, jolla yritykset valvovat työntekijöitä.

Lopuksi osallistujat mainitsivat mahdollisia haittoja, kuten tunneälyn tekniset epätarkkuudet, jotka voivat luoda vääriä vaikutelmia työntekijöistä, ja tunneälyn, joka luo ja ylläpitää työntekijöitä kohtaan tunnettua ennakkoluuloja ja leimautumista. Näitä huolenaiheita kuvaillessaan osallistujat korostivat pelkoaan siitä, että työnantajat luottavat epätarkkoihin ja puolueellisiin tunneälyjärjestelmiin, erityisesti värillisiä ihmisiä, naisia ​​ja transhenkilöitä kohtaan.

Esimerkiksi yksi osallistuja sanoi: ”Kuka päättää, mitkä ilmeet ’näyttävät väkivaltaisilta’, ja miten voi tunnistaa ihmiset uhkiksi pelkästään heidän ilmeensä perusteella? Järjestelmä voi toki lukea kasvoja, mutta ei ajatuksia. En vain ymmärrä, miten tämä voisi olla muuta kuin tuhoisaa työpaikoilla oleville vähemmistöille.”

Osallistujat huomauttivat, että he joko kieltäytyisivät työskentelemästä paikassa, joka käyttää tunneälyä – vaihtoehto, joka ei ole monien käytettävissä – tai käyttäytyisivät tavalla, joka saa tunneälyn tulkitsemaan heitä suotuisasti yksityisyytensä suojelemiseksi. Yksi osallistuja sanoi: "Käytän valtavasti energiapeitteitä jopa ollessani yksin toimistossani, mikä tekee minusta erittäin hajamielisen ja tuottamattoman", viitaten siihen, kuinka tunneälyn käyttö aiheuttaisi työntekijöille lisää emotionaalista työtä.

Vaivan arvoista?

Nämä havainnot osoittavat, että tunneäly pahentaa työntekijöiden työpaikalla kohtaamia haasteita, vaikka kannattajat väittävätkin, että tunneäly auttaa ratkaisemaan näitä ongelmia.

Vaikka tunneäly toimisikin väitetysti ja mittaisi sitä, mitä se väittää mittaavansa, ja vaikka ennakkoluuloihin liittyviin ongelmiin puututtaisiin tulevaisuudessa, työntekijät kokevat silti haittoja, kuten ylimääräistä henkistä työtä ja yksityisyyden menetystä.

Jos nämä teknologiat eivät mittaa väitteitään tai ne ovat puolueellisia, ihmiset ovat algoritmien armoilla, joita pidetään valideina ja luotettavina, vaikka ne eivät ole. Työntekijöiden olisi silti ponnisteltava vähentääkseen algoritmin väärintulkinnan riskiä tai osallistuttava tunneilmaisuihin, jotka tulkittaisiin algoritmille suotuisasti.

Joka tapauksessa nämä järjestelmät toimivat Panopticon-tyyppiset teknologiat, jotka aiheuttavat yksityisyyden suojaa haittaa ja tunteita siitä, että heitä tarkkaillaan.

Lähde: Nazanin Andalibi varten Conversation