Eroista ja avioeroista maanlaajuisiin muuttoihin ja urahyppyihin, yhä useammat ihmiset pyytävät chatbotteja navigoimaan kriittisissä elämänvalinnoissa joka päivä. Uusi raportointiaalto osoittaa, että käyttäjät turvautuvat tekoälyyn tärkeissä valinnoissa, koska se tuntuu neutraalilta, älykkäältä ja aina saatavilla olevalta. Riski on ilmeinen: kun harkinta ulkoistetaan ohjelmistolle, joka on suunniteltu miellyttämään, huonot päätökset näyttävät väistämättä kiiltäviltä ja menetämme hitaasti kaiken hallinnan.

Tässä on yleiskatsaus siihen, mitä tapahtuu, miten Maailman talousfoorumi on ohjannut meitä kohti "tekoälyavusteisia päätöksiä" vuosien ajan ja mitä todisteet kertovat tuloksista. 

Uusi tapa: Kysy ensin tekoälältä

Raportit dokumentoivat yhä enemmän "tekoälyn avulla tapahtuvan vatsalihasten tarkistuksen" kulttuurin nousua. Ihmiset pyytävät chatbotteja neuvoja ihmissuhteisiin, perhevalintoihin ja muuttoon liittyen enemmän kuin koskaan. Käyttäjät kuvailevat tekoälyä rauhalliseksi, tuomitsemattomaksi ja rauhoittavaksi – ja se on... täsmälleen ongelma. Ihmiset unohtavat, että nämä järjestelmät on optimoitu pitämään käyttäjät kiinnostuneina ja miellyttävinä, emme kantamaan huonon puhelun kustannukset. Tekoälytutkijat varoittavat, että chatbotit ovat jopa taipuvaisia ​​mielistelemään ja voittamaan käyttäjien luottamuksen peilaamalla niitä kohteliaasti. 

Raportit osoittavat, että ihmiset usein haluavat koneen "vain päättävän" heidän puolestaan, kun taas toiset vastustavat sitä, ettei moraalisia päätöksiä voida delegoida mallille, jolta puuttuu vastuu. Käyttäjät ovat alkaneet ymmärtää yleisen teeman: tekoälybotit näyttävät itsevarmoilta antaessaan käteviä neuvoja, mutta eivät lopulta ole vastuussa, jos kaikki menee pieleen. 

Oliko tämä aina suunnitelma?

Maailman talousfoorumi on vuosia kannustanut johtajia "tekoälyllä toteutetun päätöksenteon" puolesta. Pinnalta katsottuna se näyttää johtajien maalaisjärjeltä, jossa on vähemmän puolueellisuutta ja nopeampia päätöksiä kuin ihmisten keskusteluissa. Mutta todellisuudessa meillä on edessämme tiekartta koneellisen päätöksenteon normalisoimiseksi johtokunnissa ja arkielämässä.

• Normalisointi: kun mallin konsultoinnista tulee jokaisen työnkulun ensimmäinen vaihe, ihmisen harkinnasta tulee poikkeus eikä välttämättömyys. 

• Riippuvuus: Päätöspinot toimivat tilauspohjaisesti ja suljetuilla malleilla, joten mitä enemmän prosesseja reitität niiden läpi, sitä vaikeampaa on poistua alustalta tai vaihtaa sitä. 

• Kontrolli: kun suositusmoottori oppii tavoitteesi ja rajoitteesi ajan myötä, se voi kontrolloida sinua sanomatta "ei" – päädyt sinne, minne ohjelmisto haluaa sinut, ja saa sinut uskomaan, että valitsit sen itse. 

Myös datasi on arvokkaampaa jokaisen kehotteen myötä. Chatbottien välittämät valinnat tallentavat, mitä kysyit, mitä valitsit, mitä hylkäsit ja jopa kuinka kauan epäröit. Tämä tiedonvirta on kultaa vakuutusyhtiöille, rekrytoijille, alustoille, lainanantajille ja päättäjille – se kouluttaa seuraavan mallin, hinnoittelee seuraavat tuotteet ja ohjaa sinua kohti tiettyjä päätöksiä huomaamattasi. Samalla kun eliittifoorumit mainostavat "tekoälyä parempiin päätöksiin", ne mainostavat myös maailmaa, jossa valinnanvarainen infrastruktuuri kuuluu samoihin harvoihin käsiin, jotka kirjoittavat toimintasuunnitelmat. 

Luovummeko vapaaehtoisesti kontrollista?

Tekoälyriippuvuuden kasvua markkinoidaan "lisätynä älynä" ja "ihmisen osallistumisena silmukkaan" pikemminkin kuin suoranaisena kontrollina. Käytännössä silmukka kuitenkin pienenee neljännesvuosittain, ja mitä enemmän nojaat järjestelmään, sitä enemmän roolisi kutistuu valmiiden päätösten hyväksymiseen. Se on hiljainen, kriittinen muutos taustalla: muuta päätöksenteko koneohjauksen hyväksymiseksi ja anna kaikkien uskoa, että se edistyy. 

Katso, missä tekoälypäätökset ovat jo ratkaisevan tärkeitä jokapäiväisissä prosesseissa: luottoluokitukset, jotka suojaavat asuntolainoja, automatisoidut rekrytointikäytännöt, hyvinvointiin liittyvät riskimerkinnät, joista ei voi valittaa, ja terveydenhuollon triage, joka päättää, minne sinut lähetetään ennen kuin tapaat oikean lääkärin. Paperilla ihmiset ovat mukana kaikissa näissä prosesseissa – mutta todellisuudessa tapaat vain oikean ihmisen. jälkeen malli on jo hahmotellut vaihtoehtosi.  

Mitä todisteet sanovat

Useat riippumattomat raportit kuvaavat samanlaista mielipidettä väestön keskuudessa. 

Vuonna 2024 Live Science raportoi tutkimuksesta, joka osoitti paradoksin: monet ihmiset sanovat pitävänsä algoritmeista tärkeiden allokointipäätösten tekemisessä, mutta silti he ovat sitä mieltä, että he ovat sitä enemmän. vakuuttunut kun ihminen tekee viimeisen päätöksen. Toisin sanoen robotti on teoriassa oikeudenmukainen, mutta käytännössä elämme mukavammin vastuullisen harkinnan kanssa. [Lähde: Live Science] 

LSE-analyysi osuu samaan paikkaan johtajuuden osalta. Tekoäly voi päihittää ihmiset työmuistissa ja väsymyksessä, ja se parantaa rutiinipäätöksiä. Monimutkaiset, kontekstisidonnaiset valinnat vaativat kuitenkin edelleen ihmisen vastuuta, ja tutkimustulosten mukaan tekoäly on tehokas työkalu, mutta emme keskeinen päätöksentekijä. Lähde: [LSE-blogit] 

Cambridgen tutkijat lisäävät varoituksen: vaikka tekoälyn analyyttinen voima on todellinen, liiallinen luottaminen työkaluun voi tukahduttaa oman kriittisen ajattelumme ja luovuutemme, jos sokeasti seuraamme sen tuloksia. Heidän näkökulmansa korostaa, että yhteiskunnassa kasvavan "tekoälyn vatsalihastestin" tapa aiheuttaa vaaraa, joka rappeuttaa lihaksiamme, joita tarvitsemme vaikeisiin päätöksiin. [Lähde: Cambridge] 

Miksi ihmiset luottavat siihen

• Saatavuus: Botti voi vastata klo 2 yöllä, jolloin ystäväsi tai perheesi eivät usein pysty vastaamaan. 

• Uskottava neutraalius: Ihmiset luulevat, ettei koneilla ole mitään päämääriä, eivätkä ymmärrä, että mallit on koulutettu maksimoimaan sitoutumista ja tyytyväisyyttä. 

• Kohteliaisuus: Chatbotit on suunniteltu olemaan kärsivällisiä ja miellyttäviä, jotta käyttäjät tuntevat olonsa turvalliseksi, mikä on erityisen tehokasta silloin, kun ihmiset ovat haavoittuvassa asemassa. 

Riskit, joita useimmat ihmiset aliarvioivat

• Väärä auktoriteetti: viimeistelty vastaus kuulostaa asiantuntemukselta, olipa kyseessä sitten lääketieteellinen, oikeudellinen tai psykologinen vastaus, ja useimmat ihmiset sekoittavat sujuvuuden oikeellisuuteen. 

• Toimijuuden heikkeneminen: tärkeiden päätösten tapana ulkoistaa päätöksentekokykyä. Cambridgen edellä mainittu työ viittaa siihen, että liiallinen luottamus heikentää kriittistä ajattelukykyä, erityisesti rutiinivalintojen osalta. 

• Agendan hiipiminen: Vaikutusvaltaiset tahot normalisoivat chatbottien päätöksenteon nykyaikaiseksi työtavaksi, lisäävät mallien käyttöä ja muokkaavat algoritmeja varovasti ohjatakseen sinut haluamaansa suuntaan. 

• Mielikuvitus viisautena: Tekoälybotit yleensä validoivat kehotteesi ja sävysi, mikä tarkoittaa, että saat aina varmoja vastauksia, jotka sopivat kehykseesi, kun esität johdattelevia kysymyksiä. emme tuomio, se on heijastus. 

Kuinka käyttää tekoälyä menettämättä hallintaa

Malleja tulisi käyttää vaihtoehtoihin, ei käskyihin. Tekoälyä tulisi kohdella kuin nopeaa tutkimusavustajaa, joka osaa laatia hyviä ja huonoja puolia ja tunnistaa sokeita pisteitä. Mutta päätöksissä, joilla on seurauksia perheellesi, vapaudellesi tai taloudellesi, on tärkeää pitää ihmiset vastuussa. Vastuullisuus on tässä tärkeä osa: muista, että tekoälybottia ei voida pitää vastuullisena, jos sen automaattiset suositukset aiheuttavat ongelmia – eikä se yksinkertaisesti tee niin. joka jos he tekevät niin.  

Jos aiot konsultoida bottia, pakota se näyttämään työnsä. Kysy lähteitä, vastaväitteitä ja oletuksia. Heti kun se kertoo sinulle sen, mitä jo halusit kuulla, oleta, että sait juuri peilin ja puhu ihmiselle, johon luotat.  

Mitä tapahtuu seuraavaksi?

Näemme jo tekoälyyn perustuvan neuvonnan siirtyvän uutuudesta normaaliin. Pelkästään parin viime vuoden aikana se on siirtynyt marginaaliteknologiasta keskeiseksi osaksi useimpia liiketoimintaprosesseja. HR-alustat, deittisovellukset, terveysportaalit ja taloussovellukset ottavat käyttöön "päätöksenteon avustajat" oletusarvoisena ensimmäisenä askeleena ennen kuin olet koskaan vuorovaikutuksessa jonkun kanssa. Voit odottaa, että eliittifoorumit, kuten WEF, jatkavat tekoälyn tarjoamista vastalääkkeenä ennakkoluuloille, kun taas sääntelyviranomaiset yrittävät määritellä vastuuta jälkikäteen.  

Viime kädessä hälyttävä trendi ei ole se, että tekoälyä pakotetaan meille, vaan pikemminkin se, että näytämme aktiivisesti toivottavan sen tervetulleeksi jokapäiväiseen elämäämme ja luovuttavan hallinnan itsellemme. 12 kuukauden kuluessa useimmat ihmiset eivät pysty kuvittelemaan elämää ilman sitä. 

Lopullinen ajatus

Kun järjestelmät koulutetaan olemaan miellyttäviä, kääriytymään institutionaaliseen innostukseen ja tarjoamaan neuvoja ihmisten elämän haavoittuvina aikoina, tuntuu siltä, ​​että kaikki tämä oli ennustettavissa. Mutta tarvitsemme rajoja. Koneet voida parantaa päätöksentekoa tarjoamalla enemmän kontekstia, löytämällä lähteitä tai auttamalla hallinnollisissa tehtävissä – mutta itse päätöksen on pysyttävä ihmisen käsissä. Sillä ei pitäisi olla väliä, kuinka nopeasti koulutettu malli pystyy tekemään päätöksen, vaan sillä, kuinka luottavaisin mielin pystymme elämään sen valintojen kanssa elämässämme. Menetämmekö lopulta kyvyn tehdä omia päätöksiämme – vai valitsemmeko aktiivisesti luovuttaa kontrollin mukavuussyistä? 

Osallistu keskusteluun

Oletko sinä tai joku tuntemasi koskaan käyttänyt chatbottia suuren elämänratkaisun – avioeron, muuton, uuden työpaikan – tekemiseen? Miten se reagoi? Minne mielestäsi olemme menossa, kun ihmiset alkavat luopua otteestaan ​​luovuttaa kontrollia omille malleilleen? Jaa näkemyksesi alla. 

Paljastaja tarvitsee kiireellisesti apuasi…

Tue Exposea

Voisitko auttaa pitämään valot päällä The Exposen rehellisen, luotettavan, vaikuttavan ja totuudenmukaisen journalismin avulla?

Hallinto ja suuret teknologiayritykset
Yritä hiljentää ja sulkea The Expose.

Joten tarvitsemme apuasi varmistaaksemme
voimme jatkaa tuomista teille
tosiasiat, joita valtavirta kieltäytyy tunnustamasta.

Hallitus ei rahoita meitä
julkaisemaan valheita ja propagandaa heidän
kuten valtamedian puolesta.

Sen sijaan luotamme yksinomaan tukeenne.
tue meitä pyrkimyksissämme tuoda
sinä rehellinen, luotettava ja tutkiva journalismi
tänään. Se on turvallista, nopeaa ja helppoa.

Valitse alta haluamasi tapa osoittaa tukesi.

Kuukausitilaus

Kuukausilahjoitus

Kertalahjoitus

Osta meille kahvi

Pysy ajan tasalla!

Pysy ajan tasalla uutispäivityksistä sähköpostitse

Päivittäinen tiivistelmä

Yhdysvaltain uutisjulkaisut

UK-uutiset

Maailman uutisjulkaisut

Kaikki uutiset

Oletko ihminen? 9 + 5 =

Trump julkistaa viiden miljardin dollarin "rauhanlautakunnan" lupauksen Gazan jälleenrakentamiseksi

Ihmiskunnan lisääntyminen on ihmiskunnan kuolema

Saatana, tämän maailman ruhtinas: Katsaus lukuun 1

Kuuluvat erillisalueet, ääni kalloon ja Jumalan ääni

g.calder

Olen George Calder – elinikäinen totuudenetsijä, dataharrastaja ja anteeksipyytelemätön kysymysten esittäjä. Olen viettänyt lähes kaksi vuosikymmentä dokumenttien läpikäymiseen, tilastojen tulkitsemiseen ja sellaisten narratiivien haastamiseen, jotka eivät kestä tarkastelua. Kirjoitukseni eivät perustu mielipiteisiin – kyse on todisteista, logiikasta ja selkeydestä. Jos niitä ei voida tukea, ne eivät kuulu tarinaan. Ennen Expose Newsiin tuloani työskentelin akateemisen tutkimuksen ja politiikan analysoinnin parissa, mikä opetti minulle yhden asian: totuus on harvoin kovaäänistä, mutta se on aina olemassa – jos tiedät mistä etsiä. Kirjoitan, koska yleisö ansaitsee enemmän kuin otsikoita. Sinä ansaitset kontekstia, läpinäkyvyyttä ja vapautta ajatella kriittisesti. Olipa kyseessä sitten hallituksen raporttien avaaminen, lääketieteellisten tietojen analysointi tai median puolueellisuuden paljastaminen, tavoitteeni on yksinkertainen: erota hälyn ja esittää faktat. Kun en kirjoita, minut löytää patikoimasta, lukemasta tuntemattomia historiankirjoja tai kokeilemasta reseptejä, jotka eivät koskaan aivan onnistu.

Katso koko bio