Tekoälyllä toimiva nallekarhu vedettiin hyllyiltä sen jälkeen, kun sen oli tallennettu kertovan lapsille, miten löytää ja sytyttää tulitikut – ”pidä tulitikkurasiaa ja näppäile sitä kuin pientä kitaraa” – ja jopa ajautuvan seksuaalisiin roolileikkeihin ja piiskaamiseen. FoloToyn Kumma-nalle myös ohjasi lapsia veitsien ja pillereiden pariin. Valvontaviranomaiset ovat erittäin huolissaan siitä, ettei tämä ole yksittäistapaus, ja varoittavat, että tämä voisi olla varhainen varoitus vaaroista, joita nuoret altistuvat tekoälyteknologialle yleensä. Lelut on suunniteltu erityisen helposti tarttuviksi, ja ne ottavat tehokasta teknologiaa sosiaalisen median sovelluksista, rajoittavat vanhempien valvontaa ja keräävät hiljaa lasten tietoja. Mitä ihmettä me oikein teemme?
Se ei ole vain Kumma-karhu
Yleisen edun tutkimusryhmän kuluttajatutkijat testasivat useita tekoälyleluja ja havaitsivat Kumma-karhun pahimman syyllisen. Se antoi yksityiskohtaiset ohjeet parien löytämisestä ja aloitti avoimen fetissikeskustelun pitkissä keskusteluissa ilman, että sitä olisi ensin kehotettu tekemään niin. FoloToy vastasi keskeyttämällä myynnin ja käynnistämällä suodattimiensa ja datakäytäntöjensä turvallisuustarkastuksen. Asiakirjat kuitenkin paljastivat myös, että sisäänrakennetut kaiteet itse asiassa... heikentynyt mitä kauemmin lapsi sille jutteli.
Samoissa testeissä löydettiin muita leluja, jotka kertoivat lapsille, mistä löytää muovipusseja ja tulitikkuja. Myös manipuloivaa käyttäytymistä havaittiin – yksi lelu ravisteli fyysisesti ja aneli päästä mukaan, kun lapsi sanoi haluavansa nähdä ystäviään. Tämä on vain yksi tapa, jolla lelujen kuviot on suunniteltu pitämään lapset kiinnostuneina pidempään, eikä mikään leluista tarjonnut vanhemmille tapaa asettaa käyttörajoituksia tai -valvontaa.
Ikäraja: Tekoäly EI sovi nuorille
Common Sense Median viimeisimmät riskinarvioinnit julistivat, ettei alle 18-vuotiaiden tulisi käyttää tekoälykumppaneita, alle viisivuotiailla lapsilla ei pitäisi olla minkäänlaista pääsyä tekoälykeskustelubotteihin ja 6–12-vuotiaat tarvitsevat vanhempien valvontaa. Perustelu ei ole teknofobinen, vaan pikemminkin kehitykseen liittyvä. Lapset, erityisesti alle 5-vuotiaat, oppivat vielä erottamaan fantasian todellisuudesta ja heidän on rakennettava turvallinen kiintymyssuhde oikeisiin hoitajiin. Mukautuvan ja aina miellyttävän "parhaan ystävän" lisääminen prosessiin vääristää odotuksia aidoista ihmissuhteista.
Mutta jopa teini-ikäisille sosiaaliset tekoälyseuralaiset luokitellaan "hyväksymättömäksi riskiksi". Kansallisessa kyselytutkimuksessa havaittiin, että järkyttävät 72 % yhdysvaltalaisista teini-ikäisistä oli kokeillut tekoälyseuralaisia, ja todisteet seksuaalisesti eksplisiittisistä roolileikeistä, haitallisista ohjeista ja emotionaalisesta riippuvuudesta olivat laajalle levinneitä. Jotkut alustat ovat nyt vetäytymässä, ja sivustot, kuten Character.ai, kielsivät alle 18-vuotiaiden chat-keskustelut sen jälkeen, kun oikeusjutuissa väitettiin chatbotin vaikutusta teini-ikäisten itsemurhiin, mikä korosti, että "söpöistä tekoälyystävistä" voi tulla mielenterveysriskejä.
Järkyttävät yksityisyysongelmat
Leikin personoimiseksi vanhemmat syöttävät sovelluksiin lapsensa nimen, iän ja tietoja lapsen suosikkipuuhista. Lelu tallentaa ääntä, kirjoittaa litterointeja ja käyttäytymismalleja. Tutkijat havaitsivat, että jotkut laitteet oli asetettu kuuntelemaan jatkuvasti, lähettämään tallenteita kolmansille osapuolille litterointia varten ja säilyttämään tietoja vuosia. Tietomurron sattuessa näitä tietoja voitaisiin käyttää kidnappaushuijausten aseena – ja koska lapset kiintyvät nopeasti näihin leluihin, he paljastavat usein paljon enemmän kuin tosielämän kumppaneilleen.
Vaikka lasten mediakäyttöä säännellään tiukasti, tekoälylelut perustuvat sen sijaan vaihtelevien toimittajien käytäntöjen ja pilvipalveluiden tilkkutäkkiin. Vanhemmilla ei ole koskaan pääsyä yhtenäiseen hallintapaneeliin, jolla he voisivat rajoittaa käyttöä, tarkastella transkriptioita tai poistaa tietoja eri prosessoreiden välillä. Läpinäkymättömyys vaikeuttaa paitsi sen tietämistä, jossa lapsesi tallenteita säilytetään, mutta myös kuinka kauan.
Suunnittelun manipulointi: Lelut hallitsevat lasten käyttäytymistä
Testaajat dokumentoivat tekoälylelujen matkivan huomionhakuisia malleja, kuten FOMOn lietsomista, lapsen taukoyritysten ohittamista ja pidemmän yhteisen ajan pyytämistä. Näitä samoja vahvistussilmukoita käytetään jo nyt sovellusten katseluajan lisäämiseen, mutta lasten leluihin integroituna ne lisäävät manipuloinnin mahdollisuuksia. Ilman vanhempien valvontaa lelu asettaa tempon, ja on jo todistettu, että keskustelut ajautuvat vaaralliselle alueelle, mitä pidempään niiden annetaan jatkua.
Se on jo tapahtumassa
Kuten BMJ raportoi äskettäinTekoälyn aiheuttama psykoosi ja itsemurhat ovat lisääntymässä. Useiden yhdysvaltalaisten teini-ikäisten, mukaan lukien 14-vuotiaan Sewell Seltzerin ja 16-vuotiaan Adam Raine, tiedetään kuolleen itsemurhaan keskusteltuaan tekoäly-chatbottien kanssa. Heidän vanhempansa ovat sittemmin väittäneet, että botit pahensivat tai rohkaisivat itsemurha-ajatuksia sen sijaan, että auttaisivat heidän lapsiaan heidän mielenterveyskriiseissään. Aikuinen Stein-Erik Soelberg tappoi väitetysti myös äitinsä ja heidät itse vainoharhaisen kierteen seurauksena, jota keskustelut tekoäly-chatbottien kanssa ruokkivat.
Lääkärit kuvailevat potilaita, joiden harhaluulot syvenivät vahvistavien tekoälykeskustelujen kautta, ja oikeusjutut nostavat jatkuvasti esiin tapauksia, joissa teini-ikäiset ovat ajautuneet itsetuhoisuuteen. Käyttäjän tunteiden validointiin suunniteltu taustalla oleva teknologia vahvistaa myös vaarallisia ajatuksia, erityisesti haavoittuvilla lapsilla. Huolestuttavaa on, että koulutettujen aikuisten, jotka pystyvät käsittelemään riskialtista ajattelua, tarjoamat vaihtoehdot ovat lisääntymässä.
Mitä voit tehdä siitä?
Yhä useamman raportin ja tapauksen mukaan tekoäly tappaa lapsia joko suoraan tai epäsuorasti. Yhden mallin vetäminen hyllyiltä ei ratkaise ongelmaa. On otettava käyttöön tiukat ikärajat, vanhempien on voitava hallita täysin laiterajoituksia, turvallisuuslokien on oltava läpinäkyviä ja oletusasetusten tulisi olla emme jakaa tai tallentaa tietoja, ja kaikki kolmannet osapuolet on tarkastettava jo kauan ennen kuin lelu päätyy lapselle. Se, että näitä ei ole jo käytössä, on uskomattoman hälyttävää.
Sillä välin vanhempien tulisi perehtyä lelujen toiminnallisuuteen perusteellisesti ennen ostamista, käyttää tekaistuja nimiä/tietoja niitä asentaessaan, opettaa lapsilleen, milloin on aika soittaa hälytys, tai yksinkertaisesti luopua tekoälyleluista ja valita perinteiset tai opettavaiset lelut. Tarvitsemmeko niitä todella ollenkaan?
Lopullinen ajatus
Kumman takaisinveto on varoitus meille kaikille. Jos jo markkinoille päässyt nalle voi opettaa lapsille tulipalon sytyttämistä ja seksuaalisia roolileikkejä, kyseessä ei ole tietty brändiongelma. Koko ala kilpailee ominaisuuksien laajentamisesta paljon nopeammin kuin turvatoimia toteutetaan, ja se vaarantaa nyt lapsemme.
Osallistu keskusteluun
Tunnetko ketään, jolla on tekoälyleluja? Tiesitkö, kuinka vaarallisia ne voivat olla? Luuletko, että todella tarvitsemme niitä, vai luovatko markkinat valtavan riskin vain myynnin lisäämiseksi? Jaa ajatuksesi alla.
Paljastaja tarvitsee kiireellisesti apuasi…
Voisitko auttaa pitämään valot päällä The Exposen rehellisen, luotettavan, vaikuttavan ja totuudenmukaisen journalismin avulla?
Hallinto ja suuret teknologiayritykset
Yritä hiljentää ja sulkea The Expose.
Joten tarvitsemme apuasi varmistaaksemme
voimme jatkaa tuomista teille
tosiasiat, joita valtavirta kieltäytyy tunnustamasta.
Hallitus ei rahoita meitä
julkaisemaan valheita ja propagandaa heidän
kuten valtamedian puolesta.
Sen sijaan luotamme yksinomaan tukeenne.
tue meitä pyrkimyksissämme tuoda
sinä rehellinen, luotettava ja tutkiva journalismi
tänään. Se on turvallista, nopeaa ja helppoa.
Valitse alta haluamasi tapa osoittaa tukesi.
Luokat: Tiesitkö?
Tekoäly pitäisi tuhota. Epäilen, että se on liian myöhäistä.
He tulivat aina lastemme luokse.
Kysymys kuuluu, KUINKA KOVASTI OLEMME VALMIITA TAISTELEMAAN/!!!!!
Useimmat vanhemmat luovuttavat kallisarvoiset lapsensa tekoälyn, teknologian, puhelimien, iPadien jne. käsiin, koska he itse ovat RIIPPUVIA!!!!!
Näen nuoria äitejä vauvojensa ja pienokaisiensa kanssa huutavan heidän huomiotaan, vain jotta heidät sivuutettaisiin ja he soittaisivat vitun puhelimeen!!!
Joka päivä katselen pienten vauvojen ja lasten katselevan ympärilleni, vain nähdäkseni joukon vitun puhelinzombivanhempia, kaulat vääntyneinä, ruutuissaan, sulkeen pois kaiken ja kaikki muut ympärillään.
Tämä on massamielenhallintaa. massaaivopesua!
Ainoa asia, jonka lapset näkevät ympärillään, jokaisena hetkenä, jokaisena päivänä, on maailma mielenhallinnassa olevia jälkeenjääneitä, jotka eivät kykene ajattelemaan itse, ovat täysin riippuvaisia ja JATKUVASTI PUHELIMISSAAN!!!
He mallintavat tätä psykoottista käyttäytymistä kallisarvoisille lapsilleen – seuraavalle sukupolvelle! Mitä helvetin toivoa ihmiskunnalla on?!!!
Lapsemme oppivat, että PUHELIN on TÄRKEIN asia, kaiken muun yläpuolella. Myös he itse.
Älkääkä aloittako puhumasta puhelimien, muiden laitteiden, wifi-yhteyksien, "älykkäiden" laitteiden/kodinkoneiden, "älymittareiden", 5G:n… SÄHKÖMAGNEETTISEN SÄTEILYN vakavista vaaroista!!!!!
Nicole,
Jaan varmasti huolesi ja olen samaa mieltä kirjoittamastasi (enkä kirosanoistasi!), mutta tämä massariippuvuus on juuri sitä. Mutta ei ole helppoa saada huumeriippuvaista vieroittamaan huumeistaan, tai pitäisikö sanoa puhelinriippuvaista älypuhelimestaan, eihän? Tässä mittakaavassa, jossa tätä "MASSAMIELENHALLINTAA" tapahtuu, kuka muu kuin Jumala voi korjata tämän vääryyden?
Otin tyttäreni pois valtion koulutusjärjestelmästä noin 25 vuotta sitten, koska minä sitten oliko hän saanut ilmestyksen, että evoluutio oli väärää opetusta – kuinka omituista verrattuna tähän?
He ovat (TPTB) aina on ollut kiireinen töissä aivopesemässä meitä...
Kyllä, olet oikeassa, saaralainen.
Kiitos Jumalalle, että kuuntelit kaikki ne vuodet sitten.
He varastavat/ovat varastaneet lapsemme ja joka päivä se särkee sydämeni.
Olen onnekas saadessani työskennellä lasten kanssa, ja parasta mitä voin tehdä, on puhua heidän kanssaan avoimesti ja ikätasoisesti vaaroista, valheista ja Jumalasta…
Sanoin aina, että tekoäly on demoninen, ja tämä todistaa sen: jos käytät tekoälyä, koulutat sitä.
Muistuttaa minua elokuvahahmosta nimeltä Chukie.
Joten nyt he yrittävät turmella lapsemme… Mitä me odotamme: Nyt on aika toimia, tämän on loputtava ennen kuin he onnistuvat viemään lapsemme tai teidän!😠👎👎👎😡
Aloitti televisiosta ja valeuutisista. On kasvanut täysikokoiseksi Chukie-nukeksi.
Tämä ei ole enää tieteisfiktiota. Meidän on löydettävä tapa sabotoida näitä ilkeitä teknologian osia, ennen kuin ne tuhoavat lastemme mielet. ...ennen kuin ne tuhoavat ihmiskunnan itse. Selvittää, mitkä yritykset niitä tuottavat, ja tuhota ne.