OpenAI osoittaa "piittaamatonta piittaamattomuutta" tuoteturvallisuutta, ihmisten oikeutta omaan ulkonäköönsä ja jopa demokratian vakautta kohtaan, Public Citizenin kirjoittaman kirjeen mukaan. Sora-videoalustaa käytetään tyypillisesti lyhytmuotoiseen sosiaalisen median sisältöön, ja sillä luodaan viihdyttäviä klippejä, joista tykätään ja joita jaetaan. Suosittu teema on väärennetty ovikellokamerakuva, jossa tapahtuu jotain hieman epätavallista, mutta pysyy silti jollain tapaa uskottavana – kuten kenguru tulee jonkun ovelle tai löyhästi viihdyttävä katukuvake – mutta ohjelmistosta voi nopeasti tulla vaara meille kaikille.
Public Citizen kehotti juuri OpenAI:ta poistamaan Soran julkisesta käytöstä kutsuen sitä holtittomaksi julkaisuksi, joka tehostaa syväväärennöksiä, identiteettivarkauksia ja vaalivirheitä. Onko se niin paha kuin väitetään?
Syväväärennösten vaara
Public Citizen kirjoitti OpenAI:lle ja Yhdysvaltain kongressille kirjeen, jossa se vaati Soran poistamista käytöstä, kunnes voidaan ottaa käyttöön vankat ja testattavat suojakaiteet. Heidän väitteensä mukaan sovellus lanseerattiin vastuuttomasti aikaisin kilpailuedun saavuttamiseksi ottamatta huomioon tarvittavia turvatoimenpiteitä. Keskeisiä riskejä ovat kuvan käyttö ilman suostumusta ja laajalle levinnyt harhaanjohtaminen, sillä synteettiset videot leviävät nopeammin kuin yleisö voi varmistaa niiden aitouden.
Kirjeen kirjoittanut Public Citizen -teknologiapolitiikan puolestapuhuja JB Branch sanoo: ”Suurin huolenaiheemme on mahdollinen uhka demokratialle. Mielestäni olemme astumassa maailmaan, jossa ihmiset eivät voi oikeasti luottaa näkemäänsä. Ja alamme nähdä politiikassa strategioita, joissa ensimmäinen julkaistu kuva tai video on se, minkä ihmiset muistavat.”
Branch jatkoi: ”He painavat kaasua pohjaan välittämättä haitoista. Suuri osa tästä vaikuttaa ennakoitavalta. Mutta he haluavat mieluummin saada tuotteen markkinoille, saada ihmiset lataamaan sen ja saamaan siitä riippuvaisia ihmisiä sen sijaan, että tekisivät oikein ja stressaavat näitä asioita etukäteen ja murehtisivat jokapäiväisten käyttäjien ahdingosta.”
OpenAI aiheutti itsemurhia, oikeusjuttuja
Kalifornian tuomioistuimissa nostettiin viime viikolla seitsemän uutta kantetta, joissa väitetään, että chatbotti ajoi ihmisiä itsemurhaan ja haitallisiin harhaluuloihin, vaikka heillä ei olisi ollut aiempia mielenterveysongelmia. Social Media Victims Law Center ja Tech Justice Law Project nostivat kanteita kuuden aikuisen ja yhden teini-ikäisen puolesta väittäen, että OpenAI julkaisi tietoisesti GPT-4o-iteraationsa ennenaikaisesti viime vuonna, huolimatta sisäisistä varoituksista, joiden mukaan se oli vaarallisen mielistelevä ja psykologisesti manipuloiva. Neljä uhreista kuoli itsemurhan avulla.
Public Citizen ei ole osallisena oikeusjutuissa, mutta jakaa niissä esitetyt huolenaiheet. Branch sanoo, että OpenAI estää alastomuuden, mutta silti "naiset kokevat joutuvansa häirinnän kohteeksi verkossa" muilla tavoilla. 404 Median viime viikolla julkaisemassa raportissa löydettiin tulva Soran tekemiä videoita naisten kuristamisesta.
Mihin Sora AI -videoita käytetään
Sora mahdollistaa kaikille elokuvamaisten väärennösten tuottamisen, olipa kyse sitten fiktiivisistä ovikellokohtauksista, huulisynkkaavista julkkiksista tai fotorealistisista minidraamoista, jotka näyttävät silminnäkijämateriaalilta. Nämä klipit on suunniteltu hauskoiksi, jaettaviksi ja omituisiksi – viime kädessä dopamiinin lisäämiseksi. Mutta kun ne jaetaan verkkoalustoille, konteksti katoaa, ja monet ihmiset sulattelevat ne ikään kuin ne olisivat aitoja.
Washington Post testasi teoriaa. He latasivat Soran tekemän väärennetyn videon kahdeksalle suurelle alustalle, joihin oli upotettu peukalointia estäviä sisällön tunnistetietoja. Vain yksi alusta – YouTube – tunnisti ja paljasti videon keinotekoisen luonteen, mutta piilotti merkinnän kuvaukseen. Jos alustat eivät voi tai halua välittää selkeitä signaaleja siitä, mikä on totta ja mikä valetta, katsojia ei voida suojella harhaanjohtavalta sisällöltä.
Missä se voisi mennä pieleen – ja menee jo
- VaalitMuutamat realistiset valehtelut, kuten tekaistut poliisin ampumiset, väärennetyt ehdokkaiden tunnustukset ja väärennetyt ulkopoliittiset raportit, voivat vaikuttaa äänestysaktiivisuuteen ja sytyttää levottomuuksia jo kauan ennen kuin faktantarkistuksia ehditään toteuttaa. Public Citizen varoittaa Soran vaikutuksesta "demokratian vakauteen".
- Häirintä ja kiristysSeksuaaliset syvähuijaukset ilman suostumusta, maineen mustamaalaukset ja yleiset kiristyskampanjat ovat jo ongelma still-kuvien kanssa – video moninkertaistaa vahingon
- Yleisen turvallisuuden huijauksetVäärennetyt katastrofivideot tai hätätiedotteet leviävät nopeammin kuin korjaukset, hämmentäen ensiapuhenkilöstöä ja yleisöä. Soran uskomaton realismi arkipäiväisessä kontekstissa on vertaansa vailla, ja eron havaitseminen on vaikeampaa kuin koskaan.
- Taloudellinen petosToimitusjohtajien, julkisuuden henkilöiden tai korkean profiilin vaikuttajien synteettiset videot voivat luoda klassisia ääni- tai sähköpostihuijausyrityksiä, joilla työntekijöitä tai yksityishenkilöitä pakotetaan siirtämään varoja tilille. Äänen kloonaus huijaa jo pankkeja – kuvittele myös väärennettyjen videoiden voima.
Mitä OpenAI sanoo tekevänsä vaarojen torjumiseksi
OpenAI on alkanut rajoittaa julkisuuden henkilöiden cameo-kuvia ja ottanut käyttöön käyttäjäsäätimiä "tekoälyminuille", joissa saattaa näkyä henkilökohtainen avatar. Toisaalta he selvästi tunnustavat riskin. Mutta toisaalta he eivät tehokkaasti ratkaise koko ongelmaa. He sanoivat, että "liiallinen moderointi on erittäin turhauttavaa" uusille käyttäjille ja että on tärkeää olla varovainen, "kun maailma vielä sopeutuu tähän uuteen teknologiaan".
He ilmoittivat julkisesti lokakuussa sopimuksista Martin Luther King Jr.:n perheen kanssa, jotka estivät kansalaisoikeusjohtajan "epäkunnioittavat kuvaukset" samalla kun yritys työskenteli parempien suojatoimien parissa. OpenAI ilmoitti myös samasta sopimuksesta kuuluisien näyttelijöiden, SAG-AFTRA-ammattiliiton ja kykytoimistojen kanssa.
”Se on ihan hyvä ja hyvä, jos olet kuuluisa”, Branch sanoi, mutta korosti toista ongelmaa. ”Se on tavallaan OpenAI:n kaava, jossa he ovat valmiita reagoimaan hyvin pienen populaation raivoon. He ovat valmiita julkaisemaan jotain ja pyytämään anteeksi jälkeenpäin. Mutta monet näistä ongelmista ovat suunnitteluvalintoja, jotka he voivat tehdä ennen julkaisua.”
Suurempi tekoälykuva
Public Citizenin kirje osuu samaan aikaan, kun ymmärretään yhä paremmin, että rakennamme alustoja, jotka tekevät petoksesta helpompaa kuin koskaan ennen, sen sijaan, että loisimme järjestelmiä suojaamaan sitä vastaan. Sora-videot voivat olla mukaansatempaavia, mutta silti erottamattomia vieritysnopeudella, ja ilman uskottavia merkintöjä, jotka korostavat synteettistä sisältöä käyttäjille, annamme yleisön tottua väärennettyyn sisältöön, jolloin he eivät enää pysty erottamaan sitä toisistaan.
OpenAI ei keksinyt deepfakeja, ja kilpailijat kilpailevat sen kanssa. Todellinen johtajuus edellyttäisi hidastamista, kunnes turvakaiteet ovat paikoillaan, sen sijaan, että toimittaisiin niin nopeasti, ettemme voi koskaan rakentaa oikeanlaista suojaa. Sillä välin valvojat vaativat edelleen sen poistamista julkisesta alueesta, kunnes tavalliset ihmiset osaavat erottaa faktan ja fiktion toisistaan.
Lopullinen ajatus
Luuletko pystyväsi erottamaan tarkasti uusimmat tekoälyvideot todellisuudesta? Mikä on suurin riski siinä, että tämä teknologia on kaikkien saatavilla? Mitä voimme tehdä asialle? Jaa ajatuksesi alla.
Paljastaja tarvitsee kiireellisesti apuasi…
Voisitko auttaa pitämään valot päällä The Exposen rehellisen, luotettavan, vaikuttavan ja totuudenmukaisen journalismin avulla?
Hallinto ja suuret teknologiayritykset
Yritä hiljentää ja sulkea The Expose.
Joten tarvitsemme apuasi varmistaaksemme
voimme jatkaa tuomista teille
tosiasiat, joita valtavirta kieltäytyy tunnustamasta.
Hallitus ei rahoita meitä
julkaisemaan valheita ja propagandaa heidän
kuten valtamedian puolesta.
Sen sijaan luotamme yksinomaan tukeenne.
tue meitä pyrkimyksissämme tuoda
sinä rehellinen, luotettava ja tutkiva journalismi
tänään. Se on turvallista, nopeaa ja helppoa.
Valitse alta haluamasi tapa osoittaa tukesi.
Luokat: Tiesitkö?
Olen aina sanonut, että tekoäly pitäisi tuhota. Vielä parempi, sitä ei koskaan kehitetä. Nyt on liian myöhäistä. Kissa on ulkona säkistä, nyt tiedätte, että meille on myyty sika säkissä. Yhtä hyvin voisi hankkiutua eroon valvontakameroista, koska mikään digitaalinen tallenne ei ole enää pätevä. Digitaalinen henkilöllisyystodistus? Ei missään nimessä, aivan liian riskialtista. Ihmiskunta on huomaamassa, että tekoäly on atomipommia pahempi keksintö. Tiedemiehet on pidettävä eristyksissä muusta yhteiskunnasta. Heille maksetaan helposti...ilmastonmuutoshuijaus, covid-huijaus, ja he tekevät paljon vahinkoa...
Kyllä, olen samaa mieltä, tekoälystä nykymuodossaan on päästävä eroon! Se on erittäin vaarallinen, erityisesti lapsille!
Se on hyvä asia. Tekoäly on suhteellisen uusi, joten kestää jonkin aikaa, ennen kuin suuri yleisö ymmärtää, ettei mihinkään internetistä löytyvään voi luottaa. Väärennöksiä tuottava tekoäly auttaa tässä.
Pian useimmat ihmiset tietävät, ettei mihinkään voi luottaa. Tämän olisi tietysti pitänyt aina olla tiedossa, mutta tämä tieto leviää nopeasti jopa tyhmimpien ihmisten tietoon.
Lue koko artikkeli. Niin kutsuttu "vaara" ei tule valehtelusta, vaan ihmisistä, jotka uskovat valheisiin. Esimerkiksi jopa jotkut tyhmimmistä ihmisistä ymmärtävät nyt, että poliitikot valehtelevat heille.
Kuinka moni ihminen saa sanoa: "Voi ei, minulle ei ole koskaan valehdeltu koko elämässäni, ennen kuin katsoin tekoälyvideon?" Niin kutsuttu "turvallisuus"-motivaatio ei ole koskaan muuta kuin yritys sensuroida ja kontrolloida.
Joku hullu aloittaa ampumavälikohtauksen, koska hänen päässään olevat äänet käskevät häntä tappamaan ihmisiä? Päässä olevat äänet ovat vaaraksi kaikille! Kielletään ihmisten päässä olevat äänet!
Hei Plebney,
On mielenkiintoista nähdä asia toiselta kantilta, että se saattaa itse asiassa nopeuttaa ihmisten ymmärrystä siitä, ettei mihinkään tässä voi luottaa. Minua huolestuttaa se, ettei näin näytä tapahtuvan tällä hetkellä; sen sijaan ihmiset nielevät kaiken, pitivätpä he sitä totena tai eivät. Tuntuu siltä, että useimmat eivät erityisemmin välitä, kunhan heitä viihdytetään 15 sekuntia kerrallaan. Luulen, että saamme pian tietää.
Cheers,
G Calder
Hyvä artikkeli! Kyse ei ole tietenkään vain Sorasta – niitä on nykyään paljon. Käytin Googlen Veo3:a lyhytelokuvan tekemiseen (ensimmäinen yritykseni, eikä se ollut helppoa!). https://panocracy.substack.com/p/panocracy-the-movie-introduction)
Mielestäni ihmiset tarkastelevat kaikkea televisiossa lähetettävää tietoa omien ennakkoluulojensa läpi. Jos olet Trumpin kannattaja, olet skeptinen hänen saamaansa negatiiviseen lehdistötiedotteeseen ja hyväksyt, jos se on positiivista. Samoin on Starmerin jne. kohdalla.
BBC:n meneillään oleva tilanne, jossa Trumpia esittävää materiaalia on muokattu Panorama- ja Newsnight-ohjelmiinsa, osoittaa (jos se oli tarpeen), että väärä/disinformaatio ei rajoitu tekoälyyn.
Olen havainnut, että ammattiluokassa olevat ovat alttiimpia väärälle tiedolle. Työväenluokka yleensä sivuuttaa lähes kaiken johdon temppuna! Ne, joiden toimeentulo on riippuvainen kirjoitetusta ja puhutusta sanasta, ovat usein paljon herkkäuskoisempia.
Kauan ennen kuin tämä tekoäly tuli esiin, peräkkäiset hallitukset syyllistyivät säännöllisesti kaikenlaiseen petokseen.
Vastuutakaan ei näytä olevan.
🙏🙏
Mitä Pyhä Raamattu sanoo tästä edessämme olevasta kauhistuttavasta vuosikymmenestä... Tässä on sivusto, joka selittää ajankohtaisia maailmanlaajuisia tapahtumia Raamatun profetioiden valossa. Ymmärtääksesi lisää, käy osoitteessa 👇 https://bibleprophecyinaction.blogspot.com/
Pojallani on sovellus, jota hän käyttää viattomasti... Hän on todella kiinnostunut säästä tällä hetkellä, erityisesti tornadoista. Hän on luonut videoita kuvaamalla ulkona ja sitten luomalla tornadoja, jotka tuhoavat paikallisia taloja ja jättävät jälkeensä raunioita. Ne näyttävät itse asiassa melko realistisilta!... Haittapuolena on, jos sitä käytetään ilkeisiin tarkoituksiin, ja kuka tietää, luodaanko seuraava valelippu tällä tavalla... Meillä oli jo 9/11 ja 7/7 kauan ennen tätä teknologiaa!...
"Demokratian vakaus"???
Demokratia on Ishayoiden opettaman Epävakauden äärimmäinen symboli - yksijalkainen mies on vakaampi!
Varmasti lukijasi näkevät jo, että demokratia on "todettu puutteelliseksi"?
Vše, jak se zdá, už tady bylo řečeno. Co dál? Nedělejme si iluze. Džiň (Kraken) byl vypuštěn. Tohle už nikdo nezastaví. Poslední zhasne. Přeji hezký den.
Poissulkeva aukko.