Maailma ensimmäinen Euroopan parlamentin jäsenet hyväksyivät eilen 13. maaliskuuta tekoälylakia ja nopeasti kehittyvää tekoälyteknologiaa koskevat asetukset. Asetus, joka jäsenvaltiot sopivat joulukuussa käytyjen neuvottelujen jälkeen Euroopan parlamentin jäsenet hyväksyivät sen lopulta äänin 523 puolesta, 46 vastaan ​​ja 49 tyhjää vuonna 2023.Lähde). EU:n päättäjät ovat ylistäneet ohjelman hyväksymistä Toimia, mutta kriitikot ovat varoittaneet, että lainsäädäntö paljastaa yritysten edut, ja eräs EU:n politiikan analyytikko on todennut, että digitaalipolitiikkaa käytetään "testiympäristö sortavalle valvonnalle edustaa räikeää hyökkäystä kaikkien perusoikeuksia vastaan"kuten useimmat meistä olisivat nyt joka tapauksessa odottaneet."

”Riskiperusteinen lähestymistapa”

Säännökset, jotka ovat odotettu  tulee voimaan touko- tai kesäkuussa viimeisten muodollisuuksien jälkeen, ja useita säännöksiä tulee voimaan seuraavien vuosien aikana, ja siinä ”soveltaa tekoälytuotteisiin ja -palveluihin ’riskiperusteista lähestymistapaa’.”hän Associated Press raportoitu keskiviikkona he kirjoittivat: ”Valtaosan tekoälyjärjestelmistä odotetaan olevan vähäriskisiä, kuten sisällönsuositusjärjestelmät tai roskapostisuodattimet. Yritykset voivat halutessaan noudattaa vapaaehtoisia vaatimuksia ja käytännesääntöjä. Tekoälyn korkean riskin käyttötarkoituksissa, kuten lääkinnällisissä laitteissa tai kriittisessä infrastruktuurissa, kuten vesi- tai sähköverkoissa, on tiukempia vaatimuksia, kuten korkealaatuisen datan käyttö ja selkeän tiedon tarjoaminen käyttäjille.”

Jotkin tekoälyn käyttötarkoitukset on kielletty, koska niiden katsotaan aiheuttavan kohtuuttoman riskin, kuten sosiaaliset pisteytysjärjestelmät, jotka säätelevät ihmisten käyttäytymistä, tietyntyyppiset ennakoiva poliisitoimintasekä tunteiden tunnistusjärjestelmät kouluissa ja työpaikoilla. Muita kiellettyjä käyttötarkoituksia ovat poliisi skannaa kasvoja julkisilla paikoilla käyttäen tekoälyllä toimivia etä"biometrisiä tunnistusjärjestelmiä", lukuun ottamatta vakavia rikoksia, kuten kidnappauksia tai terrorismia.

Vaikka jotkut olivat ylistäneet lakia sen "positiivisista maalaisjärjen ohjeista ja suojatoimista", Tekoälylaki, on saanut osakseen monia muita kriitikoita.

Epäonnistuminen ihmisoikeusnäkökulmasta

”Ei voida kieltää, että tämä on historiallinen hetki sekä EU:ssa että maailmanlaajuisesti: EU on sopinut tekoälyä koskevasta laista. Se on ensimmäinen laatuaan maailmassa. Se on kauan odotettu, kovasti neuvoteltu ja pitkä lainsäädäntö”, kirjoitti Laura Lazaro Cabrera, Center for Democracy & Technologyn (CDT) Euroopan tasa-arvo- ja dataohjelman lakimies ja johtaja keskiviikkona.

”Mutta CDT Europen näkökulma ihmisoikeuksien suojeluun on ristiriitainen – se on kuitenkin yksi sen keskeisistä tavoitteista.” väitti ja että laista ”tulee tekoälyn sääntelyn vertailukohta maailmanlaajuisesti kilpailussa aikaa vastaan, kun lainsäätäjät painiskelevat nopeasti kehittyvän teknologian kanssa, jolla on kauaskantoisia vaikutuksia perusihmisoikeuksiimme”.

Laki tuo merkittäviä rajoituksia lainvalvonnan tekoälyn käytölle, mutta lainsäätäjät eivät onnistuneet panemaan täytäntöön täydellistä kieltoa kohdentamattoman kasvojentunnistuksen käytölle lainvalvonnassa. Lazaro Cabreran mukaan CDT ja muut ihmisoikeusaktivistit varoittivat, että tällainen käyttö aiheuttaisi kohtuuttoman suuria ihmisoikeusriskejä, erityisesti marginalisoituneille ja riskiryhmään kuuluville yhteisöille.

Uhka mielenosoitusoikeudelle

Hän lisää: ”Tekoälylaissa on edelleen vakavia ihmisoikeusriskejä tekoälyn osalta. Esimerkiksi lain kasvojentunnistusta koskevat poikkeukset uhkaavat ’nielaista säännön’ ja mahdollistavat lainvalvonnan laajamittaisen kasvojen skannauksen EU:n kaduilla – vakava uhka esimerkiksi mielenosoitusoikeudelle…”

"Laki luo myös helposti ylikäytettynä poikkeuksena kansallisen turvallisuuden nimissä. Vaikka laki kieltää tunteiden tunnistusteknologioiden käytön, kielto koskee vain koulutusta ja työpaikkoja, joten kysymyksiä siitä, miksi laissa ei otettu lähtökohdaksi näiden teknologioiden käytön kieltoa, ei ole vastattu." 

Voitto teollisuudelle ja poliisille

Daniel Leufer, vanhempi politiikan analyytikko edunvalvontajärjestön Brysselin toimistossa Pääset nyt, nimeltään blokin maamerkki tekoäly lainsäädäntö ”ihmisoikeusnäkökulmasta epäonnistuminen ja voitto teollisuudelle ja poliisille.” Hän varoitti, että lainsäädäntö paljastaa yritysten edut ja on puutteellinen keskeisillä alueilla.

”Uusi tekoälylaki on täynnä myönnytyksiä alan lobbaukselle, poikkeuksia lainvalvonta- ja maahanmuuttoviranomaisten tekoälyn vaarallisimmille käyttötavoille sekä kieltoja, jotka ovat niin täynnä porsaanreikiä, etteivät ne todellisuudessa kiellä joitakin tekoälyn vaarallisimmista käyttötavoista”, Leuferin mukaan.

#AIAct Vaikka EU on antanut suuria lausuntoja lobbauspyrkimysten voittamisesta "maailman ensimmäisten kattavien" tekoälysääntöjen hyväksymiseksi, tekoälylaki on epäonnistuminen ihmisoikeuksien näkökulmasta ja voitto teollisuudelle ja poliisille.

Lue @accessnown näkemys tästä: https://t.co/KgWog9nHsn https://t.co/J27GWvWZMP

- Daniel Leufer (@djleufer) Maaliskuussa 13, 2024

Access Now huomauttaa erityisesti, että tekoälylain lopullinen versio:

• Ei kiellä asianmukaisesti joitakin tekoälyn vaarallisimmista käyttötavoista, mukaan lukien järjestelmät, jotka mahdollista biometrisen massavalvonnan ja ennakoivat poliisijärjestelmät;
• Luo räikeän porsaanreiän artiklan 6(3) kautta kehittäjille vapautusta korkean riskin tekoälyjärjestelmiä koskevista velvoitteista;
• Vapauttaa lainvalvonta- ja maahanmuuttoviranomaiset tärkeistä julkisen avoimuuden vaatimuksista kun he käyttävät korkean riskin tekoälyä, mikä tarkoittaa, että he voivat jatkaa vaarallisten järjestelmien käyttöönottoa salaa;
• Laajentaa entisestään kansallisen turvallisuuden poikkeusta EU:n perussopimuksissa sallittua pidemmälle, jolloin hallitukset voivat vapauttaa itsensä tekoälylain mukaisista velvoitteista voidakseen käsitellä kansallisen turvallisuuden kannalta merkityksellisiksi katsottuja tapauksia;
• Luo erillisen järjestelmän maahanmuuttajille, turvapaikanhakijoille ja/tai paperittomille ihmisilled, mikä jättää heille paljon vähemmän oikeuksia kuin EU:n kansalaisille ja lähes olemattoman määrän oikeussuojakeinoja, jos näitä oikeuksia loukataan.

Amnesty Internationalin mukaan EU asettaa etusijalle teollisuuden ja lainvalvonnan edut.

Amnesty Internationalin tekoälyasioiden neuvonantaja Mher Hakobyan sanoi "Vaikka maailman ensimmäisten tekoälyteknologioiden kehittämistä ja käyttöönottoa koskevien sääntöjen hyväksyminen on virstanpylväs, on pettymys, että EU ja sen 27 jäsenvaltiota päättivät asettaa etusijalle ..." teollisuus ja lainvalvontaviranomaisten virastojen ihmisten ja heidän ihmisoikeuksiensa suojelemisesta” 

Samalla hän ilmaisi huolensa siitä, miten laki vaikuttaa maahanmuuttajat, pakolaiset ja turvapaikanhakijatHakobyan korosti, että ”se ei kiellä holtiton käyttö ja ankarien tekoälyteknologioiden vienti"

"Aiheuttaa merkittävän riskin vammaisille henkilöille..."

”Tekoäly voi aiheuttaa merkittäviä riskejä vammaisille henkilöille ja muille marginalisoituneille ryhmille, jos sitä ei säännellä asianmukaisesti. Tekoälylaki käsittelee ihmisoikeuksia, mutta ei niin kattavasti kuin toivoimme – kehotamme nyt Euroopan unionia kuromaan umpeen tämän aukon tulevilla aloitteilla.”

Yannis Vardakastanis, Euroopan vammaisfoorumin puheenjohtaja, sanoi lausunnossaan, jonka mukaan ”tekoälylaki käsittelee ihmisoikeuksia, mutta ei niin kattavasti kuin toivoimme – kehotamme nyt Euroopan unionia kuromaan umpeen tämän aukon tulevilla aloitteilla”.

Suojaa, älä valvo

Access Now ja Amnesty ovat osa SuojaaEiValvo koalitio, joka julkaistu yhteisessä lausunnossa varoitetaan, että tekoälylaki "luo vaarallisen ennakkotapauksen", erityisesti lainvalvontaviranomaisia, maahanmuuttoviranomaisia ​​ja kansallista turvallisuutta koskevien poikkeusten vuoksi.

Koalition muita jäseniä ovat EuroMed Rights, European Digital Rights ja Statewatch, jonka toiminnanjohtaja Chris Jones, sanoi lausunnossaan: ”Siinä on vakavia puutteita perusoikeuksien näkökulmasta, eikä sitä pitäisi pitää kultaisena standardina oikeusperustaiselle tekoälysääntelylle.”

Lainsäädännön tulisi asettaa ihmiset ja heidän oikeutensa etusijalle

Kampanjoijat toivovat, että päättäjät maailmanlaajuisesti ottavat nyt opikseen tästä lainsäädäntöprosessista ja että kampanjoijien mielestä lainsäädännön tulisi kunnioittaa ihmisiä ja asettaa heidän ihmisoikeutensa etusijalle.

Amnestyn Hakobyan korosti, että ”EU:n ulkopuolisten maiden tulisi oppia blokin kyvyttömyydestä säännellä tekoälyteknologioita riittävästi, eivätkä ne saa antaa periksi teknologiateollisuuden ja lainvalvontaviranomaisten painostukselle sääntelyä kehittäessään. Valtioiden tulisi sen sijaan ottaa käyttöön vankka ja sitova tekoälylainsäädäntö, joka asettaa ihmiset ja heidän oikeutensa etusijalle.”

Lázaro Cabrera stressaantunut että ”tekoälylain täytäntöönpanossa on niin paljon vaakalaudalla, ja siksi pölyn laskeutuessa meidän kaikkien edessä on vaikea tehtävä purkaa monimutkaista, pitkää ja ennennäkemätöntä lakia. Tiivis yhteistyö asiantuntijoiden ja kansalaisyhteiskunnan kanssa on ratkaisevan tärkeää sen varmistamiseksi, että lain tulkinta ja soveltaminen tarkoittavat, että se on tehokasta ja yhdenmukaista lain omien ilmaistujen tavoitteiden kanssa: ihmisoikeuksien, demokratian ja oikeusvaltioperiaatteen suojeleminen.”

Euroopan voittoa tavoittelemattoman lain keskuksen Karolina Iwańska vastasi samoin: ”Olkoon se selvää: Siinä on vakavia puutteita perusoikeuksien näkökulmasta, eikä sitä pitäisi pitää kultaisena standardina oikeusperustaiselle tekoälysääntelylle. Tästä huolimatta työskentelemme mahdollisimman vahvan täytäntöönpanon eteen.”

Euroopan parlamentti hyväksyi #AIAct tänään. Olkoon se selvää: siinä on vakavia puutteita perusoikeuksien näkökulmasta, eikä sitä pitäisi pitää kultaisena standardina oikeusperustaiselle tekoälysääntelylle. Tästä huolimatta työskentelemme mahdollisimman vahvan täytäntöönpanon eteen. https://t.co/EzfBkF4dEM

— Karolina Iwańska on @ka******@******cy.social (@ka_iwanska) Maaliskuussa 13, 2024

Access Now toteaa, että ”tekoälylain merkittävistä puutteista huolimatta Access Now tekee yhteistyötä kansalaisyhteiskunnan kumppaneiden kanssa edistääkseen tekoälylain ja sen sisältämien muutamien oikeuksia suojaavien työkalujen mahdollisimman tehokasta täytäntöönpanoa samalla, kun se jatkaa tekoälyn mahdollistamien väärinkäytösten seurantaa ja niihin puuttumista.”