Usvojen AI Akt: Ljudska prava ostala u drugom planu

Akt o veštačkoj inteligenciji (AI Act) koji će se direktno primenjivati u svim članicama Evropske unije, usvojen je u sredu, 13. marta, ogromnom većinom glasova poslanika Evropskog parlamenta. Na jednoj od poslednjih sesija pred izlazak građana Unije na izbore u junu, za usvajanje regulative glasalo je 523 evroparlamentaraca (od 618 prisutnih), protiv je bilo 46, a uzdržanih 49. Evropski parlament ima 705 poslanika.

AI Akt reguliše sisteme koji generišu sadržaj, predikcije, preporuke ili odluke koje utiču na okruženja – uključujući alate za interakciju sa ljudima, pametne sisteme za nadzor ili aplikacije koje se mogu koristiti za generisanje tzv. deepfake sadržaja (sintetički mediji). Ovakvi sistemi veštačke inteligencije se novim pravilima klasifikuju prema visini rizika, od minimalnog do nedopustivog (zabranjenog), dok su javnim i privatnim akterima koji ih proizvode ili koriste propisane odgovarajuće obaveze. Kazne se kreću i do 35 miliona evra ili 7% globalnog prometa, ukoliko je taj procenat veći.

U završnim etapama usaglašavanja teksta zakona, između ostalog, definisanje opsega visokog i nedopustivog rizika bilo je predmet žestokih sporova, posebno kad je reč o primeni u oblastima kao što su policija, sudstvo, upravljanje granicama, kritična infrastruktura i bezbednost proizvoda.

Uz prigodne čestitke za ogroman zakonodavni posao obavljen uprkos snažnom lobiranju industrije i konzervativnih političara, u prvim reakcijama na vest o usvajanju regulative ističe se da interes građana ipak nije stavljen na prvo mesto. Kako se navodi, uvođenjem dvostrukih standarda za policiju i službe bezbednosti, zakonodavci su ostavili previše rupa u propisu i dovoljno mogućnosti za kršenje ljudskih prava.

Međunarodna organizacija za digitalna prava Access Now upozorila je da neke od najopasnijih primena veštačke inteligencije nisu označene kao nedopustiv rizik, odnosno nisu zabranjene, uključujući sisteme koji omogućavaju masovni biometrijski nadzor i prediktivne policijske sisteme. Takođe se navodi da su bezbednosne službe izuzete od zahteva za transparentnošću u primeni visokorizičnih AI sistema, dok je sam pravni izuzetak nacionalne bezbednosti širi od onog propisanog temeljnim dokumentima EU.

Access Now i srodne organizacije kritikuju stvaranje posebnog pravnog režima za ljude u pokretu – migrante, tražioce azila, ljude bez dokumenata, što ih lišava mnogih prava i ostavlja gotovo bez pristupa pravnoj zaštiti u slučaju kršenja.

Organizacija posvećena slobodi govora i informisanja, Article 19, u svom saopštenju ističe da regulativa ne zabranjuje tehnologije za prepoznavanje emocija koje su, kako se navodi, u osnovi nespojive sa poštovanjem ljudskih prava. Takođe se ističe zabrinutost zbog činjenice da nije zabranjena upotreba sistema za biometrijsku identifikaciju na daljinu u realnom vremenu na javnim mestima.

Reporteri bez granica su upozorili da AI Akt kao temeljni zakon propušta da zaštitom obuhvati pravo na informisanje, budući da algoritme koji se koriste u proizvodnji i distribuciji informacija ne klasifikuje kao visokorizične, što bi nametnulo ispunjavanje strožih zahteva pre njihovog plasiranja na tržište.

Očekuje se da će zakon biti objavljen u službenom glasniku EU u maju, pošto se novim glasanjem ili formalnom odlukom potvrde manje jezičke izmene unete tokom prevoda teksta na jezike zemalja-članica.

Pažnja se sada okreće ka članicama EU, koje treba da odrede institucije nadležne za primenu regulative. Španija je prošlog septembra prva osnovala posebno kontrolno telo (Agencia Española de Supervisión de la Inteligencia Artificial, AESIA), dok se pojedine članice, poput Holandije, opredeljuju za posebna odeljenja unutar već postojećih službi za zaštitu podataka. Druge su zasad samo odredile sektor u vladi kojem je poverena izrada nacionalnog plana za implementaciju AI Akta.

Na nivou Evropske unije, osnovana je evropska kancelarija za AI koja je početkom marta već uputila poziv zainteresovanim kandidatima za radna mesta.



Čitaj još:

SHARE Bilten: Godišnji pregled stanja digitalnih prava, izbori u medijima, Srbija pod video-nadzorom…


Izbori na informativnoj margini


Analiza SHARE Fondacije pokazala je da su decembarski izbori na sajtovima većine popularnih onlajn medija završili u informativnom zapećku. Sport, zabava, crna hronika i ratovi prekrili su društveno-političke vesti, a specifične agende za kontrolu informativnog prostora omogućile su strukturnu podršku vlasti.

Pročitajte sveobuhvatnu analizu kampanje u medijima → SHARE Fondacija



Digitalna prava i slobode u Srbiji tokom 2023.


Godišnji monitoring izveštaj provešće vas kroz turbulentnu godinu i spiralu digitalnog nasilja u Srbiji. Pored analitičkog preseka stanja, u izveštaju možete pronaći autorske tekstove koji iz prve ruke opisuju neke od ključnih događaja iz digitalne sfere koji su obeležili 2023. godinu.

Više o povredama digitalnih prava i sloboda → SHARE Fondacija



Prepoznavanje lica u školama i vrtićima


Novinari BIRN Srbija su došli do informacija da su lokalne institucije širom Srbije, poput pijaca, škola i vrtića nabavljale opremu za video-nadzor sa mogućnostima prepoznavanja lica. Za potrebe istraživanja, novinari su kontaktirali sve mapirane aktere koji su kupili ovu intruzivnu tehnologiju. 

Kompletno istraživanje sa interaktivnom mapom → BIRN Srbija


PLUS:


Pravni i etički aspekti veštačke inteligencije → RTS/YouTube

Signal uvodi korisnička imena → Signal

Akt o digitalnim uslugama iz ugla građana → Bits of Freedom

KotorArt: inovacije, tehnologija i umetnost → KotorArt

Analiza pocurelih domaćih lozinki → @milos_rs_/X


PRIJAVITE SE NA SHARE BILTEN


Izbori 2023. na informativnoj margini: Analiza onlajn medija

Samo 17% centralnog sadržaja najuticajnijih onlajn medija tokom izborne kampanje 2023. bilo je posvećeno izborima, jedan je od nalaza analize 15 najposećenijih medijskih portala koju je SHARE Fondacija sprovela u periodu od 1. novembra do 17. decembra. Sport, zabava, crna hronika i ratovi u inostranstvu upadljivo su dominirali nad predizbornim temama i uopšte aktuelnim, društvenim i političkim vestima, dok je ukupan udeo originalnog sadržaja, odnosno vesti iz vlastite produkcije medija zabrinjavajuće nizak.

O samim izborima najviše je izveštavao portal 021, dok su o ovoj temi RTS, Telegraf, Blic, Mondo i Espreso objavljivali u proseku manje od jednog teksta dnevno.

To ne znači da je za vreme kampanje politički život u potpunosti izostao sa sajtova onlajn medija, naprotiv: njegovu drastično iskrivljenu sliku činili su umnoženi komentatorsko-promotivni sadržaji pretežno posvećeni aktivnostima predsednika Srbije, kao i demonizaciji opozicije i nezavisnih medija, neretko bez jasnog povoda. Sličnost tema odabranih za noseću vest ukazuje na određeni stepen medijske koordinacije, dok je prepisivanje ili prepričavanje postala pretežna praksa.

Manje od trećine tekstova o izborima u periodu predizborne kampanje bilo je informativnog karaktera, dok je analitika bila izrazito retka (7.8%) i skoncentrisana u svega tri medija (021, Nova.rs, N1). Posebno je zabrinjavajući nalaz koji ukazuje da je debatni okvir za izbore bio prisutan u svega 1% sadržaja. Izbori i liste koje su na njima učestvovale tretirane su linerano, bez ukrštenih argumenata ili otvorene diskusije, uglavnom kroz zastupničku komentatorsko-promotivnu perspektivu, što predstavlja drugi nivo favorizovanja vlasti. 

U vreme izborne trke za poslanička mesta u nacionalnim i lokalnim skupštinama, urednici onlajn medija su kao udarne vesti izdvajali priče o tome kako je predsednik države na društvenim mrežama objavio video dok peče palačinke, jede čvarke ili kupuje poklone. Teme iz privrede i ekonomije, zdravstva ili socijalnih pitanja u velikoj meri su bili niske informativne vrednosti i neretko poligon za afirmativno predstavljanje vladajuće stranke i njenih funkcionera. Najzad, problematizovanje pitanja ljudskih prava, ekologije, zapošljavanja ili obrazovanja izbegava se gotovo potpunim odsustvom izveštavanja o ovim temama. 

Najposećeniji medijski portalu u Srbiji uzorkovani su prema podacima platforme za analitiku globalnog internet saobraćaja SimilarWeb: Kurir, Blic, Mondo, Informer, N1, Nova, Novosti, Alo, B92, Telegraf, Espreso, Republika, Pink, 021 i RTS. Analizom je obuhvaćen sadržaj prvog bloka centralnih tekstova koji su se našli na naslovnim stranama portala u 10h, 14h i 19h u periodu od 1. novembra do 17. decembra 2023. Preliminarni nalazi izvedeni su na osnovu konstruisanog nedeljnog uzorka koji je obuhvatio šest nasumično odabranih dana tokom predizborne kampanje, dok je izborni dan posebno analiziran. 

Izbori 2023. na informativnoj margini – izveštaj (.pdf) 



Mila Bajić je glavna istraživačica SHARE Fondacije sa fokusom na odnos novih medija, tehnologije i privatnosti.

Snežana Bajčeta je istraživačica SHARE Fondacije u oblastima digitalnih tehnologija, medija i novinarstva.

Čitaj još:

Monitoring digitalnih prava 2023: Srbija u spirali digitalnog nasilja

Prvi otkriveni slučaj napada špijunskim softverom na aktiviste građanskih organizacija, poplava sajber prevara i manipulacija, uz rutinske zloupotrebe ličnih podataka: ovako se, ukratko, odvijala protekla godina za analitičare SHARE fondacije koja od 2014. dokumentuje povrede prava i sloboda u digitalnom prostoru Srbije.

U godišnjem izveštaju, sa inoviranom kategorizacijom slučajeva i autorskim tekstovima onih koji su doživeli napade, predstavili smo uočljive trendove, društveni kontekst i analizu tipičnih sajber incidenata u našoj sredini. Kao i prethodnih godina, preovlađuju slučajevi onlajn prevara, pretnji i manipulacija u digitalnom prostoru, dok se broj različitih incidenata umnožava u politički ili društveno osetljivim periodima, kao što je predizborna kampanja.

Nova kategorija rodno zasnovanog onlajn nasilja ukrštena je sa svakom od standardnih vrsta sajber incidenata u monitoringu, kako bismo ukazali na klimu razobručenog nasilja nad ženama i seksualnim manjinama u Srbiji. Specifičnost digitalnog okruženja omogućila je širenje izrazito opasnih pojava, kao što je objava intimnih sadržaja bez saglasnosti sa ciljem javne degradacije i ponižavanja, te seksualno eksplicitnih sintetizovanih sadržaja (tzv. deepfake) – kompjuterski generisanih snimaka i fotografija.

Mada nisu brojni, slučajevi napada ucenjivačkim softverom na javne servise i kritičnu infrastrukturu nose potencijalno razorne rizike po društvo i trebalo bi da služe kao (još jedno) poslednje upozorenje na izrazito nisku kulturu zaštite podataka u javnom sektoru.

Integralni izveštaj o monitoringu digitalnih prava u protekloj godini može se preuzeti ovde.

Baza incidenata iz monitoringa digitalnih prava, po unapređenoj metodologiji, zajedno sa svim prethodnim izveštajima dostupni su na novom sajtu.

Na našoj višejezičnoj platformi “Alati za digitalnu bezbednost” naći ćete više detalja o postojećim rizicima i savete za bolju zaštitu.



Čitaj još:

Izbori na informativnoj margini

Preliminarna analiza medijskog sadržaja najposećenijih onlajn medija u Srbiji: 1. novembar – 17. decembar 2023 

U sredu 1. novembra, predsednik Skupštine Srbije Vladimir Orlić raspisao je lokalne izbore u 65 gradova i opština u Srbiji, uključujući i Beograd. Nekoliko sati nakon Orlićevog tradicionalnog protokola potpisivanja Odluke o raspisivanju izbora u holu Narodne skupštine, sa digitalne adrese predsednika Republike Srbije stigla je poruka: “Živela Srbija! Neka su vam srećni izbori.” Sajber obraćanjem Aleksandra Vučića objavljeno je raspisivanje i vanrednih parlamentarnih izbora, čime je započela predizborna kampanja koja je trajala do 14. decembra u ponoć. U međuvremenu, 16. novembra raspisani su i pokrajinski izbori.

Istraživanja pokazuju da onlajn mediji zauzimaju sve značajnije mesto među izvorima informisanja, kako u svetu tako i kod nas. Iako televizija i dalje prednjači, a onlajn mediji se kao informativni izvor nalaze na trećem mestu po zastupljenosti, njihova uloga zahteva posebnu istraživačku pažnju. Uzimajući u obzir značaj slobodnog, sveobuhvatnog i balansiranog informisanja sa stanovišta demokratičnosti ukupnog izbornog procesa, ovo istraživanje u fokusu ima upravo digitalne medije i informativni ambijent koji oni kreiraju. Cilj istraživanja je da identifikuje i objasni ključne odlike informativnog sadržaja koji plasiraju vodeći onlajn mediji u Srbiji, kako bi se utvrdilo u kojoj meri i na koji način su građani i građanke bili informisani o izborima u predizbornom periodu, ali i o pitanjima od ključnog društvenog i političkog značaja, te načinima na koji su se u digitalnom okruženju definisale centralne teme i oblikovali specifični vidovi podrške vladajućim strukturama.

Izbori 2023: Preliminarni izveštaj (.pdf)



Mila Bajić je glavna istraživačica SHARE Fondacije sa fokusom na odnos novih medija, tehnologije i privatnosti.

Snežana Bajčeta je istraživačica SHARE Fondacije u oblastima digitalnih tehnologija, medija i novinarstva.

Čitaj još:

SHARE Bilten: Biometrijski nadzor, AI Akt, digitalna tržišta…


Evropska promocija knjige o biometrijskom nadzoru


U Berlinu i Briselu smo promovisali knjigu “Beyond the Face: Biometrics and Society”, koja obuhvata pet godina našeg rada na proučavanju i analizi društvenih posledica masovnog biometrijskog nadzora putem tehnologija poput prepoznavanja lica. U tri osnovna segmenta – Tehnologija, Pravo, Praksa – knjiga upoznaje čitaoce sa aktuelnim globalnim iskustvom sukoba temeljnih ljudskih prava i profitom vođene industrije.

Detalji sa događaja → SHARE Fondacija



Usaglašen AI akt


Nakon maratonske rasprave predstavnici institucija EU postigli su politički dogovor o Aktu o veštačkoj inteligenciji (AI Act). Iako je ostalo da se Akt finalno usvoji, trijalog su obeležili pritisci država članica EU na evroparlamentarce da prihvate tekst sa manje zabrana kada je reč o upotrebi invazivnih tehnologija za nadzor. 

Šta smo dobili, a šta izgubili → SHARE Fondacija



Budućnost digitalnog tržišta


Akt o digitalnim tržištima (Digital Markets Act, DMA) je još jedan od novih instrumenata pomoću koga se EU suprotstavlja koncentraciji moći tzv. “čuvara kapija”, odnosno velikih kompanija koje su dominantnim pozicijama ostvarile značajnu prednost u odnosu na konkurenciju. Očekivanja od DMA su velika, najviše kada je reč o slobodi korisnika da biraju digitalne proizvode i usluge. 

Koje su obaveze Mete, Gugla i ostalih čuvara kapija → SHARE Fondacija


PLUS:


Vodič za odgovore na sajber incidente namenjen civilnom društvu i medijima → Internews 

Obostrana enkripcija kao ključna mera zaštite naših podataka u klaudu → Lawfare 

Državna špijunaža korisnika putem iOS i Android notifikacija → Reuters 

Počelo suđenje povodom upotrebe Pegasus-a u Meksiku → The Record

Decenija „Have I been pwned“ servisa → Troy Hunt


PRIJAVITE SE NA SHARE BILTEN


Akt o digitalnim tržištima – svi za sve?

Nakon skoro dve godine od inicijalnog predloga, Akt o digitalim tržištima (Digital Markets Act – DMA) usvojen je i stupio je na snagu u novembru 2022. godine, nekih pola godine nakon svog “sestrinskog” Akta o digitalnim uslugama. Ovaj regulativni tandem značajno teži da utiče na reformu obaveza i ograničenja koje neke od najvećih onlajn platformi, i tehnoloških kompanija u čijem su posedu, imaju prema svojim korisnicima. Prema zaključcima Evropske komisije, ove velike platforme zbog svojih ogromnih brojeva korisnika predstavljaju nefer konkurente i podstiču monopolističke uslove u kojima manje kompanije pružaoci digitalnih usluga nemaju šanse da se sa njima takmiče. Iz tog razloga, uloga DMA je da spreči tehnološke čuvare kapija od učestvovanja u antikonkurentskim praksama. U prevodu, tehnološki giganti moraju da se igraju fer sa svim ostalim takmičarima u globalnoj ekonomiji pažnje. 

Ko su čuvari kapija (gatekeepers)?


U svojoj želji da reguliše i ponudi otvoreniji i transparentniji digitalni prostor za sve, DMA za cilj ima da omogući korisnicima onlajn servisa lakše kretanje i iskustvo na internetu. To u prevodu znači veću slobodu za korisnike da uz saglasnost biraju koje usluge datih kompanija žele da koriste bez obaveze prihvatanja celog paketa njihovih usluga. 

Prema zakonu, kompanije se kvalifikuju za poziciju čuvara kapija ako su dobro pozicionirane na tržištu (ostvaruju promet preko € 7,5 milijardi u prethodnoj godini), zahvataju veliku korisničku bazu (imaju u proseku 45 miliona aktivnih korisnika u EU) i zbog svoje rasprostranjenosti imaju mogućnosti da utiču na tržišne uslove (usluge koje nude čine značajni kanal između preduzeća i korisnika (core platform service)). 

Među čuvare mogu spadati kompanije koje nude usluge onlajn posredovanja, internet pretraživače, društvene mreže, platforme za deljenje videa, usluge instant komunikacije, operativne sisteme, veb pretraživače, virtuelne asistente, usluge čuvanja podataka i računarstva u oblaku (cloud services), kao i usluge oglašavanja na mreži, uključujući sve reklamne mreže, reklamne berze i bilo koje drugo oglašavanje koje kompanija kao posrednik može pružati. 

Važno je napomenuti da je Evropska komisija jedina koja može da odredi koje kompanije spadaju u čuvare kapija, i za sada se na tom spisku nalazi samo šest. 

Čuvari kapija u ovom smislu su trenutno najveće tehnološke kompanije koje komanduju najvećim delom tržišta – Alfabet, Amazon, Epl, Meta, Majkrosoft i BajtDens. Svaka od nabrojanih kompanija trenutno “drži” po neki ćošak interneta pod svojom kontrolom – Gugl (Alfabet) je ubedljivi broj jedan kada je u pitanju pretraživanje interneta, Meta kroz Fejsbuk, Instagram i Vacap kontroliše svet društvenih mreža i instant komunikacije, onlajn kupovina nalazi se u džepu nikoga drugog do Bezosa i Amazona, a Epl i Majkrosoft dele operativne sisteme i onlajn usluge u oblaku. Kao najmlađi član petorke, roditeljska kompanija Tiktoka, najbrže rastuće društvene mreže u istoriji, BajtDens je za manje od decenije došao do skoro 2 milijarde aktivnih korisnika i približava se Metinom ćošku.    

Ono što je obećavajuće je da će spisak ovih kompanija biti redovno razmatran i najkasnije na tri godine će biti utvrđivano da li je potupun ili zahteva izmene. U prevodu, kako bi se ostalo u stopu sa dinamičnim promenama u digitalnom prostoru, Evropska komisija će u kratkom roku ažurirati spisak i dodavati potencijalne nove čuvare kapija.

Nakon što su označene kao čuvari, kompanije će imati obavezu da se u roku od šest meseci odazovu kako bi objasnile Komisiji na koje načine planiraju da sprovedu pravila propisana zakonom, kao i da javno objave bilo kakve tehnike profilisanja korisnika koje su koristile u prošlosti i koje će morati godišnje da objavljuju. Provere kompanija će biti obavezne najmanje jednom godišnje  i Komisija će na osnovu tih provera objavljivati izveštaje za javnost o njihovom poslovanju, koje će sadržati transparentne podatke.

Glavni ciljevi DMA


Najvažniji cilj ove zakonske uredbe jeste da utiče na takozvanu demokratizaciju tržišta, odnosno da onemogući velikim tehnološkim kompanijama da učestvuju u nefer praksama koje sputavaju slobodnu razmenu informacija i decentralizovani internet. Kroz poravnavanje konkurencije i postavljanje jednakih uslova za sve, korisnicima će takođe biti proširen izbor usluga među kojim mogu da biraju. Među tim praksama posebno se izdvajaju: 

1. Samo-preferiranje (self-preferencing)

Prema DMA, kompanije koje su dobro pozicionirane na tržištu neće smeti da promovišu svoje servise iznad konkurentskih jer na taj način onemogućavaju manjim servisima da se takmiče sa njihovim. Iako je na samom početku ovo i bila zamisao Leri Pejdža i Sergej Brina kada su napravili Gugl, svetski pretraživač koji je nudio rezultate po njihovoj korisnosti i popularnosti, a ne po netransparetnom nameštanjem istih, danas je situacija drastično drugačija. Često se dogodi da odemo na Gugl u potrazi za informacijom i tek nakon što završimo pretragu shvatimo da nismo ni napustili pretraživač, a kamoli prvu stranu. Prema jednom istraživanju iz 2020. godine, utvrđeno je da se čak dve trećine Gugl pretraga završilo bez napuštanja naslovne strane pretraživača, odnosno bez klika ka organskim rezultatima. Ovo znači da Gugl neuporedivo više favorizuje sopstvene rezultate u pretragama umesto da dopušta korisnicima da pristupe rezultatima koji bi potencijalno bili korisniji ili bolje plasirani sami po sebi. Na ovaj način Gugl ovim drugim manjim stranicama uskraćuje saobraćaj kroz pristup korisnika, što je u njihovom slučaju ponekad i jedini način na privuku oglašivače.  

2. Vezivanje i grupisanje (tying and bundling)

U slučaju onlajn kupovine, Amazon koji kontroliše 82% posto tržišta i za neke male biznise predstavlja jedini kanal do kupaca, počeo je da prioritizuje svoje proizvode po sistemu preporuke, postavljajući ih na bolja mesta na samoj stranici i uglavnom nudeći povoljnije opcije ili primamljivije ponude kao što su kombinacije proizvoda. Cela priča postaje još gora kada postane jasno da Amazon dizajnove većine ovih proizvoda krade od tih manjih kompanija koje prodaju svoje uglavnom mnogo kvalitetnije, i samim tim skuplje, proizvode na njihovom sajtu. Ove prakse nazivaju se vezivanje i grupisanje (tying and bundling) i predstavljaju nekonkurentsko ponašanje od strane Amazona zbog kojeg je kompanija i tužena zbog održavanja monopolističkog okruženja. Pored malih prodavaca, sami korisnici su ugroženi ovim praksama jer se lanac saglasnosti za davanje ličnih podataka komplikuje. 

Pre DMA, ove velike kompanije nisu bile u obavezi da na transparentan način prikupljaju saglasnost od svojih korisnika, već se to ili radilo preko posrednika koji koriste ove servise na svojim sajtovima, ili su se korisnički podaci odavali servisima-saradnicima. Ovo je jedna velika tačka u DMA, jer je profilisanje korisnika i korišćenje podataka u svrhe oglašavanja problem koji zaslužuje mnogo više pažnje kako bi se rešio, dok je sama industrija onlajn oglašavanja često jako zatvorena i nejasna svakome ko je spolja posmatra. 

3. Nepoštene prakse trgovanja (podacima) (unfair trading practices)

U praktičnom smislu to znači da korisnici neće biti ograničeni samo na aplikacije koje su pravljene isključivo za Eplovu prodavnicu aplikacija, već će moći da na svoje uređaje instaliraju aplikacije koje se mogu naći i u Gugl Plej prodavnici ili čak aplikacije koje su kreirane nezavisno od operativnih sistema. Što se tiče samih kompanija kao što su Epl i Alfabet, one neće smeti proizvođačima ovih aplikacija da naplaćuju arbitrarne nadoknade kako bi uvrstili njihove aplikacije u svoju ponudu niti da onemogućavaju svojim korisnicima da isražuju usluge koje mogu da potiču od manjih i neetabliranih proizvođača.

Na ovaj način, podstriče se povećanje i otvaranje tržišta aplikacija i za manje programere i start ap kompanije koje žele da ponude svoje servise na nekim od najkorišćenijih uređaja bez da moraju da odvajaju velike sume kako bi se našli u katalogu. 

4. Pristup podacima (access to data)

Kao što je navedeno već, sve kompanije određene kao čuvari moraće da dostavljaju transparentne izveštaje o svojim praksama prikupljanja podataka ali i profilisanju svojih korisnika. Pored toga, kompanije će biti u obavezi da, po zahtevu, dele podatke (koji su prikupljeni uz eksplicitnu saglasnost korisnika) sa manjim preduzećima i oglašivačima koji rade na njihovim platformama. Na ovaj način će manja preduzeća imati priliku da personalizuju svoje usluge u skladu sa bazom korisnika kojoj služe na određenim platformama. 

Čuvari će takođe biti u obavezi da korisnicima dostave sve podatke koje od njih korisnici mogu da zatraže, bilo da je razlog uklanjanje istih ili promena davalaca usluga. Čuvari takođe moraju da dozvole korisnicima da u svakom trenutku povuku svoju saglasnost za deljenje svojih ličnih podataka i da to znači prestanak njihovog korišćenja. Takođe je važno da su sve ove opcije korisnicima predstavljene na jasan i vidljiv način, bez korišćenja tamnih šablona (dark patterns) za prikupljanje saglasnosti ili obmanu korisnika.  

5. Među-operabilnost (interoperability)

Kao jedan od najinteresantnijih zahteva celog zakona, čuvari će morati da rade na tome da ‘otvore’ svoje servise kako bi mogli nesmetano da funkcionišu sa drugim servisima koji nude iste usluge. Na primer kada je u pitanju instant komunikacija, prema DMA Vacap i Fejsbuk Mesendžer biće u obavezi da svojim korisnicima dopuste nesmetano dopisivanje sa drugim korisnicima koji ove servise nemaju bez da su ovi drugi u obavezi da ih instaliraju. 

Interesantno je da iako je na kraju odlučeno da iMessage nije jedan od Eplovih klučnih usluga, grupa evropskih telekomunikacionih kompanija, i Gugl, poslala su Evropskoj komisiji pismo u kojem traže da iMessage ipak bude uključen u DMA. To bi značilo da bi Epl morao da tretira ovu svoju uslugu kao platformu za instant komunikaciju što nikada u prošlosti nije eksplicitno navedeno, ali je primećeno od strane korisnika. Ovakva zatvorenost u okviru sopstvenog operativnog sistema omogućavao je Eplu da svojim korisnicima bliže približi ideju da je među-operabilnost moguća samo ako posedujete različite Eplove uređaje. 

Kakve su sankcije?


U slučaju nepoštovanja pravila postavljlenih od strane DMA, Evropska komisija direktno je odgovorna za izricanje kazne ovim velikim kompanijama, i što se istih tiče, biće osetne. U slučaju nesaglasnosti sa pravilima, kompanija će biti u obavezi da plati 10% svoje godišnje zarade, a u slučajevima da se isti prekršaji ponavljaju u periodu od osam godina cifra će rasti i do 20%. 

Šta sve ovo može da znači? 


Iako većina onoga što je nabrojano u DMA zvuči pozitivno i obećavajuće, važno je sačekati neko vreme kako bismo videli šta će sve ovo značiti u praksi. Koliko je velika petorka (plus BajtDens) spremna da sarađuje i izmeni svoje poslovne modele, u nekim slučajevima skroro pa do korena? Ove kompanije su prve svesne da u slučaju otvaranja tržišta i demokratizacije ponude postoji velika šansa da će njihove usluge pretrpeti (opravdane) gubitke. 

Iako su prve reakcije relativno umerene od strane američkih kompanija koje ispunjavaju uslove za čuvare kapija, BajtDens se pobunio oko svojeg uključivanja na spisak, uprkos tome što su prihvatili da ispunjavaju uslove. Određeni broj kompanija očekuje da će se naredne ili u narednih nekoliko godina pridružiti spisku i u ovom trenutku ostalo je da se vidi kako će prvi krug sprovođenja proći i kakav će primer velike tehnološke kompanije postaviti svojom (ne) saradljivošću.



Mila Bajić je glavna istraživačica SHARE Fondacije sa fokusom na odnos novih medija, tehnologije i privatnosti.

Čitaj još:

Usvojen predlog EU uredbe o veštačkoj inteligenciji

Kasno noću u petak, 8. decembra, završeni su dugotrajni pregovori o konačnoj verziji predloga zakona o veštačkoj inteligenciji (AI Act), dok se ove nedelje očekuje prvi od desetak tehničkih sastanaka na kojima će se precizirati detalji o primeni zakona.

Sudeći po prvim reakcijama, usvojena rešenja nisu do kraja ispunila očekivanja organizacija i aktivista za ljudska prava, ali ni lobista industrije i politika fokusiranih na bezbednost.

Između ostalog, navodi se da će “prediktivni” sistemi samo delimično biti zabranjeni, odnosno da nisu sve primene sistema veštačke inteligencije u radu policije i “predikciji” kriminala svrstane u grupu nedopustivih rizika – što je značajno slabija zaštita od one za koju su evroposlanici letos glasali. Konačno rešenje zabrane obuhvata neke prediktivne sisteme zasnovane na “ličnim odlikama i karakteristikama”, ali ne i geografske sisteme za predikciju kriminala koji su već u širokoj upotrebi među evropskim policijskim službama. Ovakva delimična zabrana, primećuju kritičari, otvara mogućnost da se kasnije stvaraju dodatni izuzeci za primenu.

Posebno zabrinjava opcija da se svaka primena sistema veštačke inteligencije u kontekstu “nacionalne bezbednosti” potpuno izuzme iz opsega uredbe, uključujući zabrane nedopustivih rizika i zahteve za transparentnost upotrebe.

Najteži deo pregovora odnosio se na zabrane, odnosno klasifikacije sistema AI kao nedopustivo rizične. Predlog koji je usvojen, kako navode oni koji su imali uvid, zabranjuje daljinsko biometrijsko prepoznavanje u realnom vremenu (real-time remote biometric identification, RBI) na javno dostupnim mestima – osim kada se koristi za pretragu konkretnih osumnjičenih osoba ili žrtava određenih krivičnih dela, za sprečavanje “konkretnih, značajnih i neposrednih pretnji životu ili fizičkoj bezbednosti fizičkih lica ili konkretnih, aktuelnih pretnji terorističkim napadom”, kao i za “ciljanu pretragu konkretnih žrtava otmice, trgovine ljudima i seksualne eksploatacije ljudi, kao i za pretragu nestale dece”.

Upotrebu RBI u javnom prostoru mora da odobri sud ili nezavisan organ i ograničena je vremenom i prostorom, dok ne sme da podrazumeva stalno poređenje svih ljudi na javnim mestima sa podacima iz kompletnih policijskih ili drugih baza. U hitnim situacijama, sudsko odobrenje mora se dati naknadno u roku od 24 sata.

Naknadno daljinsko biometrijsko prepoznavanje (ne u realnom vremenu, već na video snimcima) nije zabranjeno, već je klasifikovano u visokorizičnu kategoriju i dozvoljeno je samo kada ili postoji prethodno odobrenje suda, ili kada je upotreba neophodna u okviru istrage za ciljanu pretragu osobe osuđene ili osumnjičene za ozbiljno krivično delo koje se već dogodilo. Države članice EU mogu da uvedu strožije zakone o upotrebi sistema za naknadno daljinsko biometrijsko prepoznavanje.

Takođe, zabranjena je biometrijska kategorizacija, odnosno sistem koji “kategorizuje fizička lica na osnovu njihovih biometrijskih podataka da bi se dedukovali njihovi politički stavovi, članstvo u sindikatima, verska ili filozofska uvernja, pol ili seksualna orijentacija iz ovih biometrijskih podataka”.

Unete su zabrane koje se odnose na prepoznavanje emocija, neke primene visokorizičnih AI sistema u privatnom sektoru, dok su dopunjeni kriterijumi klasifikacije rizika.

Objavljivanje usvojene verzije regulative očekuje se narednih meseci.



Čitaj još:

Evropska promocija knjige SHARE Fondacije o biometrijskom nadzoru

Jedno od najobuhvatnijih istraživanja o upotrebi biometrijskih sistema širom sveta, knjiga SHARE Fondacije “Beyond the Face: Biometrics and Society” [Iza lica: Biometrija i društvo] predstavljena je u ponedeljak, 4. decembra u Berlinu i u sredu, 6. decembra u Briselu.

U Berlinu je promocija okupila zajednicu za zaštitu digitalnih prava i sloboda u prostorijama organizacije Tactical Tech, gde su autori sa prisutnima razmatrali pravne i društvene posledice masovnog biometrijskog nadzora.

U Evropskom parlamentu u Briselu organizovana je diskusija o ključnim nalazima studije, koju su otvorili evroposlanica Viola fon Kramon i evroposlanik Sergej Lagodinski. Kao ozbiljnu opasnost, evroposlanici su istakli potencijalni presedan u Srbiji sa primenom tehnologije za biometrijski nadzor ka stvaranju društva distopijskog nadzora. U diskusiji je učestvovao i Patrik Brejer, takođe poslanik u Evropskom parlamentu.

Promocija knjige u Briselu poklopila se sa završnom fazom trijaloga o novoj evropskoj regulativi veštačke inteligencije (AI Act) – poslanik Lagodinski je odmah nakon diskusije sa svojim primerkom knjige otišao u salu za pregovore o zabrani nedopustivo rizičnih sistema. Uticaj AI Akta imaće dalekosežne posledice po regulisanje i upotrebu sistema za biometrijski nadzor širom sveta, stoga je od izuzetnog značaja ovako detaljno dokumentovana analiza primene biometrijskog nadzora u različitim zemljama, iz perspektive problematičnih odredbi budućeg evropskog zakona koje bi mogle da legitimišu takve prakse.  

Studija društvenih posledica masovnog biometrijskog nadzora sadrži detaljan opis tehnologija različitih proizvođača koje javni i privatni akteri koriste za nadzor; komparativnu analizu propisa kojima je ova oblast regulisana u SAD, EU i nizu zemalja Afrike, Azije i Latinske Amerike; kao i neke od slučajeva praktične primene biometrijskog nadzora, od Mijanmara i Velike Britanije, do Njujorka i Beograda, a za potrebe kontrole granica, nadzora javnih prostora u velikim gradovima ili suzbijanja opozicionih aktivnosti.

Na preko 300 stranica, u tri osnovna segmenta – Tehnologija, Pravo, Praksa – knjiga upoznaje čitaoce sa aktuelnim globalnim iskustvom sukoba temeljnih ljudskih prava i profitom vođene industrije biometrijskog nadzora. Uprkos obilju dokaza, vlasti u državama širom sveta i dalje veruju da ovi sistemi doprinose bezbednosti društva.

Knjiga je slobodno dostupna, zasad samo na engleskom jeziku. Urednici izdanja su Ela Jakubovska (EDRi), Andrej Petrovski i Danilo Krivokapić (SHARE). Autori tekstova su Bojan Perkov (Tehnologija), Jelena Adamović i Duje Kozomara (Pravo), Mila Bajić i Duje Prkut (Praksa).



Čitaj još: