Podnete prekršajne prijave protiv Fejsbuka i Gugla

SHARE Fondacija je Povereniku za informacije od javnog značaja i zaštitu podataka o ličnosti podnela prekršajne prijave protiv Fejsbuka i Gugla zbog nepoštovanja obaveze da imenuju predstavnike u Srbiji za pitanja zaštite podataka o ličnosti. U maju ove godine, pre početka primene novog Zakona o zaštiti podataka o ličnosti, SHARE Fondacija je poslala pisma na adrese 20 svetskih kompanija i pozvala ih da imenuju predstavnike u Srbiji, u skladu sa novim zakonskim obavezama.

Imenovanje predstavnika ovih kompanija nije formalnost, već pitanje od suštinskog značaja za ostvarenje prava građana Srbije propisanih Zakonom. U trenutnim okolnostima, kompanije kao što su Gugl i Fejsbuk posmatraju Srbiju, kao i mnoge zemlje u razvoju, kao teritorije za neregulisanu eksploataciju privatnih podataka građana, iako se Srbija novim Zakonom o zaštiti podataka uskladila sa pravilima jedinstvenog evropskog digitalnog tržišta. Naime, navedene kompanije prepoznaju Srbiju kao relevantno tržište, te nude svoje usluge građanima Republike Srbije i prate njihove aktivnosti. U toku poslovanja, ove kompanije obrađuju veliki broj podataka građana Srbije i na tome ostvaruju ogroman profit. S druge strane, građanima su novim Zakonom garantovana brojna prava u odnosu na ovakvu obradu, ali se trenutno čini da bi ostvarivanje tih prava bilo suočeno sa brojnim poteškoćama.

Između ostalog, ove kompanije ne obezbeđuju jasne kontaktne tačke kojima se naši građani mogu obratiti – na raspolaganju su im uglavnom formulari za prijavu koji su na stranom jeziku. Naše iskustvo je pokazalo da takvi formulari nisu adekvatni jer zahtevaju od građana Srbije napredno znanje stranog jezika, ali i zbog toga što ovu vrstu komunikacije najčešće vrše programi koji šalju generičke automatizovane odgovore.

Iako novčane kazne po domaćem Zakonu o zaštiti podataka o ličnosti koje može da izrekne Poverenik, u ovom slučaju u iznosu od 100.000 dinara, svakako ne bi imale velike posledice po budžete ovih gigantskih kompanija, smatramo da bi pokazale da nadležni organi Republike Srbije nameravaju da zaštite naše građane te da ove kompanije ne posluju u skladu sa domaćim propisima.

Prekršajna prijava protiv Gugla

Prekršajna prijava protiv Fejsbuka

“Beazley Designs of the Year 2019” nagrada za Anatomiju AI sistema

Esej Anatomija AI sistema Vladana Jolera i Kejt Kroford osvojio je “Beazley Design of the Year” nagradu za dizajn godine. Dodela nagrada i prateća ceremonija održavaju se u londonskom Muzeju dizajna svake godine, a imaju za cilj da predstave originalne i inovativne dizajne u različitim oblastima. Izabrano je još pobednika iz šest kategorija: proizvodi, transport, grafika, moda, digitalna umetnost i arhitektura. Pobednički dizajni, zajedno sa još 70 nominacija, biće prikazani u muzeju do 9. februara 2020. godine.

Anatomija AI Sistema takođe je, pored glavne nagrade, osvojila i nagradu iz kategorije digitalne umetnosti, gde su neki od konkurenata bili sajt koji stvara lažne portrete (“This person doesn’t exist”), virtuelni asistent kojim upravljaju misli (“Alterego”) i sistem koji trenira algoritme kako da uče (“Myriad – Tulips”). Prošlogodišnji pobednik godine za sve kategorije bila je Counter Investigations, izložba forenzičke arhitekture na Institutu za savremenu umetnost u Londonu, koja je pobedila i u kategoriji digitalne umetnosti. Godine 2017. za glavnu nagradu je izabran Nacionalni muzej afroameričke istorije i kulture, dok je u kategoriji digitalne umetnosti za pobednika izabrano brzo tečno štampanje (Self-Assembly Lab, u kolaboraciji sa Steelcase).

Anatomija AI sistema je prikaz složene mape eksploatacije ljudskog rada, podataka i prirodnih resursa, kroz prizmu jednog “Amazon Eho” uređaja. Ovaj uređaj pokreće Aleksa govorni asistent. Odnosi koji se razvijaju kroz procese “rađanja”, funkcionisanja i smrti “Amazon Eho” jedinice imaju mnogo dublje posledice po društvo, ekonomiju, politiku i životnu sredinu nego što se na prvi pogled čini, upravo zbog složenosti razvoja jednog sistema veštačke inteligencije (AI) koji zahteva ogromne količine resursa kao što su kapital, rad i priroda. Od ručnog iskopavanja retkih metala u Africi, preko dehumanizujućih uslova rada u kineskim fabrikama do gotovo potpuno automatizovanih Amazonovih skladišnih centara, stvara se nova akumulacija moći i bogatstva koja se koncentriše u veoma tankom socijalnom sloju, kome pripadaju ljudi poput direktora kompanije Amazon Džefa Bezosa, jednog od najbogatijih ljudi današnjice.

Promocija knjige “Greška 404”: Izazovi u digitalnoj sferi sve brojniji

Promocija knjige “Greška 404: Digitalna prava u Srbiji 2014-2019” održana je u utorak, u 18 časova, u “Spratu”. Na promociji su govorili Svetlana Lukić, urednica portala Peščanik,  Rodoljub Šabić, bivši Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti, Milica Šarić, urednica CINS-a i Andrej Petrovski, direktor SHARE CERT-a.

Uvodnu reč imao je direktor SHARE Fondacije Danilo Krivokapić. On je istakao da je u Srbiji internet slobodan i otvoren na nivou mreže, što je privilegija koju verovatno većina svetskog stanovništva nema. Ipak, postoji težnja da se uspostavi kontrola nad informacija u Srbiji i da to pokazuje 500 slučajeva povreda digitalnih prava koje je zabeležila SHARE Fondacija u ovom periodu. Napomenuo je i da su izazovi u digitalnoj sferi brojni, da druga strana ulaže sve više resursa u nove tehnologije i veštačku inteligenciju kao oruđe za nadzor i kontrolu informacija.

Svetlana Lukić, urednica portala Peščanik istakla je da su napadi na Peščanik počeli 2008. godine, te da su kulminirali 2014. godine, nakon objavljivanja tekstova o doktoratima Nebojše Stefanovića i Siniše Malog. Ona je rekla da su ovi napadi prijavljivani, ali nisu dobijeni adekvatni odgovori od tužilaštva. Takođe, Lukić je naglasila da napadi na internetu brzo prerastu u fizičko nasilje i koliko je lako postati državni neprijatelj. Nije potrebno, kaže ona, da ljudi čuju emisije ili pročitaju tekstove, dovoljno je da neko čuje da je reč o neprijateljima, da bi se postala meta pretnji, pa čak i fizičkih napada, što se urednicama Peščanika mnogo puta dešavalo.

Bivši Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti Rodoljub Šabić dao je primer Srbije kao zemlje u kojoj je uspela da se kompromituje kompletna baza podataka punoletne populacije na sajtu Agencije za privatizaciju, kao i najosetljiviji podaci o građanima preko aplikacije Izabrani doktor. Šabić se osvrnuo i na lošu MUP-ovu procenu uticaja obrade na zaštitu podataka o ličnosti korišćenjem sistema video nadzora, na koju su SHARE Fondacija, Partneri za demokratske promene Srbija i Beogradski centar za bezbednosnu politiku dali dobru Analizu.

Milica Šarić izdvojila je nekoliko primera tehničkih napada koji su se dešavali redakciji “CINS-a”. Ona je istakla da je svaka vrsta forme gde ljudi mogu da ostave nešto na sajtu, kao na primer formular ili anketa, prestavlja rizik napada na sajt. Pored toga, Šarić je napomenula da novinari u CINS-u imaju problema da objasne ljudima koji žele da im dostave poverljive informacije da to ne mogu da urade preko telefona i društvenih mreža, jer se oni prisluškuju i prate.

Završnu reč na panelu imao je direktor SHARE CERT-a Andrej Petrovski, koji je istakao da ako se ovakve povrede digitalnih prava i siutacije koje su doživljavali autori priča u knjizi nastave, samo će naterati sve veći broj mladih i hrabrih ljudi da prestanu da se bave ovakvim temama, a ništa ne ukazuje da će se trenutno stanje poboljšati. 

MUP do daljeg da obustavi uvođenje sistema za pametan video nadzor

EDIT (26. novembar 2019, 11:18h): Nakon objavljivanja ovog teksta, Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti objavio je mišljenje o MUP-ovoj proceni uticaja za sistem pametnog video nadzora u Beogradu. Poverenik je u mišljenju utvrdio da procena uticaja nije urađena u skladu sa relevantnim odredbama Zakona o zaštiti podataka o ličnosti. Mišljenje je dostupno na ovom linku: https://praksa.poverenik.rs/predmet/detalji/FB967E2A-AE57-4B2C-8F11-D2739FD85A9B.

Uvođenje pametnog video nadzora, sa hiljadama kamera u javnom prostoru i softverom za prepoznavanje lica, uz protivrečne izjave funkcionera i uskraćivanje informacija, izazvalo je opravdanu zabrinutost u javnosti. Od najave novog sistema, organizacije građanskog društva su nastojale da prate usklađenost procedura sa Ustavom Srbije i važećim zakonima, uprkos netransparetnosti čitavog procesa od strane nadležnih institucija.

Jedan od značajnih segmenata zakonite procedure jeste i izrada procene uticaja novog sistema nadzora na prava građana. SHARE Fondacija, Partneri za demokratske promene Srbija i Beogradski centar za bezbednosnu politiku konačno su dobili ovaj dokument posrednim putem, od Poverenika za informacije od javnog značaja i zaštitu podataka o ličnosti.

Organizacije su izradile i objavile detaljnu analizu Procene uticaja obrade na zaštitu podataka o ličnosti korišćenjem sistema video nadzora Ministarstva unutrašnjih poslova. Zajednički zaključak analize glasi da Procena uticaja MUP-a ne ispunjava ni formalne ni materijalne uslove propisane zakonom. Shodno tome, Ministarstvo unutrašnjih poslova bi trebalo da do daljeg obustavi uvođenje sistema za pametan video nadzor.

Procena uticaja ne ispunjava minimum propisanih zakonskih elemenata: metodologija izrade i struktura Procene uticaja nisu usaglašeni sa zahtevima zakona; ne postoji sveobuhvatan opis predviđenih radnji obrade ličnih podataka; nisu procenjeni rizici po prava i slobode građana; nisu opisane mere koje se nameravaju preduzeti u odnosu na postojanje rizika; delimično su opisane tehničke, organizacione i kadrovske mere u cilju zaštite ličnih podataka.

Sporan je pravni osnov za masovno korišćenje sistema pametnog video nadzora, dok su pozitivni efekti na smanjenje kriminaliteta izneti u Proceni uticaja precenjeni usled činjenice da su relevantna istraživanja i uporedna praksa korišćeni selektivno. Takođe, Procenom uticaja nije utvrđeno da je upotreba pametnog video nadzora neophodna zarad javne bezbednosti, niti da je upotreba ovako invazivne tehnologije proporcionalna, imajući u vidu rizike po prava i slobode građana.

Procena uticaja sadrži primere zemalja koje se umnogome oslanjaju na video nadzor, ali se zanemaruje rastući trend zabrane ili ograničavanja ovakvih sistema u svetu, zbog prepoznatih rizika.

Organizacije pozivaju MUP da do daljeg obustavi uvođenje sistema za pametan video nadzor, te naglašavaju potrebu da se sprovede široka javna rasprava o potrebama, efektima i mogućim posledicama uvođenja ovakvog sistema.

MUP – Procena uticaja obrade na zaštitu podataka o ličnosti korišćenjem sistema video nadzora

SHARE Fondacija, Partneri za demokratske promene Srbija i Beogradski centar za bezbednosnu politiku – Analiza MUP-ove procene uticaja

Digitalna prava u Srbiji – predstavljamo petogodišnji presek stanja

Promocija knjige “Greška 404: Digitalna prava u Srbiji 2014-2019” održaće se 19. novembra u Spratu (Cetinjska 15, sprat Zaokreta) u 18 časova.

Tim SHARE Fondacije je pre pet godina počeo da dokumentuje povrede digitalnih prava i sloboda u Srbiji i do sada klasifikovao i opisao više od 500 slučajeva. Pored ličnog svedočenja ljudi koji su bili na meti napada, knjiga sadrži analizu nekih od najznačajnijih slučajeva, kao i trendova u domaćim i međunarodnim okvirima bezbednosti na internetu. Na promociji govore Svetlana Lukić (portal Peščanik), Dragana Pećo (KRIK), Branko Čečen (CINS) i Rodoljub Šabić (bivši Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti).

Knjiga tematski pokriva pojedine oblasti monitoringa digitalnih prava, odnosno tehničke napade, povrede privatnosti, pretnje i pritiske, onlajn manipulacije, kao i druge vrste rizika. Kroz hronološki pregled, analizu najzanimljivih slučajeva i nadolazećih trendova, donosimo sveobuhvatan pogled na preovlađujuće stanje prava i sloboda na internetu u Srbiji i ono što nas može očekivati u budućnosti.

Digitalna verzija knjige će biti slobodno dostupna, dok će svi koji doniraju 1000 ili više dinara dobiti štampani primerak publikacije.

Od ove godine proces monitoringa je u saradnji sa istraživačkom mrežom BIRN proširen na zemlje regiona – Bosnu i Hercegovinu, Hrvatsku, Mađarsku, Rumuniju i Severnu Makedoniju.

Monitoring baza SHARE Fondacije, u kojoj su dokumentovani i opisani slučajevi povreda digitalnih prava u Srbiji, dostupna je na adresi monitoring.labs.rs.

Ruski zakon o internetu – preventivna mera ili put ka potpunoj kontroli

U Rusiji je od 1. novembra počeo da se primenjuje Savezni zakon br. 90-FZ, koji se u medijima naziva zakonom o “suverenosti interneta”. Zakon utvrđuje pravila za funkcionisanje internet saobraćaja i njegovo praćenje, tako da informacije kojima internet korisnici u Rusiji pristupaju što manje mogu proći kroz strane servere, navodno da im strane obaveštajne službe ne mogu pristupati.

Zakonom bi trebalo da se osigura stabilnost i neprekidan pristup internetu u zemlji, odnosno stvaranje nezavisne infrastrukture za odvojen ruski internet, ili “Runet”. Do sada je ruski segment interneta zavisio od globalne mrežne infrastrukture, a autori zakona smatraju da ruski internet treba da bude nezavisan i otporan na spoljne uticaje. Zbog toga je planirano pooštravanje kontrole nad internet saobraćajem u zemlji i instaliranje specijalne opreme kod internet operatora kako bi se lakše blokirale “nepoželjne” veb stranice.

Dodatno je predviđeno stvaranje nezavisnog ruskog sistema imena domena (DNS). Planirano je da ta mera stupi na snagu u januaru 2021. Kako je DNS međunarodno kontrolisan sistem, u slučaju da se ruski internet “odseče” od ostatka globalne mreže, neophodno je da postoji nacionalna verzija DNS-a koja će omogućiti pristup onlajn resursima.  Međutim, ostaje nejasno je li izolacija koju su ruske vlasti planirale tehnički izvodljiva. Između ostalog, ona zahteva od svih ruskih provajdera i drugih pružalaca usluga da instaliraju tehnologiju koja omogućava nadležnom organu za komunikacije, Roskomnadzoru, da blokira internet saobraćaj. Takođe, svake godine će se održavati redovne vežbe “izolacije” interneta. U slučaju incidenta, ruski internet će biti kontrolisan centralno, a Roskomnadzor će preuzeti kontrolu.

Zakon takođe predviđa uvođenje novih tehničkih mera na komunikacionim mrežama kojima se mogu blokirati neprimerene informacije zabranom prolaska saobraćaja. U obrazloženju zašto je ovaj zakon potreban, autori zakona obrazlažu da su odnosi između Rusije i zapadnih zemalja napeti, te da strane zemlje Rusiji nameću sankcije, pa postoji bojazan da će se Rusija možda uskoro naći u digitalnoj izolaciji. Kao jedan od argumenata navedena je činjenica da zapadne zemlje tehnički mogu da “isključe” Rusiju sa interneta. Nakon uvođenja zasebnog ruskog interneta, slika bi trebalo da se promeni: čak i ako je Rusija izolovana, nacionalna mreža treba dobro da funkcioniše. Autori zakona napominju da, zbog sadašnjeg internet saobraćaja koji nije ni na koji način kontrolisan i nema nacionalnu vezu, saobraćaj prolazi kroz mnoge pristupne tačke u Rusiji i inostranstvu, te da su zbog toga podaci građana Rusije ugroženi. Prema novim pravilima, izlazni internet saobraćaja u inostranstvo biće minimalan. Svi provajderi će morati da instaliraju posebnu opremu koja će omogućiti da se odredi izvor internet saobraćaja i kontroliše njegova putanja, a sve prekogranične razmene će se nalaziti u jednom registru radi bolje kontrole izlaza podataka u inostranstvo.

Sa druge strane, kritičari zakona su ubeđeni u suprotno, tj. da ne postoji opasnost da isključe Rusiju sa svetske mreže, a da državni organi sada mogu izolovati zemlju od celog sveta i brže blokirati neželjene internet resurse i usluge. Rusi strahuju da je zakon usmeren na to da se već problematični nivo internet sloboda dodatno umanji. Suvereni “Runet” poredi se sa kineskim sistemom državne kontrole interneta. Nova oprema će omogućiti vlastima u Rusiji da bilo kada prekinu vezu sa svetskim internetom. U ovom slučaju, popularne veb aplikacije i sajtovi kao što su Gugl, Jutjub, Fejsbuk, Instagram i mnogi drugi postaju nedostupni.

Internet je bio preplavljen raspravom o tome da li će ovaj zakon zaista stupiti na snagu u Rusiji, te su organizovani i skupovi “Za slobodu interneta” ovog proleća, na kojima se okupilo više od 10.000 ljudi. Međutim, protesti nisu doveli do rezultata, jer je Duma usvojila zakon 16. aprila, a 22. aprila ga je odobrilo Veće Federacije. Predsednik Vladimir Putin potpisao je dokument 1. maja.

Pristup bez transparentnosti – praksa zadržavanja podataka u 2018.

U odnosu na prethodne godine, nemamo više jasnu informaciju o direktnim pristupima zadržanim podacima o komunikacijama građana Srbije koje ostvaruju policija i službe bezbednosti. Informacije kojima smo raspologali ukazivale su da je bazama zadržanih podataka, koje skladište operatori telefonije i interneta, direktno pristupano više stotina hiljada puta.

Pojam “zadržani podaci” u oblasti elektronskih komunikacija odnosi se na metapodatke, tj. podatke o komunikaciji: automatski generisane informacije o tome s kim smo razgovarali, gde, koliko dugo i uz pomoć kojih uređaja, uključujući i uređaje koji posreduju u komunikaciji (ruteri, serveri provajdera, bazne stanice/antene i slično). Sadržaj razgovora se ne nalazi u metapodacima.

Šta sve čini zadržane podatke definisano je Zakonom o elektronskim komunikacijama, kojim je utvrđena i obaveza operatora (provajdera telefonskih i internet usluga) da čuva zadržane podatke 12 meseci od dana obavljene komunikacije svih svojih korisnika. Zakonom je takođe definisano ko i pod kojim uslovima sme da pristupa ovim podacima, te na koji način se takav pristup dokumentuje i prati. Ovim ograničenjima štite se prava i slobode građana, a ugrađena su u Ustav i zakone Srbije.

Pristup zadržanim podacima nadležne službe, isključivo na osnovu odluke suda, mogu ostvariti direktno, preko povezanih uređaja opremljenih odgovarajućim softverom, ili na osnovu pisanih zahteva dostavljenih provajderu. U prvom slučaju, provajderi evidentiraju pristupe svojim bazama kroz serverske logove, dok se pisani zahtevi ručno evidentiraju.

Mada je Evropski sud pravde pre tri godine proglasio opšte, neselektivno zadržavanje podataka o komunikaciji neopravdanom i vrlo invazivnom merom, nespojivom sa demokratskim društvom, mnoge države Evropske unije i dalje primenjuju ovu praksu.

Nezavisna kontrolna tela, poput nacionalnih poverenika za informacije, kao i stručne i aktivističke organizacije predstavljaju značajan oslonac građanima da se njihova prava neće narušavati, odnosno da će dobiti adekvatnu zaštitu u slučaju da je do narušavanja došlo.

SHARE Fondacija je pre četiri godine počela da se bavi praksom pristupa zadržanim podacima u Srbiji, posebno iz perspektive zaštite ustavnih prava građana i poštovanja zakonskih obaveza operatora i službi kojima je pristup omogućen pod određenim uslovima.

Prva analiza ticala se nadzora koji je Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti sproveo nad provajderima usluga mobilne i fiksne telefonije tokom 2012. godine. Sledeći put, bavili smo se evidencijama koje su provajderi dostavili Povereniku u periodu od 2014. do 2016, dok smo prošle godine analizirali evidencije za 2017.

Zahvaljujući zakonskoj obavezi operatora da dokumentuju sve pristupe zadržanim podacima svojih korisnika, a godišnje izveštaje o tome redovno dostavljaju Povereniku, zainteresovana javnost je u prilici da stekne uvid u razmere ovog segmenta elektronskog nadzora građana.

Tačnije, javnost bi bila u takvoj prilici u slučaju da operatori telefonskih i internet usluga u Srbiji poštuju zakon. Evidencije pristupa zadržanim podacima koje operatori dostavljaju Povereniku sadrže sve manje obaveznih informacija, a ovakvim običajima priklonio se na kraju i Telenor, koji je godinama dostavljao najdetaljnije izveštaje.

U skladu sa zakonskom procedurom, SHARE Fondacija je od Poverenika zatražila evidencije operatora za 2018. godinu. Analiza njihovog sadržaja ukazuje da stepen transparentnosti rada provajdera u Srbiji iz godine u godinu opada. 

Trogodišnji rast broja zahteva za pristup nakratko je prekinut 2017. ali je u prethodnoj godini opet došlo do blagog porasta. Polovina ukupno evidentiranih zahteva kod tri najveća operatora upućena je kompaniji Telekom Srbija koja je u većinskom državnom vlasništvu.

Udeo zahteva za pristup zadržanim podacima kod tri najveća operatora

Nijedan provajder u svoje izveštaje Povereniku nije uključio evidenciju direktnih pristupa bazama zadržanih podataka. Do prethodne godine, Telenor je jedini evidentirao ovu vrstu pristupa, ali je u izveštaju za 2018. naveden samo broj pisanih zahteva.

Svi operatori u svojim izveštajima navode da su ispunili samo zahteve za pristup  podacima koji nisu stariji od 12 meseci, ali ove tvrdnje više nije moguće proveriti – ranije su operatori evidentirali  period kada su zadržani podaci i vreme kada im je zatražen pristup.

Telenor

Prema dostavljenoj evidenciji, pisani zahtevi podneti Telenoru tokom prethodne godine su malobrojni. Telenor u svom izveštaju navodi da je primio 390 zahteva za pristup zadržanim podacima, od čega je pozitivno odgovorio na 330. Ova kompanija i dalje evidentira pravni osnov primljenih zahteva za pristup: 242 zahteva je podneto po osnovu člana 286 Zakonika o krivičnom postupku koji uređuje ovlašćenja policije, što znači da ako postoje osnovi sumnje da je izvršeno krivično delo za koje se goni po službenoj dužnosti, policija je dužna da preduzme potrebne mere da se pronađe učinilac krivičnog dela, da se učinilac ili saučesnik ne sakrije ili ne pobegne, da se otkriju i obezbede tragovi krivičnog dela i predmeti koji mogu poslužiti kao dokaz, kao i da prikupi sva obaveštenja koja bi mogla biti od koristi za uspešno vođenje krivičnog postupka.

U izveštaju Telenora se precizira da je po primljenim zahtevima ukupno izvršeno 9.345 pretraga baznih stanica kao i 181 pretraga IP adresa.

Telenor je prestao da dostavlja Povereniku podatke o samostalnim pristupima državnih organa zadržanim podacima, kojih je tokom 2017. godine bilo 381.758. Takođe, ovog puta su izostavljene informacije o organima koji su tražili pristup zadržanim podacima.

Vip

Vip navodi da je u 2018. godini imao 222 zahteva, a  na sve zahteve odgovoreno je pozitivno. Poređenja radi, u 2017. godini Vip je odbio oko 30% zahteva nadležnih organa. Ovaj operator u svom izveštaju beleži podatke o tome ko je podnosilac zahteva, te je tako tokom 2018. godine najviše zahteva uputila Uprava kriminalističke policije Ministarstva unutrašnjih poslova, skoro 85% zahteva, dok su ostale zahteve za pristup uputili različiti osnovni i viši sudovi kao i osnovna tužilaštva.

Vip je prestao da evidentira podatke o pravnom osnovu zahteva za pristup zadržanim podacima.

Telekom Srbija

Najveći operator usluga mobilne telefonije, Telekom Srbija, dostavio je Povereniku izveštaj koji ne pruža širi kontekst i detalje, već samo podatke o ukupnom i ispunjenom broju primljenih zahteva, te broju zahteva koji se odnose na podatke starije od 12 meseci. Prema izveštaju za prethodnu godinu, ova kompanija je primila 615 zahteva dok je 501 zahtev ispunjen, uz napomenu da nije ispunjen nijedan zahtev koji se odnosi na podatke starije od godinu dana.

Statistike internet operatora

Operatori koji pružaju usluge interneta takođe su u obavezi da dostavljaju odgovarajuće izveštaje Povereniku, pa se iz tih evidencija može videti da se ukupan broj zahteva upućenih internet operatorima povećao za oko 20% u odnosu na prethodnu godinu: tokom 2018. godine upućeno je ukupno 204 zahteva za pristup zadržanim podacima, od čega je pozitivno odgovoreno na njih 149. Samo kompanija SBB primila je 140 zahteva, što je skoro duplo više nego 2017. godine.

Pristup zadržanim podacima komunikacije na internetu

Osim provajdera usluga, obavezu da Povereniku šalju godišnje izveštaje o pristupu zadržanim podacima imaju i oni koji takve zahteve upućuju.

MUP i VBA

Iz izveštaja koji je policija dostavila Povereniku vidljivo je smanjenje poslatih zahteva za skoro 12.000 u odnosu na prethodnu godinu: MUP je tokom 2018. godine poslao ukupno 115.713  zahteva za pristup, od čega je ispunjeno 115.698.

S obzirom na značajnu razliku u broju zahteva koje je evidentirao MUP i onih koje su prijavili operatori, otvoreno je pitanje tačnosti evidencija operatora, kao i zakonitosti načina na koji MUP pristupa zadržanim podacima. 

Ukupan broj zahteva za pristup koje je 2018. godine uputila Vojno-bezbednosna agencija (VBA) iznosi 4.654, što je za nekih 30% više nego prethodne godine. Zanimljivo je primetiti i da je na sve zahteve VBA odgovoreno pozitivno.

Posebno značajan podatak iz izveštaja VBA govori da su svi pristupi ove agencije upućeni  VIP-u, Telenoru i Telekomu, ostvareni putem pristupnih aplikacija operatora. To je indirektna potvrda da sva tri operatora imaju aplikacije za podnošenje zahteva ali da ne vode, ili ne dostavljaju evidenciju o tome. Operatori, naime, u svojim izveštajima navode da su ukupno primili 1227 zahteva, dok izveštaj VBA sadrži skoro četiri puta veći broj. Takođe, sporno je pitanje sudske odluke, odnosno pravnog osnova za pristupanje zadržanim podacima.

Zahtevi policije i Vojno-bezbednosne agencije

BIA

Bezbednosno-informativna agencija vodi evidenciju o zahtevima koji su upućeni sudovima i višim javnim tužilaštvima. Prema izveštaju za  prethodnu godinu na osnovu Zakona o BIA Višem sudu u Beogradu upućeno je 29 zahteva, od kojih je ispunjeno 26, dok je na osnovu Zakonika o krivičnom postupku višim javnim tužilaštvima upućeno 1.086 zahteva, od kojih je ispunjeno 1.071. U odnosu na 2017, broj zahteva koje je podnela BIA smanjen je za oko 30%.

Zahtevi BIA za pristup zadržanim podacima

Šta nas čeka?

U uslovima smanjenja transparentnosti pristupa zadržanim podacima, promenjenih praksi operatora i najave uvođenja još jednog sloja prikupljanja podataka kroz registrovanje pripejd SIM kartica, smatramo da je od izuzetnog značaja da se preispitaju legalnost i proporcionalnost direktnih pristupa bazama zadržanih podataka. Ono što takođe ne znamo jeste da li se direktni pristupi ostvaruju uz priložene odluke suda.

Dodatno, izmenama Zakona o elektronskoj trgovini, propisa koji uređuje pružanje usluga informacionog društva i komercijalne aspekte onlajn okruženja, uvedena je obaveza da pružalac usluga informacionog društva koji prenosi elektronske poruke korisnika čuva podatke o korisniku, a naročito podatke o IP adresi sa koje korisnik pristupa uslugama. Ova obaveza, propisana članom 16, stav 3 Zakona, važi tokom pružanja usluge informacionog društva i minimum 30 dana nakon prestanka pružanja usluge korisniku. Može se reći da je na ovaj način uvedena obaveza zadržavanja podataka ne samo na nivou tehničke infrastrukture, odnosno telekom operatora, već i na nivou pružalaca sadržaja. Iako pristup nadležnih organa ovim podacima nije eksplicitno propisan zakonom, možemo da pretpostavimo da će se podacima korisnika usluga informacionog društva pristupati na sličan način kao što je to slučaj sa operatorima.

Otvoreno pismo: Fejsbukovi planovi za end-to-end bezbednost

4. oktobar 2019.

Dragi gospodine Zakerberg,

Organizacije potpisane ispod vam pišu kako bi vas podstakle da nastavite da povećavate end-to-end bezbednost komunikacije na Fejsbukovim servisima za razmenu poruka.

Videli smo zahteve vlada SAD, Ujedinjenog Kraljevstva i Australije, koje traže od vas da obustavite ove planove “dok Fejsbuk ne bude mogao da garantuje da pojačana privatnost ne smanjuje javnu sigurnost”. Verujemo da one to posmatraju na potpuno pogrešan način: svaki dan kojim platforme ne podržavaju jaku end-to-end sigurnost je novi dan da podaci procure, da se njima pogrešno rukuje ili da ih na drugi način pribave moćni entiteti ili akteri sa lošim namerama kako bi ih zloupotrebili.

S obzirom na značajan domet Fejsbukovih servisa za razmenu poruka, obezbeđivanje podrazumevane end-to-end bezbednosti komunikacije pružiće značajan doprinos slobodi izražavanja širom sveta, javnoj bezbednosti i demokratskim vrednostima, te vas podstičemo da nastavite sa svojim planovima za enkripciju poruka u Fejsbuk proizvodima i uslugama. Ohrabrujemo vas da se oduprete pozivima za stvaranje takozvanih “sporednih ulaza” ili mogućnosti “specijalnog pristupa” sadržaju poruka korisnika, što će u osnovi oslabiti enkripciju, privatnost i sigurnost svih korisnika.

S poštovanjem,

AfroLeadership

Access Now

ACM US Technology Policy Committee

American Civil Liberties Union

Americans for Prosperity

ARTICLE 19

Association for Progressive Communications (APC)

Asociación por los Derechos Civiles (ADC), Argentina

Bolo Bhi

Canadian Internet Registration Authority

Centro de Ensino e Pesquisa em Inovação (CEPI), FGV Direito SP, Brasil

Center for Democracy & Technology

Center for Studies on Freedom of Expression (CELE), Universidad de Palermo

Defending Rights & Dissent

Derechos Digitales, América Latina

Digital Rights Watch

Državljan D

Electronic Frontier Foundation

Electronic Privacy Information Center

Engine

epicenter.works – for digital rights

Fight for the Future

Free Press

Freedom of the Press Foundation

Fundación Karisma, Colombia

Future of Privacy Forum

Global Forum for Media Development

Global Partners Digital

Hiperderecho, Peru

Human Rights Watch

Index on Censorship

Instituto de Referência em Internet e Sociedade (IRIS), Brazil

Instituto de Tecnologia e Sociedade do Rio de Janeiro (ITS)

International Media Support (IMS)

Internet Society

Internet Society – Bulgaria

Internet Society UK England Chapter

Internews

ISUR, Universidad del Rosario, Colombia

IT-Political Association of Denmark

Iuridicum Remedium, z.s.

LGBT Technology Partnership

National Coalition Against Censorship

New America’s Open Technology Institute

Open Rights Group

OpenMedia

Paradigm Initiative

PEN America

Prostasia Foundation

R3D: Red en Defensa de los Derechos Digitales

Ranking Digital Rights

Restore The Fourth, Inc.

Samuelson-Glushko Canadian Internet Policy & Public Interest Clinic (CIPPIC)

SHARE Foundation

SMEX

S.T.O.P. – The Surveillance Technology Oversight Project

TechFreedom

Vrijschrift

Monitoring digitalnih prava za šestomesečni period obeležilo algoritamsko blokiranje sadržaja

U periodu od aprila do septembra 2019. godine, SHARE Fondacija zabeležila je 54 slučajeva povreda digitalnih prava u Srbiji. Kategorija u kojoj su digitalna prava ubedljivo najviše kršena jeste kategorija pritisaka zbog izražavanja i aktivnosti na internetu, što prati trend iz prethodnog perioda monitoringa. Budući da se bližimo godini u kojoj će se održati parlamentarni izbori, a upoređeno sa prethodnim iskustvom, nema naznaka da će se ovakva praksa smanjiti. Nekoliko upečatljivih slučajeva koji su se dogodili u ovom periodu monitoringa ticali su se i kategorije blokiranja i filtritanja sadržaja, kao i povreda informacione privatnosti i zaštite podataka o ličnosti.

Zanimljivo je da su se, od šest zabeleženih slučajeva povrede blokiranja i filtriranja sadržaja, u septembru dogodilo čak pet slučajeva i to iz potkategorije algoritamskog blokiranja ili suspenzije sadržaja. Tako je Danasov nalog na Tviteru sedam dana bio blokiran. Naime, na zvaničnom nalogu kao “datum rođenja” stavljena je 1997. godina, odnosno godina osnivanja ovog medija. Tviter je obavestio Danas da je nalog zaključan jer nisu ispoštovana pravila korišćenja te platforme, koja podrazumevaju da nalog na ovoj mreži mogu imati samo stariji od 13 godina, te da u trenutku kreiranja Tviter naloga dnevni list Danas nije “bio tinejdžer”. Čim je nesporazum razjašnjen, nalog je vraćen. Još jedan slučaj blokiranja sadržaja medija desio se i na Jutjubu. Naime, uklonjena su dva videa istraživačkog medija BIRN, a kao razlog je navedena prijava zbog povrede privatnosti. Oba videa posle nekog vremena su ponovo dostupna na istim adresama. Još jedan upečatljiv slučaj iz ove kategorije, a iz potkategorije blokiranja/filtriranja sadržaja na nivou mreže dogodio se u junu, kada je blokiran Tviter nalog aktivistkinje Sofije Todorović. Ovo se desilo ubrzo pošto je ukazala na nacionalističke napade na albanskog pekara u Borči. Nakon što je SHARE Fondacija kontaktirala predstavnike Tvitera, Sofija je uspela da povrati pristup nalogu.

Najčešća kategorija povreda prava, kao i u prethodnom izveštaju, jesu pritisci zbog izražavanja i aktivnosti na internetu. Najmasovnija su bila kršenja potkategorija pretećih sadržaja i ugrožavanja sigurnosti i uvreda i neosnovanih optužbi. Mete ovakvih napada bili su uglavnom novinari, ali i aktivisti, javne ličnosti, političari i građani. Tako je Vojislav Šešelj na svom Tviteru vređao preminulog novinara, kao i Poverenicu za ravnopravnost. Mnogi od slučajeva pretnji prijavljeni su policiji, a samo neki od napadača su privedeni u policiji i pravosnažno osuđeni. Jedna od važnih presuda je ona za govor mržnje u komentarima na sajtu Kurira, doneta u aprilu, kada je Apelacioni sud u Beogradu, nakon šest godina suđena utvrdio odgovornost urednika portala Кurir info za govor mržnje prema albanskoj nacionalnoj manjini. Sve dok se se sudska praksa u ovoj oblasti ne ustali, te takvo ponašanje ne bude efikasno sankcionisalo, preteći sadržaji i govori mržnje opstaju i nastavljaju se, usled klime nekažnjivosti.

U ovom monitoring periodu desilo se i nekoliko pritisaka zbog objavljivanja informacija. Tako je nastavljen trend tužbi koje bivši predsednik Opštine Grocka podnosi protiv urednika Žig infa Željka Matorčevića, te je u avgustu podneta 13. privatna tužba, kojom je ukupno traženo 4,2 miliona dinara za naknadu nematerijalne štete. Takođe, podneta je i krivična i disciplinska prijava protiv zamenika Republičkog javnog tužioca i člana Državnog veća tužilaca Gorana Ilića, jer je putem svog Tviter naloga saopštio da se predmeti u tužilaštvu “drže u fioci” i čekaju promenu političkih prilika u zemlji. Jedan od zanimljivih primera pritisaka je svakako onaj kada su građani novčano kažnjeni jer su na Fejsbuku objavili fotografiju ovaca. Naime, protiv administratora Fejsbuk grupe “Alo, Mladenovac”, koji su u na naslovnu stranicu navedene grupe stavili fotografiju na kojoj se vidi natpis “Skupština opštine Mladenovac” ispisana na velikom PVC panou, dok se ispod istog nalazi ograđeno stado ovaca, doneta je presuda. Stav Osnovnog suda u Mladenovcu je bio da to ima uvredljiv, omalovažavajući karakter, te su administratori grupe kažnjeni sa po 3000 dinara. Pored pritisaka, zabeležena su i objavljivanja neistina i neproverenih informacija sa namerom ugrožavanja reputacije.

Iako slučajeva iz kategorije povreda informacione privatnosti i zaštite podataka o ličnosti po brojnosti nije bilo koliko i pretnji i uvreda, i u ovom periodu monitoringa ostavljen je značajan trag kada je u pitanju povreda prava većeg broja građana odjednom. Tako je u junu zamenik gradonačelnika Beograda Goran Vesić objavio na svojoj zvaničnoj Fejsbuk stranici službene mejlove novinara televizije N1. Ovaj slučaj obuhvata potkategorije curenja podataka o ličnosti građana, kao i narušavanje informacione privatnosti na radnom mestu. Istog meseca, desila se još jedna povreda informacione privatnosti, kada je narodni poslanik Vladimir Đukanović na Tviteru objavio identitet jednog od maturanata sa protesta, navodeći uz ime i prezime da se radi o sinu kuma Dragana Đilasa. Radi se o objavljivanju informacija o privatnom životu, kao i nedozvoljenoj obradi podataka o ličnosti. Svakako najdrastičniji slučaj povreda ove kategorije po broju građana čija su prava bila prekršena desio se u septembru, kada je Miša Vacić na svom Instagram profilu objavio fotografiju na kojoj se vide spiskovi korisnika Crvenog krsta u Medveđi, sa brojevima ličnih karata i adresama. Ovaj slučaj izazvao je brojne reakcije, budući da su zaposleni u Crvenom krstu Medveđa zastupniku udruženja Srpska desnica, koja je učestvovala na izborima u toj opštini, neovlašćeno učinili dostupnim evidencije ličnih podataka koji se odnose na korisnike narodne kuhinje CK Medveđa, a on kasnije te podatke učinio javno dostupnim. Pokret slobodnih građana podneo je krivičnu prijavu protiv zaposlenih u Crvenom krstu Medveđa, a Poverenik je pokrenuo postupak nadzora. Iako se Crveni krst izvinio zbog toga što se desilo, ovakav odnos prema ličnim podacima, gde im neovlašćene osobe pristupaju, te ih javno objavljuju, pokazuje da insitucije i politički akteri ne poštuju osnovna ljudska prava, te da se ovakva praksa i dalje može očekivati.

Ni kategorija manipulacija i propagande u digitalnom okruženju ne može se zanemariti u ovom periodu monitoringa. Najbrojnije povrede bile su iz potkategorija izmena ili uklanjanja sadržaja od javnog značaja i kreiranja lažnih naloga i plaćenog promovisanja lažnog sadržaja. Tako je kreiran lažni sajt “Večernjih novosti”, na kome su objavljeni podrugljivi tekstovi o ministrima, izmenjen je tekst o doktoratu Siniše Malog na sajtovima RTS-a i “Tanjuga”, na portalu “Informera” izmenjen tekst o požaru u crkvi Notr Dam, koji je prvo imao negativnu konotaciju, a kasnije izraženu empatiju prema događaju. Primetno je da su povrede potkategorije izmene i uklanjanja sadržaja uglavnom vršili onlajn mediji, što ukazuje na to da mediji bez ikakve odgovornosti sklanjaju i menjaju svoje tekstove i time moguće dovode građane u zabludu.

Od aprila do septembra zabeležena su i dva narušavanja kategorije informacione privatnosti. Tako je u junu portal “Inđija kafe” bio meta tehničkih napada, nakon što je novinarka portala Verica Marinčić bila zastrašivana i na meti uvreda narodnog poslanika vladajuće koalicije, a u septembru je portal Arms Watch nekoliko dana bio nedostupan u Srbiji zbog tehničkih napada, neposredno po objavljivanju teksta o poslovima oca ministra unutrašnjih poslova Stefanovića sa trgovinom oružjem.

Kao što se iz izveštaja može primetiti, u periodu od šest meseci u Srbiji se dogodila povreda većine digitalnih prava koja se monitoringom prati. Najčešće ugrožene strane su novinari i građani. Pritisci, manipulacije, povrede privatnosti, narušavanje informacione bezbednosti i blokiranje sadržaja opstaju kao pretnja digitalne bezbednosti. Ako se sagleda praksa nedostatka reagovanja institucija na prijavljene slučajeve, kao i one očigledne, koji su izazvali reakcije javnosti, smanjenje povreda se ne nazire.

Kako se blokiraju sadržaji na društvenim mrežama?

Internet platforme u vlasništvu IT giganata, kao što su Fejsbuk ili Gugl, u sve većoj meri upravljaju sadržajima korisnika na osnovu smernica i standarda, čiji je cilj da spreče nezakonite i neprimerene sadržaje, poput poziva na nasilje ili veličanja terorizma, ili ograniče korišćenje onima koji ne ispunjavaju uslove. Međutim, i dalje ostaje nejasno prema kojim kriterijumima se sa društvenih mreža sadržaji uklanjaju u konkretnim slučajevima, obzirom na to da su ovakve odluke često jednostrane i da korisnici iz malih tržišta kao što je Srbija ne uspevaju da vrate sadržaj uprkos žalbama.

Jedan takav slučaj dogodio se nedavno, kada su na Jutjubu blokirana dva videa u vezi sa istraživačkom pričom o poslovima ljudi bliskih vladajućoj koaliciji koju su objavili novinari BIRN Srbija. Naime, oba videa su blokirana nakon što je na njih podneta prijava povodom ugrožavanja privatnosti jer su sadržali “privatne informacije”. Kako BIRN nije dobio mogućnost da se žali na odluku, videi su ostali blokirani. Drugi slučaj se odnosi na dnevni list Danas, čiji je Tviter nalog suspendovan posle unošenja datuma osnivanja lista u biografski deo na profilu, jer u vreme kada su kreirali profil “nisu imali 13 godina”, što je starosna granica za korišćenje Tvitera.

Obzirom na to da Jutjub objašnjava da se prilikom podnošenja prijave na video zbog kršenja privatnosti procenjuju “javni interes, značaj za izveštavanje (“newsworthiness”) i pristanak osobe” kao faktori u donošenju odluke, neophodno je da postoje precizniji i transparentniji kriterijumi na osnovu koji se vrši procena prijave. Takođe, smernice Tvitera ukazuju da se na osnovu datuma koji korisnici navedu kao rođendan procenjuje da li ispunjavaju starosni uslov za korišćenje te društvene mreže, što može da stvori problem ako se posmatra isključivo u kontekstu kada pojedinci kreiraju naloge. Ovakve i slične situacije u kojima se medijski sadržaji od javnog interesa uklanjaju mogu uzeti maha i onemogućiti novinare da posredstvom onlajn platformi izveštavaju građane o pitanjima od javnog značaja.

Opšta Uredba o zaštiti podataka o ličnosti EU (GDPR) i novi domaći Zakon o zaštiti podataka o ličnosti koji je pisan po uzoru na nju predviđaju tzv. novinarski izuzetak, odnosno oslobođenje novinara obaveze da poštuju stroga pravila kada podatke obrađuju u svrhe novinarskog istraživanja. Upravo iz tog razloga postoji potreba da se sloboda izražavanja i informisanja sa jedne i pravo na privatnost sa druge strane “izvagaju” na adekvatan način, što će biti znatno teže ukoliko onlajn platforme primenjuju široko postavljenje, nejasne i netransparentne kriterijume za uklanjanje sadržaja radi zaštite privatnosti, bez procene društvenog konteksta.