V zadnjih tednih smo se intenzivno lotevali vprašanja moderiranja družbenih omrežij in odkrivali, kdo v Republiki Sloveniji je za slednje pravzaprav odgovoren. Sovražnega govora (pa tudi ostalih kaznivih dejanj) je na družbenih omrežij vse več, hkrati pa Slovenija nima posebej vzpostavljene institucije, ki bi te zadeve budno nadzirala in sankcionirala. Pa bi jo krvavo potrebovala. Se tudi vam zdi, da so slovenska družbena omrežja postala sinonim divjega zahoda, kjer veljajo svojstvena pravila oz. kjer slednjih praktično ni?
Pisali smo že o zloglasnem profilu Slovenisti, ki na dnevni bazi objavlja skrajno sovražna sporočila na omrežju X. Osebe, ki stojijo za tem profilom, objavljajo vsebine, ki močno spominjajo na nacistično propagando iz obdobja Tretjega rajha – beremo o židih, ki jih imensko sploh več ne izpostavljajo (morda zaradi morebitne cenzure?), zato pa priročno uporabijo emoji-je Davidove zvezde in podgan, s katerimi so jih nacisti v svojem propagandnem kolovozu vselej primerjali. Skratka, omrežje smo večkrat pozvali k umiku vsebin in profila, kar so tudi storili, z obljubo, da te osebe novega profila ne bodo mogle registrirati. Potem pa – glej ga zlomka – opazimo, da sta zrasla ne le en, pač dva dva nova profila z imenom Slovenisti. Seveda smo profila ponovno prijavili, v odgovor pa s strani omrežja X prejeli pojasnilo, da profil Slovenisti ne krši njihovih varnostnih politik.
Zajem zaslonke / Omrežje X
Zajem zaslonke / Omrežje X
Da bi ugotovili, kdo je sploh pristojen za moderiranje tovrstnih vsebin v Republiki Sloveniji in kako je s sankcioniranjem tovrstnih vsebin na družbenih omrežjih, smo se s vprašanji obrnili na Slovensko policijo, Ministrstvo za digitalno preobrazbo in Ministrstvo za notranje zadeve.
X je odgovoren za X
S policije so za Zavod PIP odgovorili, da je odgovornost za preprečevanje objav in preprečevanje širjenja nezakonitega sovražnega govora na spletu predvsem na ponudnikih digitalnih storitev (op.p.: med ponudnike spadajo telekomunikacijska podjetja, kot je Telekom; ponudniki oblačnih storitev (Amazon Web Services, Google Clouds …); platforme za družbene medije (X – nekdanji Twitter, Meta ipd), ponudniki storitev e-trgovin (eBay, Amazon, Alibaba), platforme za pretakanje vsebin (Netflix, HBO…), in ponudniki spletnega gostovanja.) To torej pomeni, da je za sovražni govor na omrežju X odgovoren X – kar pa nekako ne pije vode, saj omrežje X glede na navedbe E. Muska, da bo na omrežju X prioritiziral svobodo govora, kar je vodilo tudi do ponovnega aktiviranja računov, ki so bili prej trajno blokirani, sovražnega govora in simbolike (velikokrat) ne odstranjuje. Slednje se je pokazalo tudi v našem primeru, ko smo profil po vnovični registraciji prijavili še enkrat, X pa ni odkril nobenih nepravilnosti.
Na Slovenski policiji sicer trdijo, da v okviru mednarodnega policijskega sodelovanja uspešno in učinkovito sodelujejo tudi z največjimi ponudniki digitalnih storitev oz. platform. Poudarjajo pa, da morajo biti za učinkovito sodelovanje izpolnjeni zakonski znaki kaznivega dejanja oz. celo pridobljena sodna odredba. “Ponudniki digitalnih storitev pa vsakršno zahtevo preučijo in se (ne)odločijo za ukrepanje. Ne gre za avtomatizem,” pojasnjujejo.
Slovenskih (moderatorskih) agencij ni
Je morda v igri tudi jezikovna bariera? Slovenskih agencij za moderiranje, ki bi jih financirali neposredni giganti, kot so Meta, X ali TikTok namreč tako rekoč ni. Redke slovensko govoreče moderatorje pa zaposlujejo večje agencije, ki so ponavadi situirane v katerem od večjih evropskih mest (Dublin, Berlin, Bukarešta, Krakov in Barcelona). In roko na srce, raznih dialektov in slenga ne razumejo niti Slovenci sami, kaj šele orodja za strojno prevajanje, s katerimi si tuje govoreči moderatorji največkrat pomagajo. V Sloveniji imamo le manjša podjetja in agencije, ki se ukvarjajo z analitiko in upravljanjem spletnih vsebin, vendar pa ne ponujajo širokega obsega storitev moderiranja vsebin za velika socialna omrežja.
Velike spletne platforme nadzira neposredno Evropska komisija
Na podlagi evropske uredbe se je 17. 2. 2024 začel uporabljati Akt o digitalnih storitvah, že dva meseca pozneje pa je bil za izvajanje akta sprejet Zakon o izvajanju Uredbe (EU) o enotnem trgu digitalnih storitev (ZIUETDS). Nadzor nad določbami Akta o digitalnih storitvah je prevzela Agencija za komunikacijska omrežja in storitve RS (AKOS), ki je hkrati tudi koordinator digitalnih storitev.
Na vprašanje kdo potem ima pooblastila posredovanja in vpliva na izbris določenih profilov na družbenih omrežjih, so na policiji odgovorili, da nadzor nad ponudniki digitalnih storitev izvaja AKOS, v primeru izpolnjenih zakonskih znakov kaznivih dejanj pa predkazenski postopek uvede policija. Izjema so zelo velike spletne platforme, denimo Google, Facebook, TikTok, Youtube, Amazon, X, ki imajo več kot 45 milijonov uporabnikov mesečno. Za njihov nadzor je pristojna neposredno Evropska komisija. Zanje veljajo še strožja pravila, saj morajo obvladovati tveganja in redno poročati Evropski komisiji o tem.
Zakaj vztrajno sovražni profili potem še ostajajo na spletu?
Pa vendar, profil Slovenisti je glede na navedbe časnika Večer aprila 2024 policiji naznanilo že Ministrstvo za kulturo, pa kljub temu profil ne le ostaja na omenjenem omrežju, pač pa ne zamudi niti dneva za objavo skrajnih vsebin. Kot še dodajajo na policiji, je izbris določenih profilov skrajni ukrep, za katerega se lahko odloči ponudnik digitalnih storitev, še pred tem pa lahko odstranijo posamezne vsebine.
AKOS nadzoruje ponudnike posredniških storitev, kamor sodijo tudi ponudniki internetnega dostopa, registri oziroma registrarji spletnih domen, storitve v oblakih ter spletne platforme, družbena omrežja in spletne tržnice. Hkrati AKOS podeljuje status zaupanja vrednih prijaviteljev, ki s tem postanejo kvalificirani prijavitelji nezakonitih vsebin na spletu. Nekatere evropske države že imajo organizacijo, ki je odgovorna za prijavo tovrstnih vsebin, Slovenije še ni med njimi. Za pridobitev statusa se lahko prijavi katerakoli organizacija, ki meni, da bi zmogla glede na specializacijo lastnih kadrov prevzeti takšno odgovornost, pa vendar za slednje ne bi pridobila plačila. Kako je mogoče, da lahko tako odgovorno delo ostane neplačano in kdo bi slednje sploh prevzel? Izgleda kot da moderiranja nihče ne želi financirati in kot da je opravljanje tovrstnih nalog obrobno, nepomembno. Si predstavljate, kako drugačna bi bila medijska krajina v Tretjem rajhu, če bi nek zunanji organ imel moč prepovedati Ministrstvo za narodno prosveto* in če bi neodvisni mediji še naprej lahko opravljali svoje delo?
Za izsleditev IP računa potrebujejo sodno odredbo
Včasih policiji problem predstavlja tudi pridobivanje IP naslova, zlasti če je profil anonimen, IP naslov pa v tujini. V prvi fazi policija za izsleditev IP naslova potrebuje odredbo sodišča. “Prijava mora torej izpolnjevati zakonske znake kaznivega dejanja, ob tem pa mora biti podana višja stopnja suma, da je bilo storjeno kaznivo dejanje, in sicer stopnja “utemeljenih razlogov za sum”. Podatke o IP naslovu, ki se nahaja v Sloveniji, policija prejme od slovenskih ponudnikov digitalnih storitev. V kolikor pa gre za IP naslove v tujini, pa lahko traja tudi dlje časa,” so za Zavod PIP odgovorili na Slovenski policiji. Kaj točno v tem primeru pomeni “dlje časa”, sicer ni jasno.
Med Priporočili za preprečevanje sovražnega govora, ki ga je skupina pod vodstvom Inštituta 8. marec predala premierju Golobu, je med drugim zapisano tudi, da naj “Ministrstvo za notranje zadeve in Ministrstvo za pravosodje (…) preučita ustreznost opisov zaradi razmejitve prekrškov po 20. členu ZJRM-1 in kaznivih dejanj po 297. členu KZ-1, možnosti za jasnejši in določnejši zapis prekrškov po sedanjem 20. členu ZJRM-1 ter glede na ugotovitve predlagata potrebne spremembe.” 297 člen KI-1 in 20 člen sta si namreč precej podobna, zato smo policijo povprašali, kako v praksi razlikujejo njuno obravnavo in če menijo, da bi med njima morala obstajati večja razmejitev. Odgovor je bil sicer dokaj nejasen, in sicer: “Med kazniva ravnanja sodijo tako prekrški kot kazniva dejanja. Ali obstajajo razlogi za sum, da je bilo storjeno kaznivo dejanje, presojajo policisti, ki prijavo obravnavajo. V kolikor niso izpolnjeni zakonski znaki kaznivega dejanja, pa lahko gre za prekršek.” Naj še dodamo, da je globa za kršenje 20. člena ZJRM-1 200.000 tolarjev. TOLARJEV.
Aktivnosti policije kot skrajni ukrep
Na vprašanje, kako bi se sami lotili nadzora in sankcioniranja sovražnega govora na spletu, če bi imeli vsa potrebna pooblastila in pristojnosti, pa odgovarjajo, da je policija “deležnik pri preprečevanju širjenja sovražnega govora, vendar morajo aktivnosti policije veljati kot skrajni ukrep. Ko vse ostalo zataji. Evropska komisija politiko preprečevanja širjenja sovražnega govora gradi na ozaveščanju, izobraževanju in odgovornosti ponudnikov digitalnih storitev. Šele ko vsi mehanizmi niso uspešni, ali gre za konkretno grožnjo zoper zdravje ali premoženje ljudi, predvideva odziv policije.”
Glede na to, da je platforma X s strani Evropske komisije določena za zelo veliko spletno platformo (VLOP), nadzor nad izvajanjem Akta o digitalnih storitvah izvaja Evropska komisija, ki hkrati tudi izreka sankcije.
Kako potem v realnosti doseči izbris nezakonitih vsebin brez vpletanja Evropske komisije? Obrnemo se na AKOS.
Kot smo že zapisali, lahko domnevno nezakonite uporabniško ustvarjene vsebine prijavimo pri ponudniku posredniških storitev (torej na platformi X) neposredno, in sicer preko mehanizma Obvesti in ukrepaj, ki ga mora imeti vzpostavljenega na podlagi 16. člena Uredbe 2022/2065/EU – Akta o digitalnih storitvah). V kolikor prijavljene vsebine platforma ne odstrani oziroma v zvezi s tem ne predloži jasne in specifične obrazložitve kot to zahteva 17. člen Akta, lahko prijavitelj vloži pritožbo (in sicer preko Notranjega sistema za obravnavo pritožb, ki ga mora imeti platforma X vzpostavljenega na podlagi 20. člena Akta o digitalnih storitvah). Prijavo za odstranitev določene nezakonite vsebine lahko podate tudi zaupanja vrednim prijaviteljem (ki jih v Sloveniji nimamo), katerih prijave preko mehanizma Obvesti in ukrepaj platforme obravnavajo prednostno, odločitve o njih pa sprejemajo brez nepotrebnega odlašanja.
Na Ministrstvu za digitalno preobrazbo pa hkrati pojasnjujejo, da lahko v skladu s 53. členom Akta o digitalnih storitvah naznanilo, da platforma X krši obveznosti iz Akta o digitalnih storitvah, podamo na Agencijo za komunikacijska omrežja in storitve Republike Slovenije (AKOS), ki skladno z določili Zakona o izvajanju Uredbe (EU) o enotnem trgu digitalnih storitev (Uradni list RS, št. 30/24) opravlja naloge koordinatorja digitalnih storitev. AKOS potem prijavo posreduje koordinatorju digitalnih storitev v državi sedeža platforme X.
Problematika zakonodaje: splet ni javni kraj!
Z Ministrstva za notranje zadeve pa so dokaj enostavno razložili, v čem je dejansko vzrok neukrepanja v primerih pojavnosti sovražnega govora na spletu. “Objekti varstva po 297. členu KZ-1 so javni red in mir, strpnost iz 63. člena Ustave RS, enakost ne glede na osebne okoliščine iz 14. člena Ustave RS ter pravica do osebnega dostojanstva in varnosti oseb, zoper katere se spodbuja sovraštvo, nasilje ali nestrpnost iz 34. člena Ustave RS. Izpostavljamo tudi, da lahko v sodobnem času spletnih družbenih omrežij (kot je omrežje X oziroma nekdanji Twitter) pride do situacije, ko je težje presoditi, ali je razglašanje posameznih sovražnih stališč javno ali ne. Posledično lahko opisana okoliščina predstavlja oviro pri pregonu omenjenega kaznivega dejanja.
“Sovražni govor” kot prekršek pa obravnava tudi 20. člen Zakona o varstvu javnega redu in miru. V slednjem se pojavi termin “javni kraj”, ki je je sicer obrazložen v 2. členu tega zakona. Vendar pa je slednji za konkretno situacijo neuporaben, ker svetovni splet ni javni kraj, kot ga definira omenjeni zakon v svojem 2. členu!