Why Machines Discriminate—and How to Fix Them

"Številke govorijo same zase", gre pregovorna modrost. Vendar raziskovalka Crawford opoozarja: "...big data sets can perpetuate the same biases present in our culture". Po drugi strani pa pregovorni "algoritmi delajo, kar jim ukažemo", tudi ne drži povsem: "the decisions that machine-learning algorithms spit out are a lot more complicated and opaque than people think..., which makes tracking down an offending line of code a near impossibility." Predavanje dostopno.

Ste pripravljeni na »big data«?

Na letošnjem Statističnem dnevu bodo o potencialu masivnih podatkov razpravljali priznani tuji in domači strokovnjaki.

10. november 2015 na Brdu pri Kranju

Udeležba je brezplačna.

Več tu.

Malo in veliko podatkovje

Pojem malo podatkovje (little data) se uporablja za opis podatkov, ki jih o posamezniku zbirajo razni senzorji v okolici, na telesu ali v njegovem pametnem telefonu. Ključno za to označbo je, da se podatki navezujejo na enega samega konkretnega človeka. To so lahko na primer lokacijski podatki s telefona ali navigacijske naprave za več let nazaj, podatki senzorja srčnega utripa, ki ga uporabljamo med tekom, ali pa zgolj informacije, kdaj smo vstali in kdaj gremo spat, kar lahko naš telefon tudi dokaj učinkovito in vestno beleži. Seveda je takšnih informacij vsako leto več, saj količina najrazličnejših senzorjev, ki jih vsakodnevno uporabimo, hitro raste.

Pojem malo podatkovje se od pojma veliko podatkovje (big data) razlikuje po tem, da se prvi nanaša na konkretnega posameznika, medtem ko drugi označuje podatke, ki so zbrani na osnovi opazovanja velike množice ljudi. Obema pa je skupna želja, da bi na osnovi velike količine meritev prišli do informacij o delovanju ljudi, ki niso očitne in se jih praviloma sploh ne zavedamo.

Razliko med velikim in malim podatkovjem lahko opredelimo tudi preko tega, kaj želimo z njimi doseči. Malo podatkovje služi predvsem posameznikom pri doseganju osebnih ciljev, medtem ko veliko podatkovje omogoča velikim organizacijam v obliki korporacij in držav, da uresničujejo svoje specifično poslanstvo, ki ni nujno v soglasju z interesi posameznikov.

Več o tej temi:
Industrija sreče - Kvarkadabra
Industrija sreče: Kmalu bomo vedeli, kako človeka narediti srečnega | Dnevnik

Sérvulo & Associados - Sociedade de Advogados, RL proti Portugalski

Evropsko sodišče za človekove pravice je v začetku septembra sprejelo zanimivo odločitev Sérvulo & Associados - Sociedade de Advogados, RL proti Portugalski. Pritožnika je predstavljala odvetniška pisarna in v njej zaposleni odvetniki. Na Portugalskem je bila namreč sprožena kazenska preiskava zaradi suma korupcije in pranja denarja v zvezi s portugalskim nakupom dveh podmornic od Nemčije zoper sedem portugalskih in nemških državljanov, vključno zoper odvetnika, ki je delal v imenu pritožnika. Izdana je bila sodna odredba za preiskavo prostorov omenjene odvetniške pisarne in za zaseg relevantnih predmetov. Preiskovalni sodnik je odobril tudi zaseg elektronskih podatkov na podlagi 35 ključnih besed, kot sta na primer finančni prispevek, financiranje. Že pred izvedbo hišne preiskave se je pritožnik pritožil, da so izbrane ključne besede preveč splošne, da jih pisarna pogosto uporablja in bi zato njihova uporaba vodila k nesorazmernemu zasegu dokumentov, ki so nerelevantni za preiskavo in pokriti s poklicno skrivnostjo. Preiskovalni sodnik je odobril pritožbi in odredil zapečatenje zaseženih predmetov. Pritožbeno sodišče je zavrnilo pritožbo, preiskovalni sodnik je zaukazal uničenje 850 dokumentov z osebni podatki ali poklicno skrivnostjo, preiskava pa je bila ustavljena.

Sodišče je pritožbo obravnavalo z vidika osmega člena konvencije in ugotovilo, da portugalski Zakon o kazenskem postopku ter Statut odvetniške zbornice zagotavljata postopkovne varovalke glede hišne preiskave in zasega predmetov v odvetniških pisarnah in da so bile vse te varovalke spoštovane v konkretnem primeru. Vsi pritožniki so bili prisotni med hišno preiskavo, vključno s predstavnikom Odvetniške zbornice. Preiskovalni sodnik je tudi nadzoroval dejanja ter tako deloval v vlogi sodnika garanta pred, med in po dejanju. Predvsem pa je Evropsko sodišče za človekove pravice izpostavilo garantno vlogo sodišč v tem primeru. Preiskovalni sodnik je tisti, ki je odločil, kateri dokument je relevanten za preiskavo in kateri ne, in je posledično zahteval uničenje 850 dokumentov, ki so bili zaščiteni kot osebni podatki, poklicna skrivnost ali pa so bili očitno nerelevantni za primer. Evropsko sodišče je še odločilo, da država ni dolžna vračati kopij podatkov, le originale, kar pa je že storila. Na podlagi spoštovanja v zakonu predpisanih varovalk, ki so tudi v konkretnem primeru preprečile zlorabe in arbitrarnost, je zato ugotovilo, da poseg v zasebnost iz osmega člena konvencije ni bil nesorazmeren in da osmi člen posledično ni bil kršen.

Odločitev je relevantna tudi za slovensko ureditev, saj je trenutno pred Ustavnim sodiščem odprta presoja ustavnosti in odločanje o ustavni pritožbo zaradi izvedenih hišnih preiskav in preiskav elektronskih naprav pri odvetnikih, a za razliko od portugalske ureditve trenutna slovenska ureditev in praksa dajeta manj poudarka sodni kontroli dejanj.

Kaj nam veliko podatkovje lahko pove o beguncih?

Ta kratki filmček na kratko opiše, kaj uporabniki sirskega googla iščejo na spletu. Nekatera njihova iskanja so razmeroma pričakovana - "Imigracija v Nemčijo" in "Azil v Nemčiji", "Madžarska in begunci", zemljevidi in razdalje med kraji, ki jih morajo prepotovati na poti v obljubljeno deželo.

Manj pričakovana in najbrž še bolj boleča so iskanja tistih, ki ostajajo doma: "Rdeči križ Sirija", "Kako doma oskrbeti opekline", "Oživljanje usta na usta" in podobno.

Podatki, ki dajejo neverjetno dobro sliko o dogajanju v sedanjosti, pa lahko pridejo prav tudi pri napovedovanju prihodnjih dogodkov - glede na iskalne pojme, pravijo avtorji posnetka, ni pričakovati zmanjšanja begunskega eksodusa is Sirije.

Algorithmic storytelling

Zanimiv projekt, ki se je začel že pred 10 leti: pobrati vse stavke na spletu, ki vsebujejo sintagmo: "čutim" ("I feel" in "I am feeling"). Tako lahko primerjamo:

- ali se Evropejci počutijo bolj žalostne od Amerosov?

- ali se ženske počutijo pogosteje debele kot moški?

- kakšna so najbolj reprezentativna občutja 30-letnic v New Yorku?

- kako se ljudje počutijo v Bagdadu?

Zdaj pa si zamislimo manj "nedolžno" idejo in kako bi to lahko delovalo pri drugačnih "sentiment analizah" varnostnih organov.

O metodi:

"

At the core of We Feel Fine is a data collection engine that automatically scours the Internet every ten minutes, harvesting human feelings from a large number of blogs. Blog data comes from a variety of online sources, including LiveJournal, MSN Spaces, MySpace, Blogger, Flickr, Technorati, Feedster, Ice Rocket, and Google.

We Feel Fine scans blog posts for occurrences of the phrases "I feel" and "I am feeling". This is an approach that was inspired by techniques used in Listening Post, a wonderful project by Ben Rubin and Mark Hansen. 

Once a sentence containing "I feel" or "I am feeling" is found, the system looks backward to the beginning of the sentence, and forward to the end of the sentence, and then saves the full sentence in a database.

"

O rezultatih:

"

The result is a database of several million human feelings, increasing by 15,000 - 20,000 new feelings per day. Using a series of playful interfaces, the feelings can be searched and sorted across a number of demographic slices, offering responses to specific questions like...

"

Več na:

http://wefeelfine.org/methodology.html

PREDLOG NOVELE ZAKONA O NALOGAH IN POOBLASTILIH POLICIJE

V avgustu je slovenska Policija kot delovno gradivo predstavila osnutek spremembe Zakona o nalogah in pooblastilih policije.[1] Predlog posega tudi na področje posegov v zasebnost, zato velja predstaviti določene predloge sprememb.

Najprej velja omeniti spremembo 11. člena zakona, ki se zdi zgolj tehnična, saj naj bi se izraz kriminalistično pridobivanje in vrednotenje informacij spremenil v kriminalistično obveščevalno dejavnost. A je treba to spremembo verjetno povezati tudi z bolj daljnosežnimi spremembami 23. in 24. člena zakona, ki govorita o prirejeni identiteti tajnih delavcev. Trenutno besedilo predloga namreč omogoča ustvarjanje prirejene identitete tudi pred samo izvedbo prikritega preiskovalnega ukrepa, a povsem neomejeno glede na čas trajanja, povezavo z določeno zadevo, osebo, akcijo, itd.

Omeniti velja tudi potencialno širitev varnostnega pregleda na ustno votlino,[2] ter zniževanje standardov za opravljanje pregleda osebe po 52. členu Zakona o nalogah in pooblastilih policije. Temeljna pogoja, da se je to pooblastilo sploh uvedlo v zakon (neposredna zaznava policista, da ima oseba pri sebi predmete, ki jih je treba zaseči, ter velika verjetnost za posest teh predmetov), se znižujeta. Dovolj naj bi bila verjetnost posesti prepovedanega predmeta, policist pa bi to lahko ugotavljal ne samo na podlagi neposredne zaznave, ampak tudi na podlagi ugotovljenih dejstev in okoliščin.

Z vidika zasebnosti je zanimiv tudi predlog Policije, da bi pri nadzoru cestnega prometa na javnih cestah in drugih javnih površinah smeli uporabljati tehnična sredstva za optično prepoznavo registrskih tablic z namenom ugotavljanja pogojev za udeležbo voznika in vozila v cestnem prometu ter iskanja oseb in predmetov.[3]

Tudi pri uporabi tehničnih sredstev pri izvajanju policijskih pooblastil in spremljanju javnih zbiranj naj bi prišlo do sprememb. Policija pri tem skuša bolj natančno opredeliti meje pooblastila; način njihove uporabe oziroma njihove nosilce. Tako naj bi se ta tehnična sredstva (ki naj bi vključevala tudi drone) uporabljala neposredno, iz vozila, plovila, zrakoplova, iz zgradb ali drugih objektov, po trenutnem predlogu pa naj bi obstajala tudi možnost uporabe tehničnih sredstev, ki so v lasti drugih državnih organov in pravnih oseb.[4]

---

[1] Uradni list RS, št. 15/13 in 23/15 – popr..

[2] 51. člen zakona.

[3] 113/IV člen zakona.

[4] 114/V, VI člen zakona.