Trdovratni podatki

Raziskovalci iz Univerze v Cambridgeu so v raziskavi učinkovitosti funkcije resetiranja pametnega telefona z nameščenim Android sistemom (verzije 2.3x do 4.3) nazaj na tovarniške nastavitve (gre za funkcijo, s katero naj bi se – po splošnem prepričanju – izbrisali prav vsi podatki in nastavitve v napravi) ugotovili, da več kot 630 milijonov telefonov podatkov dejansko ne izbriše in jih je mogoče ponovno priklicati. Konkretneje je ocenjeno, da 500 mio telefonov ne izbriše particij z občutljivimi podatki (npr. gesli za dostop do Gmail-a), več kot 630 mio telefonov pa ne izbriše niti podatkov iz SD kartic, kjer so pogosto shranjene fotografije in videoposnetki. Do podatkov se je v precejšnjem številu primerov mogoče dokopati tudi, če je bil telefon zaščiten s šifriranjem (full-disk encryption), saj se pri ponovni vzpostavitvi tovarniških nastavitev ključ za dešifriranje ne izbriše.  

Ko prodamo, zavržemo ali drugače upokojimo svoj pametni Android telefon, resetiranje na tovarniške nastavitve torej ne pomeni nujno, da smo s tem uničili podatke v njem. In kaj (če sploh kaj) lahko storimo, da kupcu ali najditelju našega pametnega telefona onemogočimo dostop do podatkov in potencialno zlorabo? Več o tem preberite TUKAJ (link).

Barbie in Samsung TV, ki posluša

Lep prikaz "interneta stvari", ki proizvaja velike količine podatkov, zapis by Bruce Schneier v Guardian:

I realised that I had been thinking about the refrigerator backwards: it’s not a refrigerator with a computer, it’s a computer that keeps food cold. Just like that, everything is turning into a computer. Your phone is a computer that makes calls. Your car is a computer with wheels and an engine. Your oven is a computer that cooks lasagne. Your camera is a computer that takes pictures. Even our pets and livestock are now regularly chipped; my cat could be considered a computer that sleeps in the sun all day.

Surveillance is the business model of the internet for two primary reasons: people like free and people like convenient. The truth is, though, that people aren’t given much of a choice. It’s either surveillance or nothing and the surveillance is conveniently invisible so you don’t have to think about it. And it’s all possible because laws have failed to keep up with changes in business practices.

Žižku je vseeno, če ga nadzorujejo

Pacient vas bo sedaj sprejel - kako bo mobilna tehnologija spremenila medicino

V novi prodajni uspešnici z naslovom The Patient Will See You Now: The Future of Medicine is in Your Hands, ameriški kardiolog Eric Topol podrobno analizira, kako bo demokratizacija medicinske diagnostike vplivala zdravstveni sistem. Proces spreminjanja medicine primerja z Gutenbergove iznajdbo tiska in demokratizacijo znanja, ki je shranjeno v knjigah. Že zelo kmalu bomo lahko veliko diagnostičnih testov opravili kar preko dodatkov za svoje telefone. Ti podatki nam bodo skupaj s pametnimi algoritmi v telefonih v veliko pomoč pri odločanju, kdaj dejansko je treba k pravemu zdravniki in kdaj je bolje ostati doma. Topol je kot kardiolog že prejel e-pismo s posnetkom srčnega ritma, ki mu ga je poslal pacient in ga spraševal, če ima srčni napad. Od demokratizacije medicinske diagnostike in medicinskih podatkov, kot opredeli revolucijo, bomo imeli po njegovem mnenju vsi velike koristi. Tule je posnetek predstavitve knjige v televizijski pogovorni oddaji:

cfp. Workshop on Fairness, Accountability, and Transparency in Machine Learning

Na delavnici ICML 2015, 11. julija, Lille, Francija, o strojnem učenju ("machine learinig") bodo obravnavali ključno tematiko velikega podatkovja in algoritmičnih predikcij: 

kako preprečiti vkodiranje predsodkov v avtomatizirane odločitve?

Pravni odločevalci se bodo s sistemi za pomoč pri odločanju, ki temeljijo na algoritmih, (lahko) hitro skrili za algoritem, češ “the algorithm made me do it”. Vprašanje odgovornosti za odločitve je eno izmed ključnih pri uporabi velikega podatkovja za odločitve.


Submission Deadline: May 1, 2015.

TOPICS OF INTEREST
-------------------------------

We welcome contributions on theoretical models, empirical work, and everything in between, including (but not limited to) contributions that address the following open questions:

* How can we achieve high classification accuracy while preventing discriminatory biases?

* What are meaningful formal fairness properties?

* What is the best way to represent how a classifier or model has generated a particular result?

* Can we certify that some output has an explanatory representation?

* How do we balance the need for knowledge of sensitive attributes for  fair modeling and classification with concerns and limitations around the collection and use of sensitive attributes?

* What ethical obligations does the machine learning community have when models affect the lives of real people?

PAPER SUBMISSION
-----------------------------

Papers are limited to four content pages, including figures and tables, and must follow the ICML 2015 format; however, an additional fifth page containing only cited references is permitted. Papers SHOULD be anonymized. Accepted papers will be made available on the workshop website; however, the workshop's proceedings can be considered non-archival, meaning contributors are free to publish their work in archival journals or conferences. Accepted papers will be either presented as a talk or poster (to be determined by the workshop organizers). 

Papers should be submitted here: https://easychair.org/conferences/?conf=fatml2015

Deadline for submissions: May 1, 2015
Notification of acceptance: May 10, 2015

ORGANIZATION
----------------------

Workshop Organizers:

Solon Barocas, Princeton University
Sorelle Friedler, Haverford College
Moritz Hardt, IBM Almaden Research Center
Joshua Kroll, Princeton University
Carlos Scheidegger, University of Arizona
Suresh Venkatasubramanian, University of Utah
Hanna Wallach, Microsoft Research NYC

Računalnik NAMESTO sodnika?

Na rtvslo.si so objavili intervju z dr. Juretom Leskovcem, enem izmed najuspešnejših slovenskih znanstvenikov, ki delujejo v tujini. Naslov prispevka "Računalnik je lahko boljši od sodnika" je zavajajoč in ne povzema povsem tega, kar je Leskovec v resnici povedal.

Kaj ste ugotovili iz analize dveh milijonov sodniških primerov? Za kakšne primere je šlo?

Sodelovali smo z ekonomisti Harvarda, Cornella in Univerze v Chicagu. Dobili smo dostop do dveh milijonov primerov iz predkazenskih postopkov. Nekdo se, recimo, stepe v baru. Primejo ga, pripeljejo pred sodnika, ta pa se mora odločiti, ali je prestopnik nevaren ali ne. Lahko ga pod varščino spusti, lahko pa ga vtakne v pripor, da tam počaka na vsebinsko sodno obravnavo. Če je nekdo v priporu, je to seveda slabo zanj in obenem slabo za družbo. Če pa ga sodnik spusti, se lahko zgodi, da ta oseba zapusti državo ali ponovi kaznivo dejanje. Tu nastopi vprašanje, ali bi lahko sodnikom kakor koli pomagali k boljšemu odločanju.
Analiza nam je prinesla dve zanimivi ugotovitvi. Prva: objektiven program deluje 60 odstotkov bolje kot sodniki v ZDA. Razlika nastane v tem, da lahko program v nasprotju s človeškim sodnikom natančno analizira dva milijona sodnih primerov in najde vzorce v lastnostih prestopnikov, ki so povezani z negativnim obnašanjem v prihodnosti. Druga: analize kažejo, da se človek preveč osredini na osebne karakteristike. Program ima namreč dostop samo do kartoteke osumljenca. Sodnik osebo še vidi in pri presoji uporablja neka dodatna merila, ki ga vodijo v neoptimalne odločitve. To še delamo, a vsi, ki so videli dozdajšnje rezultate, so bili kar navdušeni in jih je zadeva zelo zanimala. Kmalu bomo delo objavili. Treba pa je poudariti, da ideja ni, da bi računalniki zamenjali ljudi, ampak kako lahko računalniki in ljudje skupaj sprejemajo boljše odločitve.

vir: http://cs.stanford.edu

Številne anomalije v ameriškem sistemu kaznovanja seveda kličejo po inovacijah. V sistemu, ki ga preveva rasna diskriminacija in ki (tudi) zaradi svoje togosti ustvarja primere, daleč od sodobnega pojmovanja pravičnosti, je iskanje novih rešitev najbrž nekaj temeljnega. Zadeva je šla tako daleč, da je pred časom ameriški profesor Bernard Harcourt hudomušno, a ne neresno, predlagal, da bi boljše odločitve lahko sprejemali z metom kovanca.

Leskovec pravi, da na podlagi analize dveh milijonov primerov iz ameriške sodne prakse razvijajo tehnologijo, ki bo v pomoč sodnikom pri odločanju. Odlično! Ampak:

Nekdo ima kartoteko, drugi je nima. Podatki so od človeka do človeka različno dostopni. Kje so omejitve uporabnosti te metode - le na ljudeh s kriminalno preteklostjo?
Ne nujno. Veliko stvari se lahko vprašaš. Koliko časa nekdo živi na istem naslovu? Ima nepremičnino v lasti ali plačuje najemnino? Ima mobilni telefon? Veliko je demografskih podatkov. Sicer med njimi ne sme biti vere, barve kože in spola. Socialno-demografska kartoteka je zelo velika in kriminalna kartoteka sploh ni nujna. Čeprav je v realnosti velik del teh ljudi povratnikov.

Ta zbirka demografskih podatkov je ključ do težave ali rešitve problema. Katere podatke bomo zajeli? Kot pravi Leskovec, med njimi ne sme biti vere, barve kože in spola. Ne sme biti torej podatkov, ki bi vodili v diskriminacijo. Problem je v tem, da vsi podatki, ki o nekem posamezniku obstajajo, izvirajo iz njegovih značilnosti, ki so povezane z njegovo bitjo. Povsem utemeljena je za ameriške razmere ocena, da črnski del populacije prebiva na določenih območjih, na drugih ne. Da ima manjši delež v lasti nepremičnino, da je slabše ekonomsko situiran, da je več enostarševskih družin. Kar so vse dejavniki, ki jih program načeloma lahko upošteva, saj sami po sebi niso diskiminatorni. Diskriminatorni postanejo šele, ko med njimi najdemo skupno točko, ki temelji na rasi.

Prepričana sem, da bodo raziskovalci v Leskovčevi skupini vse omenjeno skušali kar se da upoštevati. Pomemben je tudi njegov poudarek, da gre za razvoj orodja, ki bi bil lahko v pomoč sodnikom. Tudi to je lahko sicer problematično, še posebej, kadar v igro vpelje tvegan koncept prognoze, nekoliko manj pa, ko temelji na obstoječih bazah podatkov o dosojenih primerih. 

A bolj zaskrbljujoč je novinarjev naslov, ki mu dosledno sledijo tudi komentarji (seveda anonimnih) bralcev, ki si (tudi) v Sloveniji namesto sodnikov želijo več računalnikov. Kar ostaja nezapisano ali premalo poudarjeno, je dejstvo, da za vsakim računalnikom stoji človek ali skupina ljudi, ki zapiše kodo, algoritem, po katerem bo računalnik izvajal analizo. Odgovornost za odločitev s tem samo prestavimo, zabrišemo, možnosti za zlorabo pa ostajajo (le da je nevarnost tovrstne zlorabe kar sistemska in ne vezana na posamezne primere).

Sveže ideje za pravo v dobi velikega podatkovja (II. del)

Michael Mattioli v članku »Disclosing Big Data« razpravlja o pravicah intelektualne lastnine na podatkovnih zbirkah. Na podlagi izčrpne analize institutov poslovne skrivnosti, patenta in avtorske pravice v luči velikega podatkovja zaključi, da  pravo intelektualne lastnine lastnikov oz. imetnikov baz velikega podatkovja ne spodbuja v zadostni meri k razkritju metod in praks zbiranja in obdelave podatkov, kar onemogoča, da bi se v polni meri izkoristil (ekonomski) potencial velikega podatkovja, hkrati pa lahko bistveno oteži razvoj inovativnosti. Posledično avtor meni, da  so na tem področju potrebni novi pravni pristopi in predlaga sui generis obliko varstva intelektualne lastnine, ki jo poimenuje 'podatkovna pravica' ('dataright'). Ta institut bi bil na voljo prosilcem, ki bi jasno in v popolnosti razkrili opise svojih podatkovnih zbirk in metod za njihovo oblikovanje ter podatke, ustvarjene s temi metodami, pri čemer bi bil opredeljen s tremi značilnostmi, ki so tudi sicer lastne pravicam intelektualne lastnine: 1) predmet pravice, 2) izključna pravica na predmetu in 3) niz pravil, ki zagotavljajo ekskluzivnost.

Alessandro Mantelaro pa v članku »Future of consumer data protection in the E.U.: Re-thinking the “notice and consent” paradigm in the new era of predictive analytics«  analizira uveljavljene koncepte vnaprejšnjega soglasja posameznika za obdelavo njegovih osebnih podatkov in ugotavlja, da ljudje večinoma ne razumejo procesov obdelave velikega podatkovja in tudi ne namenov te obdelave, kar pomeni, da realno ne morejo sprejemati svobodnih in ozaveščenih (informiranih) 'opt-in' odločitev v zvezi s tem.  Avtor zato na področju obdelave velikega podatkovja predlaga sprejem pravil, ki bi temeljila na sistemu poznejšega odstopa ('opt-out'). Hkrati meni, da bi bilo potrebno zmanjšati vlogo posameznika in okrepiti vlogo neodvisnih nadzornih institucij za varstvo osebnih podatkov. Za razliko od posameznikov imajo te institucije namreč zadostno tehnično znanje, da lahko ocenijo tveganja, ki jih prinaša posamezna obdelava podatkov, na voljo pa imajo tudi pravne vzvode za obvladovanje teh tveganj. Poleg tega jim njihov status omogoča, da lahko uravnotežijo različne (kdaj tudi nasprotujoče si) interese različnih subjektov na področju obsežnih projektov zbiranja podatkov in podatkovnega rudarjenja. V zvezi s tem avtor predlaga uzakonitev stroge vsestranske vnaprejšnje ocene tveganj, ki se ne bi nanašala le na obdelavo podatkov, ampak tudi na družbene učnike in etična vprašanja, povezana z uporabo osebnih podatkov, pri čemer bi to oceno tveganj morala opraviti tretja oseba, nadzor pa bi opravljali pristojni organi za varstvo podatkov.