Gmail Panopticon Enden av personvern som vi kjenner til det?

Det høres ut som noe fra George Orwells 1984: En mann sender en privat e-post og finner seg arrestert for det. E-posten ble ikke fanget av en etterforskende politimann; mannen var ikke engang under mistanke før han ble arrestert. E-posten ble analysert av et automatisert system som få folk kjenner til, og den fornærmende e-posten ble hentet til myndighetene.

Lyder dette som en verden du vil leve i? Den verden er allerede her - og det systemet ble brukt til å fange en fyr som sendte barnpornografi Uheldige sannheter om barnpornografi og Internett [Feature] Uheldig sannheter om barnpornografi og Internett [Feature] En liten tomt firkant og en blinkende markør. Et vindu gjennom hvilket hele verden eksisterer. Du må bare si det riktige ordet - et hvilket som helst ord - og alt ditt ønske blir levert ... Les mer .

Tatt på fersken

Så hvordan skjedde det? John Skillern sendte uanstendig bilder av barn til en venn, og ble snart arrestert. Det han ikke visste var at Google automatisk skanner bildene som sendes via Gmail, og sammenligner dem med en database med gjenopprettet barnpornografi. Hvis en kamp er funnet, blir politiet varslet. I dette tilfellet fikk de en rett til å søke på datamaskinen og nettbrettet, der de fant andre pornografiske bilder av barn.

Amerikansk lov krever at ethvert selskap som oppdager bevis for barnepornografi, rapporterer det til politiet umiddelbart. Dette har tradisjonelt brukt på fotoutviklere, fotostyringstjenester og andre fotograferingsrelaterte selskaper, men det gjelder alle selskaper, inkludert søkemotorer. Selvfølgelig er dette bra - seksuell utnyttelse av barn er en voldelig forbrytelse, og vi skal kaste alle ressurser vi har på den. Bedrifter er glade for å overholde disse lovene, og generelt er folk glade for at de skal.

Men eksistensen av denne teknologien har noen mennesker bekymret.

Hvordan virker det?

Teknologien som brukes til Gmail-porno-skanning er et program som er opprettet av Microsoft, kalt PhotoDNA. Når et bilde er lagt til PhotoDNA-databasen, har en matematisk hash hva alt dette MD5 Hash-stoffet egentlig betyr [Teknologi forklart] Hva alt dette MD5 Hash-stoffet egentlig betyr [Teknologi forklart] Her er en full nedlasting av MD5, hashing og en liten oversikt over datamaskiner og kryptering. Les mer er opprettet og brukt som en unik identifikator. Etter at noen få tusen bilder er lagt til i databasen, blir det veldig bra å identifisere bilder basert på disse identifikasjonene, selv om bildene har gjennomgått mindre endringer.

Microsoft utviklet PhotoDNA sammen med National Center for Missing and Exploited Children (NCMEC), så det har vært bestemt for å bekjempe barneporn fra begynnelsen. Og selvfølgelig virker det. Det fanget Skillern, og det er i bruk av Bing, OneDrive, Facebook, Twitter og Gmail, blant potensielle andre.

Dessverre kan PhotoDNA bare identifisere bilder som allerede er lagt til i databasen, noe som betyr at handel med nye bilder ikke utløser et varsel. Men med mengden ulovlig materiale som allerede er der ute, kan det være svært nyttig å identifisere potensielle barnpornografere.

Var det en hemmelighet?

Siden kunngjøringen om Skillerns arrestasjon har det vært mye diskusjon om hvorvidt distribusjonen av PhotoDNA av Gmail er et privatliv bekymring. Gmail serverer annonser til brukere, og skanner innholdet i personlige e-poster for å finne ut hvilke annonser som skal vises. Google hevder at denne skanningen er gjort anonymt, og at student-, nærings- og regnskapskontoer ikke skannes. Nylige personvern og juridiske bekymringer har ført til at Google støtter litt av sin skanning, men åpenbaringen av bruken av PhotoDNA har mange mennesker i tvil om hvorvidt vi får hele historien.

Selv om Google aldri nektet at de skannet Gmail-meldinger for barnporno, var de veldig stramt om det. Selv om folk er sikker på å støtte anti-barnepornografiske tiltak, har ideen om at Google skanner bildene i e-posten, kanskje ikke gått så bra. Men nyheten er ute nå, og vi må spørre oss selv om Google er kommende med det de gjør med våre e-postmeldinger. Vi vet at e-post er iboende usikker Hvorfor e-post kan ikke beskyttes mot regjeringsovervåkning Hvorfor e-post ikke kan beskyttes mot regjeringsovervåking “Hvis du visste hva jeg vet om e-post, kan du heller ikke bruke den,” sa eieren av sikker e-posttjeneste Lavabit som han nylig stengte den ned. "Det er ingen måte å gjøre kryptert ... Les mer, men å finne bevis for overvåking av Google er unnerving.

Gmail Panopticon

I slutten av det 18. århundre utviklet Jeremy Bentham planene for en bygning kalt panopticon, der alle elevene, barna eller de mest anvendelige fanger i en bygning kunne overvåkes av en enkelt vaktperson. Ingen av de innsatte er i stand til å fortelle om de blir overvåket, så de må anta at de er under overvåkning, oppfordrer dem til å moderatere deres oppførsel for ikke å trekke oppmerksomhet mot seg selv.

Er det hva Gmail fører oss mot? Akkurat nå skanner de bilder for barnepornografi. Men, som noen journalister har notert, er Google bundet av lovene i landene der den opererer. Fra Internett til fengsel: 6 Typer av datamaskinforbrytelser du kan bli arrestert fra fra nettet til fengsel: 6 typer datamaskinforbrytelser du kan Få arrestert for regjeringer over hele verden har forsøkt å temme Internett som en storm av ny teknologi truer alt fra streng regjeringens sensur og kontroll over media til entrenched media konglomerater og gamle konsepter av ... Les mer, noe som betyr at regjeringer kan kreve at de vend om andre typer informasjon som er funnet i sine skanninger. Dette kan høres ut som en strekning, men ved å godta vilkårene og betingelsene for Gmail har vi gitt Google mye kraft til å gjøre det de vil ha med våre data.

Og er det så vanskelig å forestille seg at denne teknologien vil bli brukt i jakten på gjerningsmenn av andre forbrytelser? Som det fremgår av Google, hevder Google at noen kunne åpenlyst planlegge en annen type kriminalitet via Gmail, og de ville ikke være uten risiko. Men hvor lenge vil det være tilfelle? Google samarbeider nå med lovhåndhevelse ved å skanne våre private meldinger Kan du unnslippe Internett-overvåkingsprogrammer som PRISM? Kan du unnslippe Internett-overvåkingsprogrammer som PRISM? Helt siden Edward Snowden blåste fløyten på PRISM, NSAs ikke lenger hemmelige overvåkingsprogram, vet vi en ting med sikkerhet: ingenting som skjer online kan betraktes som privat. Kan du virkelig unnslippe ... Les mer. Nå som denne teknologien har blitt brukt til å fange en kriminell og har blitt vist for allmennheten, er det et veldig sterkt band der.

Hva skal Google skanne etter neste? Terroristtrusler? Mordplott? Butikktyveri? Meninger som avviger fra de som støttes av det politiske flertall? Indikasjoner for intensjon om å slutte å bruke Google-tjenester? Vi kunne se et stort vendepunkt i nær fremtid drevet av økende krav fra regjeringer. Og ikke bare vår - hva vil flere repressive regjeringer be Google om å snu? E-post med bevis på homoseksualitet? Politisk uenighet? Humanitære oppdrag?

Vi vet bare ikke. Og det er vanskelig å si hvordan Google vil svare.

Og det blir vanskelig å si nei etter at de har vist at deres skanning kan fange barnpornografere. Hvem skal be dem om å slutte å bruke denne teknologien når de uunngåelig blir spurt “Støtter du barnpornografi, da?” som svar? Det kan ikke være noe å gå tilbake fra dette - den offentlige opinionen kommer til å være vanskelig å svinge mot et system som fanger noen av de mest ødelagte kriminelle i verden.

Er dette begynnelsen av slutten av personvernet?

Hvis det er et enkelt selskap som er synonymt med Internett, er det Google. Og hvis de skanner våre e-post, kan privatlivets fred komme til en slutt (i hvert fall i de store kanalene, det vil alltid være andre alternativer). Hvis du leser stykket Ikke spionere på oss Handlingsaktivitet Lærte fra, ikke spion på oss: Din guide til Internett Personvernundervisning Lærte fra Ikke spion på oss: Din guide til Internett-personvern Les mer, du Jeg vet at jeg er redd for at personvernet står overfor noen alvorlige angrep fra en rekke retninger, både bedriftens og myndighetene. Og dette samarbeidet mellom de to kunne stave problemer for online personvern og sikkerhet.

Selv om jeg ikke tror vi ser en beregnet beregning av Google for å forbedre den offentlige opinionen om deres skanning, tror jeg de vil gjøre sitt beste for å gjøre dette til en positiv ting. De har kanskje ikke håpet på denne skanningen for å bli kjent for publikum, men det er god mulighet her for å vise verden hva de kan gjøre for oss i bytte for noen av våre personvern.

Det neste trinnet som Google tar som svar på denne historien, vil være veldig fortellende, og jeg gleder meg til å følge denne historien for å se hva de sier om det. Hva tror du? Går Google over grensene sine ved å skanne hvert bilde som vi sender? Eller er du glad for å ofre noen av personvernet ditt for å bekjempe barnepornografi? Vil du føle på samme måte hvis Google begynner å skanne etter andre forbrytelser? Eller hvis regjeringer begynner å stille krav til dem om å omdanne bestemte e-postmeldinger? Det er mye plass for kontrovers og diskusjon her-chime under og la oss få vite hva du synes!

Bildekreditter: Alle seende øyne. Doodle-stil (redigert) via Shutterstock, Man i svart via Shutterstock, Micah Baldwin via flickr, DieBuche via Wikimedia Commons, Robert Scoble via flickr, Ben Roberts via flickr.

Utforsk mer om: Gmail, Google, Personvern på Internett.