Zatímco Američané zůstávají fascinováni politickým cirkusem – fandí své preferované straně, posmívají se opozici, posedle se zabývají každým uměle vytvořeným pobouřením a čekají na další podívanou – Stát dohledu pokračuje ve svém stabilním pochodu vpřed.
Vláda to sleduje .
Sleduje, kam chodíte, s kým se setkáváte, kde se modlíte, jaké lékařské ordinace navštěvujete, jakých politických shromáždění se účastníte, k jakým protestům se připojujete, jaké knihy čtete, jaké webové stránky navštěvujete a jaké iniciativy podporujete.
Sleduje váš telefon, auto, zvonek u dveří, spotřebiče, nákupy, účty na sociálních sítích a kamery umístěné podél silnic, po kterých denně jezdíte.
Takto umírá svoboda v digitálním policejním státě: ne vždy dramatickým vyhlášením stanného práva nebo vojáky rozmístěnými na každém rohu ulice, ale postupným budováním technologické sítě – elektronického koncentračního tábora – tak všudypřítomného, že se soukromí stává nemožným a anonymita podezřelou.
Vstupte do společnosti Flock Safety , soukromé společnosti zabývající se technologiemi dohledu, jejíž automatické čtečky registračních značek se rozšířily do tisíců amerických komunit.
Tyto kamery, které dokáží mnohem víc než jen fotografovat registrační značky, představují další vývoj partnerství veřejného a soukromého sektoru v oblasti dohledu mezi vládou .
Dokumentují čas a polohu každého projíždějícího vozidla a zaznamenávají identifikační charakteristiky, jako je jeho značka, model, barva, poškození, střešní nosiče, nálepky na nárazníky a další charakteristické znaky. Tyto informace lze poté umístit do prohledávatelné databáze a použít ke sledování pohybu vozidla v čase.
Skutečná síla – a skutečné nebezpečí – Flocka však nepramení jen z kamer.
Pochází z umělé inteligence.
Kamera dokáže vyfotografovat auto. Platforma Flock s umělou inteligencí dokáže identifikovat a kategorizovat vozidlo, porovnat pozorování s uloženými záznamy, generovat upozornění, identifikovat souvislosti a pomoci policii rekonstruovat, kde se dané vozidlo nacházelo.
Umělá inteligence je to, co transformuje fotografii na stavební kameny podezřelé společnosti.
S umělou inteligencí se každý řidič stává datovým bodem. Každý datový bod se stává vzorem. A každý vzorec se stává podezřením.
Takto se běžné pohyby stávají potenciálně podezřelými a podléhají kontrole ze strany vlády. Umožňuje to orgánům činným v trestním řízení vyhledávat nejen úplnou registrační značku, ale také její část a fyzické popisy, jako je barva vozidla, značka, model, poškození, střešní nosiče, nálepky na nárazníky a další identifikační znaky.
Policista by mohl systém požádat o nalezení každého červeného pick-upu s žebříkovým nosičem spatřeného poblíž protestu, každého vozidla, které opakovaně navštěvovalo určitou adresu, nebo každého auta pozorovaného při jízdě mezi dvěma místy.
Umělá inteligence provádí třídění. Databáze poskytuje historii.
Vláda obdrží seznam potenciálních podezřelých.
Už se nejedná o dohled prováděný jednotlivými policisty podle konkrétních stop. Jde o dohled prováděný rychlostí stroje, napříč celou populací, přičemž algoritmy rozhodují o tom, které pohyby si zaslouží další zkoumání.
Zvažte rozsah toho, co se děje.
Kamery pro měření registračních značek nyní zaznamenávají každý měsíc přibližně 20 miliard skenů vozidel .
Dvacet miliard.
To není cílená policejní práce. To je hromadný sběr.
Drtivá většina těchto skenů se netýká kradených aut, hledaných podezřelých, únosů ani násilných trestných činů. Dokumentují obyčejné lidi, kteří vykonávají běžné činnosti každodenního života: jízdu do práce, odvoz dětí do školy, návštěvy přátel, návštěvy kostela, docházku k lékaři, účast na protestech nebo prostě jen návrat domů.
Přesto se každá z těchto nevinných cest stane součástí prohledávatelné policejní databáze.
S 20 miliardami skenů měsíčně Flock nehledá konkrétní podezřelé a poté se je nepokouší sledovat. Zaznamenává pohyb všech, aby se policie později mohla rozhodnout, koho chce sledovat.
To je digitální ekvivalent pověření vládního agenta sledováním každého řidiče v Americe – a uchovávání agentových poznámek pro případ, že by je vláda jednoho dne shledala užitečnými.
Hromadný sběr dat je však pouze první fází dohledu s využitím umělé inteligence. Další fází je sloučení těchto miliard pozorování se vším ostatním, co o nás vláda a její korporátní partneři vědí.
Flock je také součástí mnohem většího posunu směrem k „fúzi dat“ založené na umělé inteligenci, v níž jsou záznamy o registračních značkách kombinovány s výsledky rozpoznávání obličejů, záznamy z bezpečnostních kamer, policejními zprávami, aktivitou na sociálních sítích, komerčně zakoupenými informacemi, upozorněními na detekci střelných zbraní a dalšími vládními databázemi.
Nebezpečí už nespočívá pouze v tom, že jeden systém dokáže sledovat auto. Jde o sloučení dříve oddělených informačních proudů do jediného systému schopného mapovat pohyby, vztahy, zvyky a asociace dané osoby.
Tyto systémy stále častěji dělají více než jen poskytují policistům informace k vyhodnocení. Přiřazují význam asociacím, označují údajné hrozby a generují vyšetřovací stopy – často prostřednictvím proprietárních algoritmů, které si ani obviněný, ani veřejnost nemohou prohlédnout.
Umělá inteligence neodstraňuje lidské předsudky, institucionální zaujatost ani špatné informace.
Industrializuje je to.
Pokud do chybného systému vložíte nepřesná data, zkreslené záznamy o zatčení nebo ústavně podezřelé sledování, umělá inteligence dokáže tyto vady reprodukovat rychlostí a v rozsahu, kterému se žádný jednotlivý policista nemůže vyrovnat.
Jakmile počítač označí někoho za podezřelého, mohou policisté algoritmický závěr považovat za objektivní fakt.
Stroj obviňuje. Policie jedná. Občan musí dokázat, že se stroj mýlil .
Navzdory mimořádnému dosahu této technologie Flock nadále prezentuje svůj systém jako omezený, pečlivě kontrolovaný nástroj pro boj s kriminalitou.
Flock trvá na tom, že jeho kamery shromažďují informace o vozidlech, nikoli o lidech, že agentury kontrolují přístup ke svým vlastním údajům, že vyhledávání je zaznamenáváno a že informace jsou obvykle po 30 dnech mazány. Tato ujištění však z velké části představují rozdíly bez jakéhokoli rozdílu.
Vozidla jsou prodloužením lidí, kteří je řídí.
Sledujte vozidlo dostatečně dlouho a budete vědět, kde jeho majitel spí, pracuje, vyzývá k bohoslužbám, nakupuje, stýká se, vyhledává lékařskou péči a účastní se politických aktivit.
Víte, kdy někdo odchází z domova, kdy se vrací, koho navštěvuje a jak často.
Možná neznáte obsah jejich rozhovorů, ale víte toho dost na to, abyste si vytvořili intimní portrét jejich života.
To je dohled.
Nestává se méně invazivní jen proto, že vláda outsourcovala kamery, databáze a algoritmy soukromé korporaci.
Ani nepřestává být sledováním proto, že policie tvrdí, že tyto informace by jednoho dne mohly být užitečné při řešení zločinu.
Vskutku, právě tato triková technika umožnila tak rychlé rozšíření sledovacího státu.
Vláda už nemusí instalovat každou kameru, spravovat každou databázi ani přímo shromažďovat každou informaci.
Pouze povzbuzuje soukromé společnosti, podniky, sdružení vlastníků domů, školy a jednotlivé spotřebitele k vytvoření propojeného ekosystému sledování – a poté žádá o přístup.
Toto uspořádání veřejného a soukromého sektoru umožňuje vládním agenturám získat kapacity, na jejichž budování by nikdy nemusely získat veřejné schválení nebo dostatečné finanční prostředky.
To také téměř znemožňuje odpovědnost.
Když dojde ke zneužití, místní policie viní poskytovatele technologií. Poskytovatel technologií trvá na tom, že místní policie má data pod kontrolou. Federální agentury tvrdí, že pouze požádaly o přístup. Místní úředníci tvrdí, že si nebyli vědomi toho, že informace by mohly být sdíleny mimo jejich jurisdikci.
Každý ukazuje jinam.
Mezitím je americký lid nadále pod dohledem.
Flock se stal obzvláště kontroverzním, protože jeho síť dokáže proměnit to, co se jeví jako sbírka lokálních kamer, v něco mnohem silnějšího: prohledávatelný systém sledování, který umožňuje orgánům činným v trestním řízení dívat se daleko za hranice jejich vlastní jurisdikce.
Flock říká, že sdílení dat mezi agenturami je volitelné a kontrolované jejími zákazníky. Celá hodnota takového systému však spočívá v jeho propojenosti.
Kamera v jednom městě je zařízení pro monitorování dopravy.
Tisíce kamer propojených prostřednictvím prohledávatelných databází tvoří síť pro sledování pohybu.
Nebezpečí nespočívá jen v tom, že by policie mohla hledat kradené auto.
Nebezpečí spočívá v tom, že systém umožňuje vládním úředníkům začít s místem, popisem nebo fragmentem informace a postupovat zpětně, dokud se někdo neukáže jako podezřelý.
To obrací tradiční řád ústavní policejní práce.
Podle čtvrtého dodatku ústavy má policie vypracovat individuální podezření, zjistit pravděpodobnou příčinu a poté požádat o soudní příkaz k prohledání důkazů souvisejících s konkrétní osobou nebo trestným činem.
Systémy hromadného sledování začínají shromažďováním informací o všech.
V tomto procesu je s každou nevinnou osobou zacházeno jako s potenciálním podezřelým, jejíž pohyb musí být zaznamenán pro případ, že by vláda jednoho dne usoudila, že je relevantní.
Tohle je vina řízená algoritmem.
Je to také stejný ústavní překroucení, který je jádrem geofence příkazů, jež policii umožňují požadovat informace identifikující každý mobilní telefon, který se náhodou nacházel v blízkosti určitého místa v určitém čase.
Nedávné rozhodnutí Nejvyššího soudu USA ve věci Chatrie v. Spojené státy americké může signalizovat, že ústavní kontrola konečně začíná dohánět i stát, který je dohlížen.
Případ se týkal soudního příkazu k geofenci, který byl použit k získání záznamů o poloze mobilních telefonů v blízkosti místa loupeže z Googlu. Policie místo toho, aby začala s identifikovaným podezřelým, požadovala informace o zařízeních, která se v určitém období nacházela v určené oblasti, a poté zpětně identifikovala jejich majitele.
Nejvyšší soud rozhodl, že policie provádí prohlídku podle čtvrtého dodatku ústavy, když od technologické společnosti získá historii polohy mobilního telefonu dané osoby.
Ten závěr je důležitý.
Odmítá stále pohodlnější argument vlády, že důvěrné informace ztrácejí ústavní ochranu pouze proto, že je shromáždila, uložila nebo analyzovala soukromá společnost.
Soud se nevyjádřil k kamerám Flock ani k automatizovaným databázím registračních značek. Ani nerozhodl, že každý požadavek na geofence je nutně protiústavní. Soudci ponechali na čtvrtém obvodním soudu, aby v každé fázi prohlídky určil, zda zatykač splňuje požadavky čtvrtého dodatku na pravděpodobnou příčinu a specifičnost.
Ústavní princip, který je jádrem Chatrie , nicméně sahá daleko za hranice mobilních telefonů.
Vláda by neměla být schopna obcházet čtvrtý dodatek ústavy tím, že by hromadný dohled zadávala soukromým technologickým společnostem.
Nemělo by záležet na tom, zda stopa polohy pochází od Googlu, Flocku, poskytovatele mobilních telefonů, datového zprostředkovatele nebo propojené sítě soukromých kamer.
Podrobný záznam o pohybu osoby se nestává méně výmluvným, protože sleduje vozidlo, nikoli telefon. Vláda by neměla mít možnost prostřednictvím Flocku dosáhnout toho, čeho by ústavně nemohla dosáhnout pověřením policistů sledováním milionů Američanů všude, kam jedou.
Flock může ve skutečnosti představovat ještě znepokojivější inverzi ústavní policejní práce.
Vyhledávání pomocí geofence obvykle začíná konkrétním trestným činem, místem a obdobím. Flock průběžně shromažďuje informace o milionech vozidel ještě předtím, než k trestnému činu dojde a než je jakákoli osoba podezřelá z protiprávního jednání.
Policie se pak může vrátit do uložené historie a rekonstruovat pohyb dané osoby.
Sledování je na prvním místě. Podezření přichází až potom.
Zatykač, pokud je vůbec požadován, může dorazit až poté, co vláda již vytvořila databázi, kterou hodlá prohledávat.
Chatrie může poskytnout ústavní munici pro zpochybnění tohoto uspořádání, ale žádné jediné soudní rozhodnutí nezruší aparát hromadného sledování .
Tato technologie je již zakotvena v tisících komunit.
Databáze se již naplňují.
Agentury jsou již propojené.
A společnosti, které z této infrastruktury profitují, budou bojovat za její zachování.
Ústavní ochrana bohužel jen zřídka drží krok s vládní touhou po sledování.
Nebezpečí již nejsou teoretická.
Data z hejna byla údajně použita při vyšetřováních, která se velmi liší od závažných násilných trestných činů, jež jsou běžně používány k ospravedlnění těchto systémů.
Toto je nevyhnutelná trajektorie každé sledovací technologie. Nejprve je zavedena jako nouzové opatření. Poté je ospravedlňována jako nástroj v boji proti zločinu. Poté je rozšířena na méně závažné trestné činy. V neposlední řadě je používána pro administrativní vymáhání, politické monitorování, imigrační vyšetřování a osobní účely.
Nakonec se stane součástí zákulisního aparátu vlády – trvalým prvkem každodenního života, který již nepřitahuje pozornost, protože si všichni zvykli na to, že jsou sledováni.
Takhle funguje plíživé naplňování mise .
Pravomoci v oblasti dohledu vytvořené za účelem nalezení únosců a násilných zločinců se neomezují pouze na únosce a násilné zločince.
Databáze vytvořené za účelem lokalizace odcizených vozidel se neomezují pouze na odcizená vozidla.
Vládní agentury nemohou odolat pokušení využít jakoukoli pravomoc, která jim je k dispozici, zvláště když je použití této pravomoci levné, snadné a do značné míry skryté před veřejností.
Potenciál technologie k chybám to činí ještě nebezpečnějším.
Čtečky registračních značek mohou špatně číst značky, spoléhat se na nepřesné seznamy pachatelů nebo spojovat nevinné vozidlo s trestným činem. Jakmile systém vydá upozornění, mohou policisté považovat počítačem generovaný výsledek za fakt.
Oběť může být zastavena, obklopena ozbrojenou policií, spoutána, prohledána nebo zadržena dříve, než kdokoli zjistí, že se stroj mýlil.
To není spravedlnost. Je to automatizované podezřívání.
Flock je pouze jednou ze součástí ekosystému dohledu, který zahrnuje zvonkové kamery, rozpoznávání obličejů, drony, sledování mobilních telefonů, biometrické databáze a centra pro detekci kriminality v reálném čase.
Výsledkem je 360stupňový dohled .
Osoba může opustit dům monitorovaný chytrým zvonkem, projet kolem sítě čteček registračních značek, vstoupit do podniku vybaveného rozpoznáváním obličeje, mít u sebe telefon vysílající údaje o poloze a vrátit se domů po ulicích monitorovaných policejními kamerami a soukromými bezpečnostními systémy.
Vláda v žádném případě nemusí danou osobu fyzicky sledovat, protože infrastruktura to dělá automaticky.
Algoritmy třídí informace. Databáze je uchovávají. Soukromé společnosti je zpeněžují. Vládní agentury je vyhledávají.
To vše se děje, zatímco země zůstává uvězněna v nekonečném stranickém zápase v kleci.
Obě strany přispěly k ustavení Státu dohledu. Obě strany jej rozšířily. Obě strany zneužívaly strach k přesvědčení veřejnosti, že svoboda musí být obětována ve prospěch bezpečnosti.
Cíle se mohou měnit v závislosti na tom, kdo je u moci, ale mašinérie zůstává stejná.
Jakmile infrastruktura existuje, neexistuje žádná záruka, že bude použita pouze proti lidem, které nemáte rádi nebo s nimiž politicky nesouhlasíte.
To je lekce, kterou se Američané opakovaně odmítají naučit.
Nástroj dohledu vytvořený jednou administrativou zdědí další. Databáze sestavená pro jeden účel bude nevyhnutelně použita pro jiný. Systém vytvořený za účelem sledování „nich“ se nakonec obrátí proti „nám“.
Komunity po celé zemi si konečně začínají uvědomovat nebezpečí.
Některá města ukončila nebo odmítla obnovit své smlouvy s Flockem. Jiná pozastavila nasazování dat nebo požadovala přísnější omezení sdílení dat, uchovávání dat a přístupu na federální úrovni.
Tento odpor je už dávno očekávaný.
Nemůžeme si dovolit nechat se natolik rozptylovat divadlem politiky, že si nevšimneme architektury tyranie, která se kolem nás buduje.
Stát dohledu se nestará o to, kterou stranu podporujete. Nezajímá ho, pro koho jste hlasovali.
Nezáleží na tom, jestli si myslíte, že nemáte co skrývat.
Kamery sledují. Databáze rostou. Sítě se propojují.