Poroka Big Data z Big Brotherjem: Kitajska ustvarja sistem za oceno vedenja svojih državljanov

Začela se je zaskrbljujoča fuzija spremljanja z ocenjevanjem vedenja; državljani bodo imeli dostop do privilegijev ali bodo kaznovani glede na svoje vedenje. To je tveganje, ki ga tvegate, ko se odpovedujete zasebnosti v zameno za sodelovanje v družbenih omrežjih in imate nove pripomočke

Kitajska vlada je zaradi distopijske vizije, kakršna je bila Orwellova, ali morda natančneje iz serije Črno ogledalo, začela projekt, s katerim bo ocenila vedenje svojih državljanov in ustvarila algoritmično razvrstitev vsakega od njih. To prinaša novo obdobje, v katerem bo digitalni nadzor del mehanizma ne le za preprečevanje, temveč tudi za prepoved, v katerem bodo državljani različnih vrst.

Že živimo v svetu, v katerem se spremlja vse naše vedenje in informacije, ki jih ustvarjajo, napajajo različne algoritme, to je v bistvu tisto, kar se imenuje Big Data. Kaj kupujemo na spletu, klice, ki jih opravljamo, in od kje jih kličemo; kdo so naši prijatelji in kako z njimi komuniciramo, katera spletna mesta obiščemo in koliko časa porabimo za njih itd. Vsa ta vedenja ustvarjajo profile, ki jih podjetja, kot so Google, Facebook, Apple ali Amazon, uporabljajo za ustvarjanje boljših oglasov, optimizacijo svojih platform in razvoj novih izdelkov. Vendar pa v tem trenutku vse to, vsaj tako, kot želimo verjeti, ne ustvarja ocene ali uvrstitve, ki določa našo primernost za stvari, kot sta služba ali potni list. A to bi se lahko kmalu spremenilo, na Kitajskem to že počnejo. Spremljanje se pridruži, kot bi se nekega dne neizogibno zgodilo, ocenjevanju vedenja kot oblike nadzora moči.

Revija Wired ima zelo velik članek o programu, ki ga je Kitajska sprožila za izgradnjo sistema socialnih kreditov, ki želi oceniti zanesljivost svojih 1, 3 milijarde državljanov. Ideja, ki jo spodbuja vlada, je, da sistem lahko poveča zaupanje na nacionalni ravni in vzpostavi kulturo poštenosti, zvišuje pozitivne vrednote in se izogne ​​goljufijam. Trenutno je program prostovoljen, do leta 2020 pa obvezen. Trenutno vlada vsakega sodelujočega državljana ocenjuje glede na različne dejavnike, ki jih obravnava algoritem, ki ga je ustvarilo podjetje, povezano z internetnim gigantom Alibaba (kitajski Amazon) in drugimi podjetji.

Tako imenovana sezamova kreditna sposobnost meri ljudi med 350 in 950 točk in upošteva pet dejavnikov. Prva je kreditna zgodovina - to je na primer, če državljan pravočasno plača elektriko ali telefon. Drugi dejavnik meri izpolnjevanje pogodbenih obveznosti pri delu. Tretji dejavnik preverja osebne podatke osebe, na primer njihovo telefonsko številko in naslov. Četrta kategorija (tukaj se stvar začne prestrašiti) meri nakupe, ki jih oseba opravi na spletu. Tako bo razvrstitev upoštevala razliko med nekom, ki kupuje video igre, in nekdo, ki kupuje plenice. To kaže na nekaj zelo zaskrbljujočega: ko sistem vedenje oceni kot pozitivno ali negativno, ga začne predlagati ali oblikovati, saj se bo očitno vsak državljan zavedal, da lahko določena vedenja ustvarijo negativne ocene. Peta kategorija so medosebni odnosi; Na primer, deljenje pozitivnih stvari v spletu pomaga dvigniti rezultat. Kot pravi Alibaba, le pozitivno zvišuje rezultat. Ko pa bo vlada leta 2020 program uradno začela, bo težko misliti, da kritično vedenje ne vpliva na ta rezultat ali da ga vlada vsaj upošteva, kot kaže raziskava Wireda . Ker tudi na uvrstitev vplivajo odnosi vsake osebe, lahko zlahka opazite primere, v katerih obstaja družbeni pritisk, da se izognete določenim komentarjem.

Obstaja epizoda serije Črno ogledalo, ki je strašljivo podobna. V kitajskem programu lahko prijatelji in socialni stiki vplivajo na ocenjevanje državljana in hkrati državljani, ki imajo zelo zanesljivo vedenje, koristijo ugodnosti. Trenutno jim to že omogoča dostop do posojil za nakup preko spleta, najem avtomobila, ne da bi na različnih krajih zapustili polog ali prijavo VIP. Sistem nagrajuje zvestobo, visoki rezultati pa so videti kot nova oblika statusa. Približno sam sistem državljanom svetuje, kako izboljšati rezultat, na primer tako, da se ne druži z ljudmi z nizkimi ocenami, kar je že prototip elitizma politične ultrakorekcije. Kot Rachel Botsman pravi v Wiredu, je Sesame Credit različica video igre Komunistične partije Big Data, gamifikacija nadzora. Že na Kitajskem je bil dang'an, zapis vseh političnih in osebnih prestopkov državljana, zdaj pa to postaja eksponentno, saj vključuje celotno družbo. Zaradi tega bodo ljudje z nizkimi ocenami imeli nižjo hitrost povezave in izgubili pravico do potovanja, pravi Botsman.

Raven, ki jo lahko doseže, je ustvarila alarm. Luciano Flordi, profesor filozofije na Oxfordu, to primerja s premikom paradigme na ravni kopernikanske revolucije ali s Freudovimi idejami, da naša dejanja nadzira nezavedno. Nova paradigma je povezana z zlitjem tega, kar počnemo na spletu z življenjem brez povezave, in ustvarja tisto, kar imenuje " onlife ", torej novo osebnost, ki integrira našo virtualno osebnost z našo fizično osebnostjo brez povezave . Živeli bomo v svetu, ki bo za ljudi podoben Yelp.

Treba je omeniti, da nekateri na Kitajskem menijo, da ima ta sistem določeno prednost in je preglednejši od tistega, kar je bilo prej storjeno v tej državi. Ker državljani še vedno vedo, da jih bodo spremljali, bodo vsaj zdaj vedeli, kakšna so pravila in imeli bodo dostop do svojega profila. Poleg tega jih sistem ščiti pred poslovanjem in izmenjavami z ljudmi z malo verodostojnosti, tako kot Uber, Airbnb ali Mercado Libre.

Medtem ko zahodnjaki na to razmišljanje reagirajo, da je značilno za komunizem, se morda ne zavedajo, da bi se v prihodnosti v družbah, kot je naša, lahko zgodilo isto. Rachel Botsman piše, da naša družba:

Zagotovo teži k temu. Če ne pride do množičnega vstajanja državljanov, ki zahteva nadzor nad zasebnostjo, vstopamo v obdobje, v katerem se bodo ukrepi državljanov presojali po standardih, ki jih ne morejo nadzorovati, in sodb ni mogoče izbrisati. Posledice niso samo moteče, so trajne. Pozabimo pravico izbrisati in biti pozabljeni, biti mladi in impulzivni.

Čeprav so nekateri analitiki bolj optimistični - kot Kevin Kelley, ki govori o covigilance (kjer varnostniki pazijo tudi na varnostnike) - je moč, ki jo prevzemajo velika internetna podjetja, kot sta Google ali Facebook, zagotovo zaskrbljujoča. Čeprav ta podjetja svojih podatkov ne uporabljajo nujno za nadzor državljanov, jih zagotovo uporabljajo za povečanje dobička, trenutno pa lahko že povzročijo določeno vedenje ( trkanje ) in napovedovanje vedenja, včasih bolj učinkovito kot ista oseba. Vemo, da digitalna ekonomija, ki temelji na ideji o neskončni rasti, ne ustvarja resnične blaginje, temveč povečuje neenakost - državljane različnih razredov. Vemo tudi, da digitalna ekonomija temelji na privlačenju pozornosti in da so vse vrste tehnologij odvračanja pozornosti ustvarjene za pritegnitev pozornosti. Torej lahko imamo različico, podobno komunizmu, samo kapitalistično; Medtem ko kitajska tehnoodistopija spominja na orwellovo, je zahodna kot na Huxleyju.

Preberite še: Zakaj je tisto, kar živimo, bolj podobno Huxleyju kot "Srečen svet" kot "1984" Orwella

Slika: Kevin Hong