Dina enheter betygsätter dig. Uppför sig i enlighet därmed.

[ware_item id=33][/ware_item]

En illustration av en meter. Tummen upp i ena änden, tummen ner på den andra.


Chansen är stor att du har sett "Nosedive", den ökända Black Mirror-episoden som visar en värld där vanliga människor rankar varandra utifrån deras sociala interaktioner. På den populära showen - som tar sikte på den genomgripande tekniken i våra liv och målar en dystopisk bild av framtiden - matar dessa betyg tillbaka till en omfattande algoritm som beräknar individuella sociala kreditpoäng som bestämmer socioekonomisk status.

I denna fiktiva värld förhindrar du att låta poängen gå från din vardag genom att ha en låg poäng. Du kan inte hyra en bil, boka hotell eller betala för flygningar.

Men den här historien slår oroande hemma för dem som omfattas av Kinas utvecklande sociala kreditsystem. Det kinesiska systemet, som är byggt för att replikera den västerländska modellen för finansiella kreditpoäng, fungerar på liknande sätt, förutom att det belönar gott beteende (och straffar dåligt) utöver bara snabba betalningar.

Det är lätt att anmäla en stat för att ha ett stort inflytande över medborgarnas beteende. Men det skulle sakna en nyckelpunkt. Den bredare kraften som möjliggör denna unika sociala kreditmodell i första hand är spridningen av ansiktsskannrar, digitala enheter, maskininlärningsalgoritmer och big data-modeller. De är här för att stanna och bli mer intelligenta med tiden.

Övervakning är en mörk och mystisk kraft

Teknik har förmågan att grundläggande omvandla våra sociala kontrakt och kan kanske leda till att nationstaten i dess nuvarande form avskaffas.

Om du läser detta, är chansen stor att du inte är ett fan av övervakning. Du värdesätter din integritet och du vill hellre att regeringen inte vet vad du gör 24/7. Men det beror på att vi har valet (vissa av oss, åtminstone) att leva i en värld där våra rättigheter, till viss del, respekteras.

Hur skulle vårt beteende förändras om vi bodde i ett panopticon? Född från skrifterna av den brittiska filosofen Jeremy Bentham, en panopticon hänvisar till en byggnad med ett observations torn i mitten av en cirkel med fängelseceller.

En panopticon är tänkt att driva hem uppfattningen att dina handlingar kan övervakas när som helst. Varje fånge som tittar ut ur sin fängelsecell kan se det centrala observationstornet. Det finns inget sätt att pålitligt veta om en vakt tittar på dem i samma ögonblick, men det finns inget sätt att undvika det heller.

Bentham trodde på tanken att makten borde vara synlig men ändå mörk och mystisk. Han hävdade att en individs förhållande till samhället var beroende av det: Genom övervakning tvingades vi följa samhällsnormer när det gäller etik, moral och attityder till arbete.

Sociala krediter finns redan här

Bentham dog i början av 1800-talet, men hans arbete och idéer lever vidare. Och även om panoptikonet som en beteendehanteringsmodell inte riktigt kom från marken, kan vi säkert hävda att det bara är verktygen som är annorlunda.

Låt oss ta Uber-betyg, till exempel. Företaget bekräftade tidigare i år att det skulle börja förbjuda ryttare med låga betyg. Förare med låga betyg har liknande återverkningar: De kan inte köra för Uber Black i vissa stater, och de kan få färre åkförfrågningar.

Meddelandet här är enkelt men ändå direkt: Var artig, vänlig eller bli avstängd. Om det inte är beteendekontroll vet jag inte vad det är.

Och detta är långt ifrån den enda manifestationen av teknik som förändrar våra livsstilsval. Försäkringsbolag vill ha dina Fitbit-data så att de kan kontrollera hur frisk du är och eventuellt justera dina premier. Smarta tandborstar strålar data tillbaka till din tandleverantör, så om du inte borstar tänderna tillräckligt ofta, gör dig redo att hosta mer pengar.

Vi har kommit att förlita oss på dessa modeller också. Skulle du någonsin köpa en produkt från en eBay-säljare med lågt betyg? Hur ofta läser du recensioner online innan du testar en ny tjänst?

Naturligtvis återspeglar vart och ett av dessa exempel bara ett litet övervakningsområde, inte det breda slaget som det statliga sociala kreditsystemet har tagit. Men denna till synes återhållsamhet finns, till största delen, eftersom teknikföretagen har verkat inom sina begränsade tillämpningsområden. Om alla dessa datapunkter var sammansvetsade skulle det kunna driva ett liknande vidsträckt övervakningssystem.

Det är en moralisk kvandär. Vårt beroende av teknik och de datapunkter som vi är villiga att ge upp gör algoritmer smartare och tekniska företag rikare. Det är lätt att klaga på brist på integritet, men faktum är att teknik bara kommer att tjäna oss bättre när den vet mer om oss. Det är en dygdig eller ond cirkel, beroende på hur du ser på den.

Det finns en term för det också: övervakningskapitalism, myntad av Shoshana Zuboff från Harvard Business School.

Är integritet en oundviklig teknikolycka?

När sociala kreditsystem sprids i hela samhället, hur använder staten? Centraliserade krafter för att upprätthålla friheten och garantera grundläggande rättigheter är nödvändiga för samhällen - eller är de det? Om vi ​​vet att enheterna i våra fickor kan spela in vardagliga handlingar, skulle det inte automatiskt leda till beteendeförändringar?

Är anarkismen den nästa stora sociala rörelsen? Det är säkert möjligt, enligt professor Andreas Wittel, som hävdar att "digital teknik kan öppna upp nya möjligheter för storskaliga former av anarkistisk organisation."

Många av oss är medvetna om de sekretessrisker som är förknippade med teknik. Ändå ber vi Alexa att köpa oss saker och Siri för att kontrollera körvägar. Vi spelar vår musik på Spotify, beställer vår mat via Uber Eats och delar upp våra checkar via Venmo.

Tekniken är här för att stanna och problem med sekretess kommer inte att torka bort den från kartan. Frågan som vi borde möta är om det kommer att fortsätta att tjäna oss eller om det så småningom blir tvärtom?

Dina enheter betygsätter dig. Uppför sig i enlighet därmed.
admin Author
Sorry! The Author has not filled his profile.