Vos appareils vous notent. Comportez-vous en conséquence.

[ware_item id=33][/ware_item]

Une illustration d'un mètre. Pouce levé à une extrémité, pouce baissé à l'autre.


Il y a de fortes chances que vous ayez vu «Nosedive», le tristement célèbre épisode du Black Mirror représentant un monde dans lequel les gens ordinaires s’évaluent en fonction de leurs interactions sociales. Dans l'émission populaire - qui vise la nature omniprésente de la technologie dans nos vies et brosse un tableau dystopique de l'avenir - ces évaluations alimentent un algorithme complet, calculant les scores de crédit social individuels qui déterminent le statut socioéconomique.

Dans ce monde fictif, avoir un score faible vous empêche de vaquer à vos occupations quotidiennes. Vous ne pouvez pas louer une voiture, réserver un hôtel ou payer des vols.

Mais cette histoire touche de façon alarmante près de chez eux pour ceux qui sont soumis au système de crédit social en évolution de la Chine. Conçu pour reproduire le modèle occidental des cotes de crédit financier, le système chinois fonctionne de la même manière, sauf qu'il récompense les bons comportements (et punit les mauvais) au-delà des remboursements de dette en temps opportun..

Il est facile d’exhorter un État à exercer une influence démesurée sur le comportement de ses citoyens. Mais ce serait manquer un point clé. La force plus large qui rend possible ce modèle de crédit social unique est en premier lieu la prolifération des scanners faciaux, des appareils numériques, des algorithmes d'apprentissage automatique et des modèles de Big Data. Ils sont là pour rester et devenir plus intelligents au fil du temps.

La surveillance est une force sombre et mystérieuse

La technologie a la capacité de transformer fondamentalement nos contrats sociaux et pourrait peut-être conduire à l'élimination de l'État-nation dans sa forme actuelle.

Si vous lisez ceci, il est probable que vous n'êtes pas un fan de la surveillance. Vous appréciez votre vie privée et vous préférez que le gouvernement ne sache pas ce que vous faites 24/7. Mais c'est parce que nous avons le choix (certains d'entre nous, au moins) de vivre dans un monde où nos droits, dans une certaine mesure, sont respectés.

Comment notre comportement changerait-il si nous vivions à l'intérieur d'un panoptique? Né des écrits du philosophe britannique Jeremy Bentham, un panoptique fait référence à un bâtiment comportant une tour d'observation au centre d'un cercle de cellules de prison.

Un panoptique est censé ramener à la maison la perception que vos actions pourraient être surveillées à tout moment. Chaque détenu qui regarde hors de sa cellule de prison peut voir la tour d'observation centrale. Il n'y a aucun moyen de savoir de manière fiable si un gardien les regarde au même instant, mais il n'y a aucun moyen de l'éviter non plus.

Bentham croyait en l'idée que le pouvoir devait être visible mais sombre et mystérieux. Il a fait valoir que la relation d'un individu avec la société en dépendait: grâce à la surveillance, nous serions obligés de nous conformer aux normes de la société en termes d'éthique, de morale et d'attitude envers le travail..

Les crédits sociaux sont déjà là

Bentham est décédé au début du XIXe siècle, mais son travail et ses idées perdurent. Et bien que le panoptique en tant que modèle d'application des comportements n'ait pas vraiment décollé, nous pouvons certainement affirmer que ce ne sont que les outils qui sont différents.

Prenons par exemple les notes Uber. La société a confirmé plus tôt cette année qu'elle commencerait à interdire les coureurs avec de faibles notes. Les conducteurs avec de faibles notes font face à des répercussions similaires: ils ne peuvent pas conduire pour Uber Black dans certains États, et ils pourraient recevoir moins de demandes de conduite.

Le message ici est simple mais direct: soyez poli, amical ou coupez-vous. Si ce n'est pas le contrôle du comportement, je ne sais pas ce qui est.

Et c'est loin d'être la seule manifestation de la technologie qui modifie nos choix de vie. Les compagnies d'assurance veulent vos données Fitbit afin de pouvoir vérifier votre état de santé et, éventuellement, d'ajuster vos primes. Les brosses à dents intelligentes transmettent les données à votre fournisseur de soins dentaires, donc si vous ne vous brossez pas les dents assez souvent, préparez-vous à cracher plus d'argent.

Nous en sommes venus à compter également sur ces modèles. Souhaitez-vous jamais acheter un produit auprès d'un vendeur eBay avec une faible note? À quelle fréquence lisez-vous les avis en ligne avant d'essayer un nouveau service?

Bien sûr, chacun de ces exemples ne reflète qu’un petit domaine de suivi, et non pas le vaste coup porté par un système de crédit social géré par le gouvernement. Mais cette restriction apparente existe, pour la plupart, parce que les entreprises technologiques opèrent dans leurs limites. Si tous ces points de données étaient soudés ensemble, cela pourrait alimenter un système de surveillance à large balayage similaire.

C’est un dilemme moral. Notre dépendance à la technologie et les points de données que nous sommes prêts à abandonner rendent les algorithmes plus intelligents et les entreprises technologiques plus riches. S'il est facile de se plaindre d'un manque de confidentialité, le fait est que la technologie ne nous servira mieux que si elle en sait plus sur nous. C’est un cercle vertueux ou vicieux, selon la façon dont vous le voyez.

Il y a aussi un terme pour cela: le capitalisme de surveillance, inventé par Shoshana Zuboff de la Harvard Business School.

La vie privée est-elle une victime inévitable de la technologie?

Alors que les systèmes de crédit social prolifèrent dans la société, à quoi sert l’État? Des forces centralisées pour défendre la liberté et garantir les droits fondamentaux sont essentielles pour les sociétés - ou le sont-elles? Si nous savons que les appareils dans nos poches sont capables d'enregistrer des actions quotidiennes, cela n'entraînerait-il pas automatiquement des changements de comportement?

L'anarchisme est-il le prochain grand mouvement social? C'est certainement possible, selon le professeur Andreas Wittel, qui soutient que «les technologies numériques pourraient ouvrir de nouvelles possibilités pour des formes d'organisation anarchiste à grande échelle.»

Beaucoup d'entre nous sont conscients des risques pour la vie privée associés à la technologie. Pourtant, nous demandons à Alexa de nous acheter des trucs et à Siri de vérifier les itinéraires de conduite. Nous jouons notre musique sur Spotify, commandons notre nourriture via Uber Eats et divisons nos chèques via Venmo.

La technologie est là pour rester et les problèmes de confidentialité ne l'effaceront pas de la carte. La question à laquelle nous devons nous attaquer est de savoir si elle continuera à nous servir, ou si ce sera finalement l'inverse?

Vos appareils vous notent. Comportez-vous en conséquence.
admin Author
Sorry! The Author has not filled his profile.