Tus dispositivos te califican. Compórtate en consecuencia.

[ware_item id=33][/ware_item]

Una ilustración de un medidor. Pulgares arriba en un extremo, pulgares abajo en el otro.


Lo más probable es que hayas visto "Nosedive", el infame episodio de Black Mirror que representa un mundo en el que las personas comunes se califican entre sí en función de sus interacciones sociales. En el popular programa, que apunta a la naturaleza dominante de la tecnología en nuestras vidas y pinta una imagen distópica del futuro, estas calificaciones retroalimentan un algoritmo integral, que computa los puntajes individuales de crédito social que determinan el estado socioeconómico.

En este mundo ficticio, tener un puntaje bajo te impide seguir con tu vida cotidiana. No puede alquilar un automóvil, reservar un hotel o pagar vuelos.

Pero esta historia llega alarmantemente cerca de casa para aquellos sujetos al sistema de crédito social en evolución de China. Creado para replicar el modelo occidental de puntajes de crédito financiero, el sistema chino funciona de manera similar, excepto que recompensa el buen comportamiento (y castiga el mal) más allá de los reembolsos oportunos de la deuda.

Es fácil amonestar a un estado por ejercer una influencia descomunal sobre el comportamiento de sus ciudadanos. Pero eso sería perder un punto clave. La fuerza más amplia que hace posible este modelo único de crédito social en primer lugar es la proliferación de escáneres faciales, dispositivos digitales, algoritmos de aprendizaje automático y modelos de big data. Están aquí para quedarse y se vuelven más inteligentes con el tiempo..

La vigilancia es una fuerza oscura y misteriosa.

La tecnología tiene la capacidad de transformar fundamentalmente nuestros contratos sociales y podría, tal vez, conducir a la eliminación del estado nación en su forma actual.

Si estás leyendo esto, es probable que no seas un fanático de la vigilancia. Usted valora su privacidad y prefiere que el gobierno no sepa lo que está haciendo las 24 horas, los 7 días de la semana. Pero eso se debe a que tenemos la opción (algunos de nosotros, al menos) de vivir en un mundo donde se respetan nuestros derechos, hasta cierto punto..

¿Cómo cambiaría nuestro comportamiento si viviéramos dentro de un panóptico? Nacido de los escritos del filósofo británico Jeremy Bentham, un panóptico se refiere a un edificio con una torre de observación en el centro de un círculo de celdas de prisión..

Se supone que un panóptico lleva a casa la percepción de que sus acciones pueden ser monitoreadas en cualquier momento. Cada prisionero que mira desde su celda de la prisión puede ver la torre de observación central. No hay forma de saber de manera confiable si un guardia los está mirando en el mismo instante, pero tampoco hay forma de evitarlo.

Bentham creía en la noción de que el poder debería ser visible pero oscuro y misterioso. Argumentó que la relación de un individuo con la sociedad dependía de ello: a través de la vigilancia, nos veríamos obligados a cumplir con las normas sociales en términos de ética, moral y actitudes hacia el trabajo..

Los créditos sociales ya están aquí

Bentham murió a principios del siglo XIX, pero su trabajo e ideas siguen vigentes. Y si bien el panóptico como modelo de aplicación de la conducta realmente no despegó, ciertamente podemos argumentar que solo las herramientas son diferentes.

Tomemos las calificaciones de Uber, por ejemplo. La compañía confirmó a principios de este año que comenzaría a prohibir a los ciclistas con calificaciones bajas. Los conductores con calificaciones bajas enfrentan repercusiones similares: en algunos estados no pueden conducir para Uber Black, y podrían recibir menos solicitudes de viaje.

El mensaje aquí es simple pero directo: sea cortés, amigable, o sea cortado. Si eso no es control de comportamiento, no sé qué es.

Y esto está lejos de ser la única manifestación de tecnología que altera nuestras elecciones de estilo de vida. Las compañías de seguros quieren sus datos de Fitbit para que puedan verificar qué tan saludable está y, potencialmente, ajustar sus primas. Los cepillos de dientes inteligentes transmiten datos a su proveedor dental, por lo que si no se cepilla los dientes con suficiente frecuencia, prepárese para sacar más dinero.

También hemos llegado a confiar en estos modelos. ¿Alguna vez compraría un producto de un vendedor de eBay con una calificación baja? ¿Con qué frecuencia lees reseñas en línea antes de probar un nuevo servicio??

Por supuesto, cada uno de estos ejemplos refleja solo una pequeña área de monitoreo, no el gran golpe que toma un sistema de crédito social administrado por el gobierno. Pero esta aparente restricción existe, en su mayor parte, porque las compañías de tecnología han estado operando dentro de sus alcances limitados. Si todos estos puntos de datos se soldaran juntos, podría alimentar un sistema de monitoreo de barrido amplio similar.

Es un dilema moral. Nuestra adicción a la tecnología y los puntos de datos que estamos dispuestos a renunciar hacen que los algoritmos sean más inteligentes y que las empresas de tecnología sean más ricas. Si bien es fácil quejarse de la falta de privacidad, el hecho es que la tecnología solo nos servirá mejor cuando sepa más sobre nosotros. Es un ciclo virtuoso o vicioso, dependiendo de cómo lo veas.

También hay un término para eso: capitalismo de vigilancia, acuñado por Shoshana Zuboff de la Harvard Business School.

¿Es la privacidad una víctima inevitable de la tecnología??

A medida que los sistemas de crédito social proliferan en toda la sociedad, ¿de qué sirve el estado? Las fuerzas centralizadas para defender la libertad y garantizar los derechos fundamentales son esenciales para las sociedades, ¿o no? Si sabemos que los dispositivos en nuestros bolsillos son capaces de registrar acciones cotidianas, ¿no conduciría eso automáticamente a cambios de comportamiento??

¿Es el anarquismo el próximo gran movimiento social? Ciertamente es posible, según el profesor Andreas Wittel, quien argumenta que "las tecnologías digitales podrían abrir nuevas posibilidades para formas anarquistas a gran escala".

Muchos de nosotros somos conscientes de los riesgos de privacidad asociados con la tecnología. Sin embargo, le pedimos a Alexa que nos compre cosas y a Siri que verifique las rutas de manejo. Tocamos nuestra música en Spotify, ordenamos nuestra comida a través de Uber Eats y dividimos nuestros cheques a través de Venmo.

La tecnología está aquí para quedarse y las preocupaciones de privacidad no la borrarán del mapa. La pregunta con la que deberíamos lidiar es si continuará sirviéndonos, o será eventualmente al revés?

Tus dispositivos te califican. Compórtate en consecuencia.
admin Author
Sorry! The Author has not filled his profile.