Ledger egoísta de Google es una visión inquietante de la ingeniería social de Silicon Valley

tecnologia 17/05/2018

Google ha creado una empresa multimillonaria sabiendo todo sobre sus usuarios. Ahora, un video producido en Google y obtenido por The Verge ofrece una mirada asombrosamente ambiciosa e inquietante de cómo algunos en la compañía prevén el uso de esa información en el futuro.

El video fue realizado a finales de 2016 por Nick Foster, el jefe de diseño de X (anteriormente Google X) y compartido internamente en Google. Imagina un futuro de recopilación de datos total, donde Google ayuda a empujar a los usuarios a alinearse con sus objetivos, imprime a medida dispositivos personalizados para recopilar más datos e incluso guía el comportamiento de poblaciones enteras para resolver problemas globales como la pobreza y la enfermedad.


Ledger egoísta de Google es una visión inquietante de la ingeniería social de Silicon Valley

Todos los datos recopilados por sus dispositivos, el llamado ledger, se presentan como un paquete de información que puede transmitirse a otros usuarios para el mejoramiento de la sociedad.

Titulado The Selfish Ledger la película de 9 minutos comienza con una historia de epigenética lamarckiana, que están ampliamente preocupadas por la transmisión de los rasgos adquiridos durante la vida de un organismo. Narrando el video, Foster reconoce que la teoría puede haber sido desacreditada en lo que respecta a la genética, pero dice que proporciona una metáfora útil para los datos del usuario. (El título es un homenaje al libro de 1976 de Richard Dawkins The Selfish Gene .) La forma en que usamos nuestros teléfonos crea "una representación en constante evolución de quiénes somos", lo que Foster denomina "libro mayor", postulando que estos perfiles de datos podrían ser construidos, utilizados para modificar comportamientos y transferidos de un usuario a otro:

"Los principios de diseño centrados en el usuario han dominado el mundo de la informática durante muchas décadas, pero ¿y si miramos un poco las cosas? ¿diferentemente? ¿Qué pasa si el libro mayor puede tener una volición o propósito en lugar de simplemente actuar como referencia histórica? ¿Qué pasaría si nos centramos en crear un libro mayor más rico mediante la introducción de más fuentes de información? ¿Qué pasaría si nos consideráramos a nosotros mismos no como propietarios de esta información, sino como custodios, transportistas transitorios o cuidadores? "

El llamado registro de uso de nuestro dispositivo: los datos sobre nuestras" acciones, decisiones, preferencias, movimiento " , y las relaciones "- es algo que podría pasarse a otros usuarios de la misma manera que la información genética se transmite a través de las generaciones, dice Foster.


Ledger egoísta de Google es una visión inquietante de la ingeniería social de Silicon Valley

Resolutions by Google, el concepto para una configuración de todo el sistema que permite a los usuarios elegir objetivo general y luego dirige sus acciones diarias hacia él.

Basándose en la idea del libro mayor, la sección central del video presenta un sistema conceptual de Resoluciones de Google, en el que Google solicita a los usuarios que seleccionen un objetivo vital y luego los guía hacia él en cada interacción que tienen con su teléfono. Los ejemplos, que "reflejarían los valores de Google como organización", incluyen instarlo a probar una opción más respetuosa con el medio ambiente cuando llame a un Uber o le dirija a comprar productos cultivados localmente de Safeway.


Ledger egoísta de Google es una visión inquietante de la ingeniería social de Silicon Valley

Un ejemplo de una resolución de Google superponiéndose sobre la aplicación de compras de una tienda de comestibles, sugiriendo una opción que se alinea con el objetivo expresado por el usuario.

Por supuesto, el concepto se basa en que Google tiene acceso a una gran cantidad de datos y decisiones de los usuarios. Las preocupaciones sobre la privacidad o las posibles externalidades negativas nunca se mencionan en el video. La demanda de mayor cantidad de datos podría ser el aspecto más inquietante de la presentación.

Foster visualiza un futuro donde "la noción de un libro mayor guiado por objetivos se vuelve más aceptable" y "las sugerencias pueden ser convertidas no por el usuario sino por el libro de contabilidad en sí. "Aquí es donde los trasfondos de Black Mirror pasan a primer plano, y el libro busca activamente llenar vacíos en su conocimiento e incluso seleccionar productos de recolección de datos para comprar que cree que pueden atraer al usuario. El ejemplo dado en el video es una báscula de baño porque el libro de contabilidad aún no sabe cuánto pesa su usuario. Luego, el video da un giro adicional hacia la ciencia ficción que induce la ansiedad, imaginando que el libro puede llegar a ser tan astuto como para proponer e imprimir en 3D sus propios diseños. Bienvenido a casa, Dave, construí una escala .


Ledger egoísta de Google es una visión inquietante de la ingeniería social de Silicon Valley

Un nodo conceptual de procesamiento en la nube que analiza la información del usuario y determina la ausencia de un punto de datos relevante; en este caso, peso del usuario.

La visión de Foster del libro de contabilidad va más allá de una herramienta para la superación personal. El sistema podría "tapar lagunas en su conocimiento y perfeccionar su modelo de comportamiento humano", no solo su comportamiento particular o el mío, sino el de toda la especie humana. "Al pensar en los datos de los usuarios como multigeneracionales", explica Foster, "es posible que los usuarios emergentes se beneficien de los comportamientos y decisiones de la generación anterior". Foster imagina la minería de la base de datos del comportamiento humano para patrones, "secuenciando" como el genoma humano , y hacer "predicciones cada vez más precisas sobre decisiones y comportamientos futuros".

"A medida que se extienden los ciclos de recolección y comparación", concluye Foster, "es posible desarrollar una comprensión a nivel de especie de cuestiones complejas como la depresión, la salud , y la pobreza ".


Ledger egoísta de Google es una visión inquietante de la ingeniería social de Silicon Valley

Un principio central del libro mayor es la acumulación de la mayor cantidad de datos posible, con la esperanza de que en algún momento, arrojará luz sobre los principales problemas mundiales.

De acuerdo, el trabajo de Foster es liderar el diseño en X, la "fábrica de instantáneas instantáneas" de Google con objetivos intrínsecamente futuristas, y el concepto de contabilidad limita con la ciencia ficción, pero se alinea casi perfectamente con las actitudes expresadas en los productos existentes de Google. Google Photos ya presume saber qué aspectos principales de la vida considerarás, proponiendo álbumes enteros en función de sus interpretaciones de inteligencia artificial. Google Maps y el Asistente de Google hacen sugerencias basadas en la información que tienen sobre su ubicación y hábitos habituales. La tendencia con todos estos servicios ha sido hacia una mayor inquisición y asertividad por parte de Google. Incluso las composiciones de correo electrónico se están automatizando en Gmail.

Cuando se llegó a un comentario sobre The Selfish Ledger un portavoz de X proporcionó la siguiente declaración a The Verge :

"Entendemos si esto es perturbador, está diseñado para serlo. Este es un experimento mental del equipo de Diseño de hace años que utiliza una técnica conocida como "diseño especulativo" para explorar ideas y conceptos incómodos con el fin de provocar la discusión y el debate. No está relacionado con ningún producto actual o futuro ".

En un momento en que la ética de la nueva tecnología y la AI entran en el discurso público más amplio, Google sigue siendo sorprendido por las posibles implicaciones éticas y desventajas de sus productos, como visto más recientemente con su demostración de la llamada de voz Duplex AI en I / O. La protesta sobre el potencial de engaño de Duplex motivó a Google a agregar la promesa de que su IA siempre se autoidentificará como tal al llamar a trabajadores del servicio desprevenidos.

The Selfish Ledger posiciona a Google como el solucionador de los problemas más difíciles del mundo. alimentado por un grado angustiosamente íntimo de información personal de cada usuario y una facilidad para guiar el comportamiento de poblaciones enteras. No hay nada que sugiera que esto sea algo más que un ejercicio de pensamiento dentro de Google, iniciado por un ejecutivo influyente. Pero proporciona una visión esclarecedora de los tipos de conversaciones que se llevan a cabo dentro de la empresa que ya es el recopilador de datos personales más prolífico del mundo.

The Verge

Comparte Con:

Enlaces patrocinados

Deja un comentario