TED 2017| Tristan Harris

How a handful of tech companies control billions of minds every day

Cómo un puñado de empresas de tecnología controlan

Quiero que se imaginen entrando en una sala. Una sala de control con un montón de gente, cien
personas encorvadas en un escritorio con pequeños diales... y que esa sala de control moldeará los
pensamientos y sentimientos de un billón de personas. Esto podría sonar como ciencia ficción, pero
esto realmente existe en la actualidad.
Lo sé porque solía estar en una de esas salas de control. Yo era un diseñador ético en Google, donde
estudié cómo se controlan los pensamientos de la gente de forma ética; debido a que, de lo que no
hablamos, es de cómo el puñado de personas que trabajan en un puñado de empresas de
tecnología, por medio de sus decisiones, controlarán lo que un billón de personas están pensando en
la actualidad. Porque cuando sacan su teléfono, ellos diseñan cómo esto funciona o qué hay en las
notificaciones y están programando pequeños bloques de tiempo en nuestras mentes. Si ven una
notificación, esta los programa para que tengan pensamientos que quizás no tenían la intención de
tener. Si presionan esa notificación, esta los programa para que pasen un poco de tiempo, al ser
atrapados por algo, por lo que quizá no tenían la intención de dejarse atrapar. Cuando hablamos de
tecnología, tendemos a hablar de ella, como esta enorme oportunidad, que podría ir en cualquier
dirección. Y quiero hablar seriamente por un instante y decirles por qué va en una dirección muy
específica, puesto no está evolucionando al azar. Hay un objetivo oculto dirigiendo la dirección de
toda la tecnología que hacemos y ese objetivo es la carrera por nuestra atención. Porque cada sitio
nuevo: TED, elecciones, políticos, juegos, incluso las aplicaciones de meditación, tienen que competir
por una cosa, nuestra atención y ésta es limitada. La mejor manera de capturar la atención de las
personas, es saber cómo funciona la mente de alguien. Hay una cantidad de técnicas de persuasión
que aprendí en un laboratorio de la universidad llamado “Laboratorio de Tecnología
Persuasiva”, para capturar la atención de la gente.
Un ejemplo sencillo es YouTube. YouTube quiere maximizar el tiempo que Uds. pasan allí. Entonces,
¿qué es lo que hacen? Reproducen el siguiente vídeo automáticamente y digamos que funciona muy
bien. Están consiguiendo un poco más de tiempo de la gente. Bueno, si son Netflix, miran eso y
dicen: "Eso está reduciendo mi cuota de mercado, así que voy a reproducir el siguiente episodio
automáticamente." Pero si son Facebook, dicen: "eso está reduciendo toda mi cuota de mercado, así
que ahora debo reproducir todos los vídeos del inicio automáticamente, antes de esperar a que
hagan clic en reproducir." Por eso Internet no está evolucionando al azar. La razón por la que parece
que nos atrapa en la manera que lo hace, se debe a esta carrera por la atención. Sabemos adónde va
esto. La tecnología no es neutral. Y se convierte en esta carrera hacia el fondo del tronco
encefálico; de quién puede ir más bajo para ganarla.
Permítanme darles un ejemplo de Snapchat. Si no lo sabían, Snapchat es el medio número uno que
los adolescentes de Estados Unidos usan para comunicarse. Si son como yo y usan mensajes de texto
para comunicarse, eso es Snapchat para los adolescentes y hay como cien millones de ellos que la
usan. Ellos inventaron una función llamada Snapstreaks, la cual muestra el número de días
seguidos que dos personas se han comunicado entre sí. En otras palabras, lo que acaban de hacer, es
que le dieron a dos personas algo que no quieren perder. Ya que si son un(a) adolescente y tienen
150 días seguidos, no quieren que eso se esfume. Así que piensen en los pequeños bloques de
tiempo, que eso programa en las mentes de los niños. Esto no es teórico: cuando los niños van de
vacaciones, se ha demostrado que dan sus contraseñas a hasta cinco de sus amigos para mantener
su Snapstreaks activo, incluso cuando no pueden hacerlo. Y tienen como 30 de estas cosas, así que,

1
tienen que tomar fotos o simplemente imágenes de paredes o techos sólo para pasar su día. Ni
siquiera es como si conversaran realmente. Tenemos la tentación de pensar en esto como: "Oh, sólo
están usando Snapchat de la forma en que solíamos chismear en el teléfono. Probablemente esté
bien." Pero lo que esto omite es que en la década de 1970, cuando estaban simplemente
chismeando en el teléfono, no había cien ingenieros al otro lado de la pantalla, que sabían
exactamente cómo funcionaba su psicología y los orquestaban en un doble vínculo entre sí.
Ahora, si esto les hace sentir un poco de indignación, noten que ese pensamiento simplemente les
llega. La indignación también es una manera muy buena de capturar su atención, ya que no elegimos
la indignación, es algo que nos sucede. Y si son la sección de novedades de Facebook, quiéranlo o
no, de hecho se benefician cuando hay indignación, porque la indignación no sólo programa una
reacción emocional en ustedes en el tiempo/espacio, sino que queremos compartir esa indignación
con otros. Queremos dar clic en compartir y decir: "¿Pueden creer lo que dijeron?" Y así, la
indignación funciona muy bien para capturar la atención, de modo que si Facebook tuviera la
opción entre mostrarles publicaciones indignantes o tranquilas, ellos querrían mostrarles las
indignantes, no porque alguien eligió conscientemente eso, sino porque eso funcionó mejor, para
capturar su atención. Y... La sala de control de noticias no es responsable de nosotros. Sólo es
responsable de maximizar la atención. También es responsable, debido al modelo de negocio de la
publicidad, para cualquiera que pueda pagar más, entrar en la sala de control y decir: "Ese grupo
allá, quiero programar estos pensamientos en sus mentes." Así que se puede elegir como blanco... se
puede apuntar con precisión una mentira, directamente a las personas que son más susceptibles. Y
debido a que esto es rentable, sólo va a empeorar.
Así que hoy estoy aquí, porque los costos son muy evidentes. No conozco un problema más urgente
que este, porque este problema está debajo de todos los demás problemas. No sólo se está llevando
nuestra voluntad, de invertir nuestra atención y vivir las vidas que queremos; está cambiando la
manera en que tenemos nuestras conversaciones, está cambiando nuestra democracia y está
cambiando nuestra habilidad de tener conversaciones y las relaciones que queremos unos con
otros. Y afecta a todos, porque un billón de personas tienen uno de estos en su bolsillo.
Entonces, ¿cómo arreglamos esto? Necesitamos hacer tres cambios radicales en la tecnología y en
nuestra sociedad. El primero es que debemos reconocer que somos persuasibles. Una vez que
empiezan a entender, que su mente puede ser programada para que tenga pequeños
pensamientos, o pequeños bloques de tiempo que no eligieron, ¿no querríamos usar esa
comprensión y protegernos de la forma en que eso sucede? Pienso que necesitamos vernos
fundamentalmente de una nueva forma. Es casi como un nuevo período de la historia humana, como
la Ilustración; pero casi una especie de iluminación autoconsciente; que podemos ser persuadidos y
podría haber algo que queramos proteger. El segundo es que necesitamos nuevos modelos y
sistemas de responsabilidad, para que a medida que el mundo mejore y se vuelva más persuasivo
con el tiempo, - porque sólo va a hacerse más y más persuasivo - que las personas en esas salas de
control sean responsables y transparentes con lo que queremos. La única forma ética de persuasión
que existe, es cuando los objetivos del persuasor están alineados con los objetivos del persuadido y
eso implica cuestionar cosas grandes, como el modelo de negocio publicitario. Finalmente,
necesitamos un renacimiento del diseño, porque una vez que se tiene esta visión de la naturaleza
humana, de que se puede controlar las líneas de tiempo de un billón de personas, sólo imaginen, hay
gente que tiene algún deseo de lo que quieren hacer, estar pensando y sintiendo y cómo quieren ser
informados y simplemente todos somos halados en estas otras direcciones y hay un billón de
personas arrastradas en todas estas diversas direcciones. Bueno, imaginen todo un Renacimiento de
diseño que procurara orquestar la manera más exacta y poderosa de invertir el tiempo para que
estas líneas de tiempo ocurrieran. Eso implicaría dos cosas: Una nos estaría protegiendo de las líneas
de tiempo, que no queremos experimentar, los pensamientos que no queremos procesar, para no
tener ese timbre, que cuando suena nos dispersa. Y la segunda nos permitiría vivir la línea de tiempo
que queremos.

2
Permítanme darles un ejemplo concreto. Digamos que su amigo(a) les cancela la cena hoy y se están
sintiendo un poco solos. Entonces, ¿qué hacen en ese momento? Abren Facebook... y en ese
momento los diseñadores en la sala de control, quieren programar exactamente una cosa, lo cual es
maximizar la cantidad de tiempo que pasan en la pantalla. Ahora, en lugar de eso imaginen si esos
diseñadores crearan una línea de tiempo diferente que fuera la manera más fácil, - utilizando todos
sus datos - para ayudarles realmente a salir, con las personas que les importan. Tan sólo imagínenlo,
eso aliviaría toda la soledad en la sociedad, si ese fuera el cronograma que Facebook quisiera hacer
posible para la gente. O imaginen una conversación diferente, donde digamos que quisieran publicar
algo súper controvertido en Facebook, lo que es muy importante, - hablar de temas polémicos -. Y
ahora mismo, cuando está esa gran caja de comentarios, casi preguntándoles: ¿Qué quieres
escribir? En otras palabras, está programando una pequeña serie de cosas que van a seguir haciendo
en la pantalla. E imaginen que en lugar de eso, hubiese otro botón allí diciendo: ¿Cuál sería la mejor
forma de invertir tu tiempo? Y hacen clic en "organizar una cena" y justo debajo del artículo
dijera: ¿Quién quiere confirmar la cena? Y aún así tendrían una conversación acerca de algo
controvertido, pero la tendría en el lugar más inspirador en su línea de tiempo, la que sería en casa
esa noche, con un montón de amigos para hablar de ello. Imaginen que estamos operando, como un
"buscar/reemplazar" en todas las líneas de tiempo que actualmente nos manipulan persuasivamente
hacia más y más tiempo en la pantalla y reemplazar todas esas líneas de tiempo, con lo que sí
queremos en nuestras vidas.
No tiene por qué ser de esta manera. En lugar de perjudicar nuestra atención, imaginen si usáramos
toda esta información y todo este poder y esta nueva visión de la naturaleza humana para darnos
una habilidad sobrehumana de concentración y una habilidad sobrehumana de poner nuestra
atención en lo que nos importa, y una habilidad sobrehumana de tener las conversaciones que
necesitamos tener en la democracia. Los desafíos más complejos en el mundo, no sólo requieren de
nosotros que usemos nuestra atención individualmente. Nos exigen que utilicemos nuestra atención
y la coordinemos colectivamente. El cambio climático va a requerir que mucha gente, sea capaz de
coordinar su atención en conjunto de la manera más poderosa. E imaginen crear una habilidad
sobrehumana para hacer eso.
A veces los problemas más urgentes e importantes del mundo, no son estas cosas futuras e
hipotéticas, que podríamos crear en el futuro. A veces los problemas más urgentes, son los que están
justo ante nuestras narices; las cosas que ya están dirigiendo los pensamientos de un billón de
personas. Y tal vez en lugar de entusiasmarnos con la nueva realidad aumentada y la realidad virtual
y estas cosas geniales que podrían suceder, - las cuales van a ser susceptibles a la misma carrera por
la atención - pudiéramos arreglar la carrera por la atención, respecto a lo que ya está en el bolsillo de
un billón de personas. Tal vez en lugar de emocionarnos por las nuevas, emocionantes y más lujosas
aplicaciones educativas, podríamos arreglar la manera en que las mentes de los niños son
manipuladas, para que envíen mensajes vanos de un lado a otro.
(Aplausos)
Quizá en lugar de preocuparnos por un futuro hipotético de inteligencias artificiales fugitivas, que se
están maximizando para un objetivo, podríamos solucionar la inteligencia artificial fugitiva, que ya
existe en este momento, las cuales son estas secciones de publicaciones que se maximizan para una
cosa. Es casi como en lugar de huir a colonizar nuevos planetas, arregláramos el planeta en el que ya
estamos.
(Aplausos)
Solucionar este problema supone tener una infraestructura crítica, para solucionar cualquier otro
problema. No hay nada en sus vidas o en nuestros problemas colectivos, que no requiera de nuestra
capacidad de enfocarnos en las cosas que nos importan. Al final de nuestras vidas, todo lo que
tenemos es nuestra atención y nuestro tiempo. ¿Cuál sería la mejor manera de invertir nuestro
tiempo?
Gracias.

3
(Aplausos) Gracias.
Chris Anderson: Tristan, gracias. Quédate aquí un segundo. Primero que todo, gracias. Sé que te
pedimos que hicieras esta charla con muy poca antelación y has tenido una semana bastante
estresante; compilando esto, así que gracias. Algunas personas que escuchan esto, podrían decir: "Lo
que discutes es la adicción y todas estas personas haciendo estas cosas," para ellos es muy
interesante. Todas estas decisiones de diseño han construido contenido de usuario, que es
increíblemente interesante. El mundo es más interesante que nunca. ¿Qué hay de malo en eso?
Tristan Harris: Creo que es muy interesante. Una forma de ver esto es si eres YouTube, por
ejemplo, quieres mostrar siempre el siguiente vídeo más interesante, quieres mejorar en sugerir ese
siguiente vídeo, pero incluso si pudieras proponer el siguiente vídeo perfecto, que todo el mundo
querría ver, simplemente sería mejor y mejor en mantenerte enganchado a la pantalla. Entonces, lo
que falta en esa ecuación es averiguar cuáles serían nuestros límites. Querrías que YouTube supiera
algo sobre, por ejemplo, quedarte dormido. El CEO de Netflix hace poco dijo: "Nuestros mayores
competidores son Facebook, YouTube y el sueño." Así que lo que necesitamos reconocer, es que la
arquitectura humana es limitada y que tenemos ciertos límites o dimensiones de nuestras vidas, que
queremos que sean honrados y respetados y la tecnología podría ayudar a hacer eso.
(Aplausos)
CA: Quiero decir, ¿podrías hacer el caso de que parte del problema aquí, es que tenemos un modelo
ingenuo de la naturaleza humana? Mucho de esto se justifica en términos de preferencia
humana, donde tenemos estos algoritmos, que hacen un trabajo increíble de optimización para la
preferencia humana, pero ¿qué preferencia? Están las preferencias de las cosas que realmente nos
importan, - cuando pensamos en ellas - versus las preferencias de lo que sólo hacemos clic
instintivamente. Si pudiéramos implantar esa visión más matizada de la naturaleza humana en cada
diseño, ¿sería eso un paso adelante?
TH: Absolutamente. Creo que hoy día es como si básicamente toda nuestra tecnología, fuera sólo
preguntarle a nuestro cerebro reptiliano: ¿Cuál es la mejor forma de lograr que hagas
impulsivamente la siguiente cosa más pequeña con tu tiempo, en vez de preguntarte: ¿Cuál sería la
mejor forma de invertir tu tiempo? ¿Cuál sería el cronograma perfecto que incluyera algo para
después, o aquí en TED en tu último día?
CA: Así que, si Facebook y Google y todo el mundo nos dijeran primero: "Oye, ¿quieres que
optimicemos tu cerebro reflexivo o tu cerebro lagarto? Tú eliges."
TH: Correcto. Eso sería una manera. Sí.
CA: Usaste la palabra "persuasibilidad," esa palabra me interesa, porque para mí hay dos clases
diferentes de persuasión. Hay una persuasibilidad que estamos intentando ahora mismo: Razonar,
pensar y argumentar. Pero creo que estás hablando de otra clase, un tipo de persuasión más
visceral; de ser persuadido sin siquiera saber que estás pensando.
TH: Exacto. La razón por la que me preocupo tanto por este problema, es porque estudié en el
Laboratorio de Tecnología Persuasiva en Stanford, el cual enseña a la gente exactamente estas
técnicas. Hay conferencias y talleres que enseñan todas estas formas encubiertas, de capturar la
atención de la gente y orquestar sus vidas. Y se debe a que la mayoría de la gente no sabe que eso
existe, por eso esta conversación es tan importante.
CA: Tristan, tú y yo, ambos conocemos a muchas personas de todas estas compañías. De hecho, hay
muchos de ellos aquí en la sala y no sé tú, pero mi experiencia con ellos no es que haya escasez de
buena intención. La gente quiere un mundo mejor. De hechos, ellos realmente lo quieren. Y no creo
que estés diciendo que sean personas malvadas. Es un sistema donde estas consecuencias no
deseadas, se han salido de control...
TH: por esta carrera por la atención, sí. Es la carrera clásica hasta el final, cuando tienes que capturar
la atención y es muy tensa. La única manera de obtener más es ir más bajo en el tronco

4
encefálico, para ir más bajo en la indignación y las emociones, para ir más abajo en el cerebro
reptiliano.
CA: Bueno, muchas gracias por ayudarnos a todos a ser un poco más sabios en esto. Tristan Harris,
gracias.
TH: Muchas gracias.

Traducido por Miguel A. Quiceno |Revisado por Lidia Cámara de la Fuente

https://www.ted.com/talks/tristan_harris_the_manipulative_tricks_tech_companies_use_to_captur
e_your_attention