Silicon Valley no es tu amigo

21 octubre 2017

Por NOAM COHEN | A fines del mes pasado, Mark Zuckerberg publicó un breve mensaje en Facebook al finalizar Yom Kippur. En él, les pedía a sus amigos que lo perdonaran no solo por sus errores personales, sino también por los profesionales, sobre todo por “las maneras en que mi trabajo se utilizó para dividir a las personas en vez de unirnos”. Estaba siguiendo la tradición judía del Día del Perdón, que consiste en reflexionar sobre el año anterior, y juró que se “esforzaría por ser mejor”.

Esa declaración tan autocrítica y sombría no es habitual en Zuckerberg, que generalmente es muy alegre y alguna vez exhortó a sus empleados de Facebook a “moverse rápido y romper cosas”. En el pasado, ¿por qué motivo Zuckerberg, o cualquiera de sus contemporáneos, podría haber sentido la necesidad de arrepentirse por lo que habían hecho en la oficina? ¿Por hacer sitios web increíblemente geniales que conectan en forma directa a miles de millones de personas con sus amigos y con un almacén global de conocimiento?

Sin embargo, últimamente, los pecados de la disrupción encabezada por Silicon Valley se han vuelto imposibles de ignorar.

Facebook ha lidiado con una ráfaga de revelaciones en torno a los intermediarios rusos que utilizaron su plataforma para influir en la elección presidencial de 2016 atizando la furia racista. Google tuvo un papel similar al transmitir mensajes incendiarios dirigidos a un tipo específico de usuarios durante la elección presidencial en Estados Unidos y, este verano, pareció ser el villano cuando un importante grupo liberal de expertos, New America, rompió vínculos con un prominente académico que critica el poder de los monopolios digitales.

 

Algunos dentro de la organización cuestionaron si lo habían despedido para aplacar a Google y a su director ejecutivo, Eric Schmidt, ambos donantes del grupo desde hace tiempo, aunque el presidente ejecutivo de New America y un representante de Google negaron esa conexión.

Mientras tanto, Amazon, con su compra de la cadena de supermercados Whole Foods y la construcción de tiendas convencionales, va tras la impresionante estrategia lucrativa de extender su monopolio en línea a uno que también tenga presencia física.

Estos cambios amenazantes han sido muy desconcertantes para el público y se oponen a todo lo que Silicon Valley había expresado de sí mismo. Google, por ejemplo, dice que su propósito es “organizar la información del mundo y hacerla universalmente accesible y útil”, una misión que podría describir tanto a tu biblioteca local como a una empresa en la lista Fortune 500.

De manera similar, el objetivo de Facebook es “darle a la gente el poder de generar comunidades y unir más al mundo”. Incluso Amazon vio más allá de sí misma para convertirse, en palabras de su fundador, Jeff Bezos, en “la empresa más obsesionada con el cliente que jamás haya existido en la Tierra”.

Casi desde su nacimiento, internet produjo ansiedad pública —tu computadora estaba conectada a una red más allá de tu entendimiento que podía enviar gusanos, virus y rastreadores hasta donde te encontrabas—, pero de cualquier manera decidimos darles a estos innovadores el beneficio de la duda.

Estaban de nuestro lado en el tema de hacer más segura y útil la red, por lo tanto fue fácil interpretar cada error como un accidente desafortunado en el camino hacia la utopía digital en vez de como una trampa con el objetivo de asegurar la dominación del mundo.

Ahora que Google, Facebook y Amazon se han convertido en dominadores mundiales, hay dos preguntas pertinentes: ¿la gente podrá llegar a ver a Silicon Valley como la bola de demolición que es? ¿Aún tenemos las herramientas regulatorias y la cohesión social necesaria para limitar a los monopolistas antes de que destruyan la base de nuestra sociedad?

Según se dice, estos programadores convertidos en emprendedores creían en sus palabras nobles y al principio se mostraban indiferentes a enriquecerse con sus ideas. En un artículo de 1998 escrito por Sergey Brin y Larry Page, entonces egresados de la carrera de ciencias de la computación en Stanford, enfatizaron los beneficios sociales de su nuevo motor de búsqueda, Google, que estaría abierto al escrutinio de otros investigadores y no estaría impulsado por publicidad. La gente necesitaba que le aseguraran que las búsquedas no estaban corrompidas, que nadie había puesto el dedo en la balanza por razones comerciales.

Para ilustrar lo que decían, Brin y Page presumieron de la pureza de los resultados que su motor de búsqueda arrojaba para las palabras “teléfono celular”: casi al principio aparecía un estudio en el que se explicaba el peligro de conducir mientras se habla por teléfono. El prototipo de Google todavía estaba libre de publicidad pero, ¿qué decir de los otros buscadores, que sí la tenían? Brin y Page plantearon sus dudas: “Creemos que los motores de búsqueda financiados mediante publicidad estarán inherentemente sesgados hacia sus anunciantes y se alejarán de las necesidades de los consumidores”.

Había una necesidad crucial de un “motor competitivo de búsqueda que fuera transparente e inmerso en el mundo académico”, y Google estaba destinado a ser esa herramienta de internet, esa torre de marfil. Por lo menos hasta que Brin y Page fueron arrastrados por el emprendimiento generalizado de Stanford: una reunión con un profesor los llevó a una reunión con un inversionista, que les dio un cheque de 100.000 dólares antes de que Google siquiera fuera una empresa.

En 1999, Google anunció una inversión de 25 millones de dólares en capital de riesgo mientras insistían en que nada había cambiado. Cuando los reporteros le preguntaron a Brin cómo tenían planeado que Google generara dinero, respondió: “Nuestra meta es maximizar la experiencia del motor de búsquedas, no maximizar los ingresos que se obtienen a través de él”.

Mark Zuckerberg adoptó una postura similar durante los primeros días de Facebook. Una red social era demasiado importante para ensuciarla con el comercio, le dijo a The Harvard Crimson en 2004.

“Es decir, sí, podemos hacer mucho dinero, pero esa no es la meta”, dijo acerca de su red social, que en ese entonces todavía se llamaba thefacebook.com. “Cualquiera que venga de Harvard puede conseguir un empleo y ganar mucho dinero. No todos en Harvard pueden tener una red social. Valoro eso más como un recurso que como cualquier cantidad de dinero”. Zuckerberg insistió en que no se rendiría ante los cazadores de ganancias; Facebook seguiría siendo fiel a su misión de conectar al mundo.

Siete años después, Zuckerberg también había sucumbido ante el capital de riesgo de Silicon Valley, pero parecía haberse arrepentido. “Si estuviera comenzando en este momento”, le dijo a un entrevistador en 2011, “solo me habría quedado en Boston, creo”. Y añadió: “Hay aspectos de la cultura de aquí que aún me parecen enfocados al corto plazo de una manera que me molesta. Ya sabes, es la gente que quiere comenzar empresas solo por hacerlo, sin saber lo que quieren para poder, no sé, hacer un cambio”.

A la larga, los fundadores de Google y Facebook enfrentaron un día de rendición de cuentas. Los inversionistas no estaban ahí por caridad y exigían una respuesta. Al final, Brin y Page acordaron, bajo presión, desplegar publicidad junto con los resultados de búsqueda y terminaron por permitir que entrara un director ejecutivo externo: Schmidt. Zuckerberg acordó incluir los anuncios dentro del canal de publicaciones de Facebook y transfirió a uno de sus programadores favoritos al negocio de la publicidad móvil. Le dijo: “¿No sería divertido construir un negocio multimillonario en seis meses?”.

Resulta que había fortunas multimillonarias que podían generarse explotando la relación opaca entre los usuarios y las empresas tecnológicas. Todos sabíamos que nada era gratis, una idea memorablemente encapsulada en 2010 por alguien que hizo un comentario en el sitio web MetaFilter: “Si no lo estás pagando, no eres el cliente: eres el producto que se vende”. Pero, en realidad, ¿cómo podemos darnos cuenta? Gran parte de lo que sucede entre los usuarios y Silicon Valley está fuera de la vista: algoritmos escritos y controlados por magos que son capaces de extraerle valor a tu identidad de maneras en las que tú jamás podrías hacerlo por ti mismo.

Una vez que Brin, Page y Zuckerberg cambiaron de parecer respecto de ir tras las ganancias, advirtieron algo extraño: a los usuarios no parecía importarles. “¿Quieren saber cuál es la pregunta más común al respecto?”, dijo Brin en 2002 cuando le preguntaron sobre las reacciones por la adopción de la publicidad por parte de Google. “Nos dicen: ‘¿Qué anuncios?’. La gente no hace búsquedas que le muestren anuncios o no los nota. La tercera posibilidad es que los usuarios sí realizan búsquedas que generan anuncios y sí se percatan de ellos, pero los olvidan. Creo que este es el caso más probable”.

El crecimiento se convierte en la motivación dominante: algo atesorado por el propio beneficio, no por lo que aporta al mundo.

Siempre se supo que las interacciones entre las personas y sus computadoras iban a ser confusas y que sería fácil que los programadores explotaran esa confusión. John McCarthy, el pionero de la computación que educó a los primeros hackers del Instituto Tecnológico de Massachusetts y después encabezó el laboratorio de inteligencia artificial de Stanford, se preocupaba por el hecho de que los programadores no entendieran sus responsabilidades.

“Las computadoras terminarán presentando la psicología que es conveniente para sus diseñadores (y serán bastardas fascistas si esos diseñadores no lo piensan dos veces)”, escribió en 1983. “Los diseñadores de programas tienen una tendencia a pensar que los usuarios son idiotas y necesitan ser controlados. Más bien deberían pensar que su programa es un sirviente que debe poder ser controlado por su amo, el usuario”.

Llamémoslo el problema Eliza. En 1966, Joseph Weizenbaum, un profesor del Instituto Tecnológico de Massachusetts, exhibió un programa de computadora, Eliza, que imitaba a un psicoterapeuta. Mediante una rutina, preguntaba acerca de lo que sientes respecto de tus padres o intentaba que hablaras al reformular lo que decías en forma de pregunta. Este programa provocó una fuerte reacción de inmediato y, para sorpresa de Weizenbaum, se convirtió en un fenómeno nacional. The New York Times, por ejemplo, quedó extasiado: “Le enseñan a una computadora a entender el inglés”.

En realidad, Eliza no entendía nada, y jamás pudo llegar a tener alguna idea compartida con un “paciente”. Eliza respondía de manera mecánica a lo que aparecía en pantalla. Una sesión típica de terapia pronto se convirtió en una escena graciosa de Monty Python. Paciente: No eres muy agresiva, pero creo que no quieres que me dé cuenta de eso. Eliza: ¿Qué te hace pensar que no soy muy agresiva? Paciente: No discutes conmigo. Eliza: ¿Por qué crees que no discuto contigo? Paciente: Tienes miedo de mí. Eliza: ¿Te complace creer que te tengo miedo?

Imaginen la sorpresa de Weizenbaum cuando su secretaria alzó la vista desde su computadora e interrumpió sus intercambios con Eliza para decirle: “¿Podría irse de la habitación, por favor?”. ¡Quería privacidad para tener una conversación con una máquina! Weizenbaum, consternado, de repente vio el potencial de engaño por parte de los programadores capaces de manipular a las computadoras y, potencialmente, al resto de nosotros. Pronto cambió el rumbo y dedicó sus años restantes a protestar contra lo que consideraba la amoralidad de sus colegas de la computación, a menudo haciendo referencia a sus experiencias como joven refugiado de la Alemania nazi.

En Computer Power and Human Reason, su épica obra contra la inteligencia artificial publicada a mediados de la década de 1970, Weizenbaum describió la escena que se podía ver en los laboratorios informáticos. “Inteligentes jóvenes de apariencia desgarbada, a menudo con ojos hundidos y brillantes, se pueden ver sentados frente a consolas de computadoras, con los brazos tensos y esperando el momento de atacar con sus dedos los botones y teclas en los que su atención parece estar tan concentrada como la de un apostador en los dados que giran”, escribió. “Existen, por lo menos cuando están tan absortos, solo a través de las computadoras y solo para ellas. Son buenos para nada informáticos, programadores compulsivos”.

Le preocupaba que fueran jóvenes estudiantes sin perspectiva de la vida, y también que esas almas atormentadas pudieran ser nuestros nuevos líderes. Aunque era difícil de ignorar, ni Weizenbaum ni McCarthy mencionaron que esa generación ascendente consistía casi en su totalidad de hombres blancos con una fuerte preferencia por gente igual a ellos.

En una palabra, eran incorregibles, acostumbrados al control total de lo que aparecía en sus pantallas. “Ningún dramaturgo, director de escena ni emperador, sin importar cuán poderoso haya sido”, escribió Weizenbaum, “jamás ha tenido una autoridad tan absoluta para controlar un escenario o un campo de batalla, y para disponer de tropas o actores tan devotos”.

Bienvenido a Silicon Valley, 2017.

Como lo temía Weizenbaum, los actuales líderes de la tecnología han descubierto que la gente confía en las computadoras y se les ha hecho agua la boca solo de pensar en las posibilidades. Los ejemplos de la manipulación de Silicon Valley son demasiados para enlistarlos: notificaciones automáticas, aumento de precios, amigos recomendados, películas sugeridas, las personas que compraron este producto también compraron este otro. Muy al inicio, Facebook se dio cuenta de que había un índice mínimo necesario para hacer que la gente permaneciera conectada.

“Nos topamos con un número mágico: necesitabas encontrar a diez amigos”, recordó Zuckerberg en 2011. “Y una vez que tenías diez amigos, tenías suficiente contenido en tu canal de noticias como para que hubiera cosas durante un buen intervalo de tiempo y valiera la pena regresar al sitio”. Facebook diseñó su sitio para recibir nuevos usuarios, así que todo se trataba de encontrar amigos a quienes agregar.

La regla de los diez amigos es un ejemplo de la manipulación de las empresas tecnológicas, el efecto de la red. La gente utilizará tu servicio —por malo que sea— si otros usuarios usan tu servicio. Este era un razonamiento tautológico que, de cualquier modo, resultó ser cierto: si todos están en Facebook, entonces todos están en Facebook. Tienes que hacer lo que sea necesario para mantener conectada a la gente y, si surgen rivales, debes aplastarlos o, si se rehúsan a desaparecer, adquirirlos.

Debemos desintegrar estos monopolios en línea porque si unas cuantas personas toman todas las decisiones respecto a cómo nos comunicamos, compramos, nos enteramos de las noticias, repito, ¿somos nosotros quienes controlamos nuestra sociedad?

El crecimiento se convierte en la motivación dominante: algo atesorado por el propio beneficio, no por lo que aporta al mundo. Facebook y Google pueden apuntar a una mayor utilidad que viene con ser el depósito central de la información de todas las personas, pero semejante dominio del mercado tiene desventajas evidentes, y no solo la falta de competencia. Como lo hemos visto, la extrema concentración de riqueza y poder es una amenaza a la democracia cada vez que permite que algunas personas y empresas no rindan cuentas.

Además de su poder, las empresas tecnológicas tienen una herramienta con la que otras industrias poderosas no cuentan: los sentimientos generalmente benignos de la gente. Oponerse a Silicon Valley puede lucir como oponerse al progreso, aunque el progreso se haya definido como monopolios en línea; propaganda que afecta elecciones; vehículos autónomos y camionetas que amenazan con acabar con los empleos de millones de personas; una vida laboral uberizada, en la que cada uno de nosotros debe defenderse solo en un mercado despiadado.

Como se está volviendo evidente, estas empresas no se merecen el beneficio de la duda. Necesitamos mayores regulaciones, aunque eso impida la introducción de nuevos servicios. Si no podemos detener sus propuestas —si no podemos decir que los vehículos autónomos quizá no son una meta encomiable, solo por dar un ejemplo—, ¿estamos entonces en control de nuestra sociedad? Debemos desintegrar estos monopolios en línea porque si unas cuantas personas toman todas las decisiones respecto a cómo nos comunicamos, compramos, nos enteramos de las noticias, repito, ¿somos nosotros quienes controlamos nuestra sociedad?

Por pura curiosidad, el otro día busqué “celulares” en Google. Antes de encontrar un artículo siquiera ligeramente crítico acerca de los celulares, pasé por una serie de anuncios de celulares y listas de teléfonos en venta, guías para comprar celulares y mapas con direcciones de tiendas que los venden, unos 20 resultados en total. En alguna parte, un par de exegresados idealistas deben estar diciendo: “ ¿Ven? ¡Se los dije!”.

Noam Cohen es autor de “The Know-It-Alls: The Rise of Silicon Valley as a Political Powerhouse and Social Wrecking Ball”, libro del que se adaptó este ensayo.