Introducción

La discusión por la técnica y sus implicaciones en la sociedad tiene una larga trayectoria en la filosofía y en las ciencias sociales. Sin embargo, en años recientes, principalmente gracias al crecimiento de Internet, han ganado visibilidad y relevancia discursos economicistas, desarrollistas y deterministas, los cuales se limitan a resaltar las bondades y beneficios de la tecnología, olvidando los desafíos y consecuencias sociales, políticas, económicas y culturales que estas plantean.⁽¹⁾

Este tipo de discursos reciben distintas denominaciones: ideología técnica (^{Wolton 2011}), solucionismo tecnológico (^{Morozov 2015}), utopía digital (^{Pariser 2017}), tecnoliberalismo-tecnolibertarismo (^{Sadin 2018}). Independientemente de su denominación, estos discursos coinciden en exaltar la capacidad de la tecnología para mejorar y solucionar cualquier aspecto de la vida social, sin generar distancia crítica sobre sus efectos y consecuencias. Sin embargo, reflexionar sobre los impactos de la tecnología y sus avances se ha vuelto fundamental, principalmente por acontecimientos recientes como la filtración de datos de usuarios de Facebook (Cambridge Analytica); las denuncias de vigilancia masiva expuestas por Edward Snowden, ex agente de la National Security Agency de los Estados Unidos, o la injerencia rusa en las elecciones presidenciales en Norteamérica. Estos sucesos han evidenciado que algunos gobiernos y propietarios de plataformas se han servido de la información de los usuarios de la red para vigilancia, manipulación de la opinión pública y explotación con fines comerciales y políticos.

De ahí que la propuesta del presente artículo sea plantear una reflexión en torno a un tipo predominante de ideología que ve en los avances tecnológicos la solución a todos los problemas de la humanidad, y comprender cómo bajo esa creencia se ha permitido que los algoritmos computacionales moldeen y condicionen actividades y decisiones de los usuarios, tanto en el mundo online ^{( 2 )} como en el offline, configurando lo que se ha comenzado a entender como cultura algorítmica. La discusión propuesta intentará distanciarse de posiciones tecnófilas y tecnófobas en las que usualmente se encasillan las reflexiones sobre tecnología, Internet y sociedad. Si bien es cierto que nos concentraremos más en los desafíos que en las bondades, nos enmarcamos dentro de las ideas de algunos pensadores de la técnica del siglo XX que dirigieron la atención hacia los desafíos y peligros que conlleva este desarrollo desmesurado y sin control de la tecnología. Uno de estos pensadores es Martin Heidegger, quien a mitad del siglo anterior alertó sobre este nuevo escenario, en el que “las instalaciones, aparatos y máquinas del mundo técnico son hoy indispensables, para unos en mayor y para otros en menor medida. Sería necio arremeter ciegamente contra el mundo técnico. Sería miope querer condenar el mundo técnico como obra del diablo” (Heidegger 2002, 27).

Por lo tanto, no se hace una lectura pesimista al mejor estilo de los luditas,⁽³⁾ ni se idealiza una época pretecnológica. Por el contrario, se quiere estimular la reflexión crítica acerca de las implicaciones de las tecnologías en nuestras vidas, y discutir sobre aquellas ideologías que plantean e imponen una lectura simplista frente a sus avances y desarrollos. Particularmente, nos concentraremos en los algoritmos, un concepto con el que las humanidades no están familiarizadas, pero que paradójicamente cada vez intervienen con mayor fuerza en las actividades cotidianas mediadas por las tecnologías, y en los que se han depositado las esperanzas de mejorar y optimizar cualquier tipo de proceso. En este sentido, nuestra lectura coincide con la de Daniel Innerarity cuando afirma que la relación entre algoritmos y humanos “[es] una relación tensa […] pero no de sometimiento en ninguno de los dos sentidos, una relación muy alejada de la euforia digital y de la pesadilla de los tecnófobos” (2018, 43).

Para avanzar en nuestro propósito, el presente documento se divide en dos apartados centrales y en unas consideraciones finales. En el primer apartado se discute el concepto de ideología técnica, el cual hace parte de una discusión histórica según la cual los avances técnicos derivan en una mejora de todos los aspectos de la vida humana. Aquí se hace énfasis en las esperanzas y promesas surgidas con el avance de Internet y en cómo muchas de esas promesas han quedado incumplidas. En el segundo apartado se realiza un acercamiento a los algoritmos, su definición y las formas en las que condicionan y moldean los comportamientos y usos que tenemos en la red; se avanza en la discusión en torno a lo que se ha dado a conocer como cultura algorítmica. Finalmente, se propone una discusión acerca de la pertinencia de recuperar la reflexión crítica sobre las implicaciones que los desarrollos tecnológicos, particularmente los asociados al Internet y sus aplicaciones, tienen sobre la sociedad y la cultura, destacando la urgencia de superar los discursos desarrollistas y deterministas que se concentran únicamente en las bondades de la tecnología.

Ideología técnica y las promesas del Internet

La sociedad contemporánea afronta cambios acelerados que modifican diferentes aspectos de su existencia. Estas transformaciones están asociadas principalmente a los desarrollos de las tecnologías de la información y la comunicación, que impactan y afectan las maneras en que nos relacionamos con el mundo y con los demás (^{Valle y Bernal 2019}). En dicho contexto, algunos autores han elevado la voz de alarma por los peligros que plantea este escenario (^{Carr 2019}; ^{Han 2014}; ^{Manovich 2017}; ^{Morozov 2015}; ^{O´Neil 2018}), como si esto fuera algo completamente inesperado y novedoso, o ajeno al movimiento de la historia. Sin embargo, como veremos a continuación, esta realidad fue prevista hace algún tiempo por ciertos pensadores que analizaron con lucidez esta situación.

Martin Heidegger advertía en 1955, en su conferencia Gelassenheit, que “el hombre se encuentra en una situación peligrosa […] en cuanto que la revolución de la técnica que se avecina […] pudiera fascinar al hombre, hechizarlo, deslumbrarlo y cegarlo de tal modo, que un día el pensar calculador pudiera llegar a ser el único válido y practicado” (2002, 30). Es decir, hace más de seis décadas el filósofo alemán entendía que los seres humanos debían poner especial atención en la tecnología y en su poder de transformación de la humanidad. No obstante, su crítica se dirigía principalmente al modo de concebir la realidad, esto es, al pensamiento propio del racionalismo técnico-científico. El fundamento de esta interpretación lo podemos ubicar en la relación que se establece entre ciencia y tecnología a mediados del siglo XX, denominada tecnociencia, donde:

Emerge una nueva modalidad social de práctica científica, al fusionar el conocer científico y el producir tecnológico en una unidad de acción destinada al desarrollo e innovación de objetos técnicos […] vincula la información y el conocimiento científicos, las habilidades y destrezas técnicas para la producción industrial de artefactos y dispositivos tecnológicos […] su objetivo principal es la innovación tecnológica y la intervención pragmática, para lo cual subordinan e instrumentalizan el conocimiento científico. (^{Linares 2008}, 370)

Optimización, productividad y eficacia son los valores que guían parte de la investigación científica en la actualidad, la cual se encuentra ligada a intereses económicos, principalmente. Estos intereses son los que estructuran el diseño de los algoritmos que calculan y predicen nuestros comportamientos en la red.

El racionalismo técnico-científico tiene como finalidad la búsqueda de utilidad o rentabilidad y la optimización del rendimiento y la producción. En este orden de ideas, aquello de lo que no se puede obtener un beneficio no cuenta o no tiene razón de ser. En consecuencia, se da primacía a una forma de pensar en la que todo se somete al cálculo y planificación, donde incluso la vida, la naturaleza y la comunicación humana quedan interpretadas bajo este prisma, lo que se ejemplifica, a nuestro entender, en lo que más adelante denominaremos cultura algorítmica.

Heidegger plantea su reflexión sobre la técnica como respuesta a la inquietud que surgía a partir de las transformaciones que provocaba la revolución técnico-científica que se manifestaba en aquel entonces. Respecto a esto comentaba:

Los modernos instrumentos de información estimulan, asaltan y agitan hora tras hora al hombre [...] el poder oculto en la técnica moderna determina la relación del hombre con lo que es. […] Pero el desarrollo de la técnica se efectuará cada vez con mayor velocidad y no podrá ser detenido en ninguna parte. En todas las regiones de la existencia el hombre estará cada vez más estrechamente cercado por las fuerzas de los aparatos técnicos. (2002, 25)

Y justamente, señala el filósofo alemán, el peligro no radica solo en las armas de destrucción masiva, en la posibilidad de la Tercera Guerra Mundial o en la devastación del medio ambiente. El peligro radicaría más bien en la ausencia de reflexión de la sociedad contemporánea en torno a las consecuencias de darles prioridad al cálculo y a la planificación, considerados como la única verdad válida. Los sectores llamados a esta reflexión -como universidades, centros de investigación y gobiernos- en su mayoría no han reflexionado sobre la velocidad de estos cambios o los impactos sociales y culturales del desarrollo técnico-científico, especialmente en lo concerniente a las técnicas de comunicación.

Ahora bien, este escenario no es algo totalmente nuevo, ni es un fenómeno sorpresivo, dado que ha sido un tema ampliamente discutido y teorizado por pensadores. En esta misma vía se manifiesta el sociólogo y filósofo alemán Jurgen Habermas, quien se pregunta por la relación entre la ciencia y la técnica en su trabajo Ciencia y técnica como ideología (1986). Habermas desarrolla esta relación a través de una discusión del concepto de racionalidad de Max Weber y la crítica que Herbert Marcuse hace del mismo.

Según (^{Habermas 1986}), la tesis fundamental de Marcuse es que la ciencia y la técnica cumplen hoy funciones de legitimación del dominio político y económico. Como se sabe, gran parte de los avances tecnológicos dependen del grado de desarrollo que alcanza la ciencia, por lo tanto, ciencia y tecnología tienen una relación de dependencia mutua. Sin embargo, en la actualidad la ciencia estaría a merced de la tecnología, pues prima el interés económico por encima del teórico. Se trata menos de explicar el mundo que de diseñar aparatos tecnológicos para aumentar la eficiencia, la productividad y el desarrollo. Es decir, la dirección del trabajo científico está guiada principalmente por intereses económicos. Habermas afirma que: “En su crítica a Max Weber, Marcuse llega a la siguiente conclusión: ʻel concepto de razón técnica es quizá él mismo ideología. No solo su aplicación, sino que ya la técnica misma es dominio sobre la naturaleza y sobre los hombres: un dominio metódico, científico, calculado y calculante. […]ʼ” (1986, 55).

Se podría decir que los conceptos de técnica y tecnología tienen un componente ideológico, ya que su aplicación lleva de la mano la idea de un dominio sobre la naturaleza y los seres humanos, como un proyecto histórico en el cual solo se muestran los intereses dominantes. Profundizando en esto, Habermas retoma a Marcuse cuando este señala que:

El método científico, que conducía a una dominación cada vez más eficiente de la naturaleza, proporcionó después también tanto los conceptos puros como los instrumentos para una dominación cada vez más efectiva del hombre sobre el hombre a través de la dominación de la naturaleza. Hoy la dominación se perpetúa y amplía no solo por medio de la tecnología, sino como tecnología […] En este universo la tecnología proporciona también la gran racionalización de la falta de la libertad del hombre y demuestra la imposibilidad técnica de la realización de la autonomía, de la capacidad de decisión sobre nuestra propia vida. (^{Habermas 1986}, 58)

Lo anterior significa que el predominio de la razón técnico-científica tiene su origen en una determinada interpretación del mundo y de la sociedad, según la cual el método científico proporciona los instrumentos para una dominación tanto de los seres humanos como de la naturaleza. Esto lleva a los seres humanos a ser cada vez menos autónomos y libres, y a depender cada día más de las tecnologías. Sin embargo, esta dependencia no se presenta como un problema o como algo sobre lo que se deba discutir, pues la subordinación de los aparatos técnicos, que se manifiesta principalmente en los nuevos dispositivos de comunicación, es algo completamente aceptado, dado que supuestamente hace la vida más cómoda, eleva la productividad y nos permite mantenernos constantemente comunicados e informados.

Pues bien, dado este escenario es importante precisar que la ideología que se manifiesta y que determina la sociedad y el mundo contemporáneo no tendría a primera vista las características propias de una ideología política, religiosa o social. Más bien, nos enfrentaríamos a un tipo de ideología cuya base estaría en las tecnologías de la comunicación y la información, como clave para validar la globalización económica y financiera, así como determinado modelo de desarrollo. Ahora bien, definir el concepto de ideología es una tarea compleja, pues es un término con multiplicidad de significados (^{Thompson 1993}; ^{Žižek 2003}). Por eso, hemos optado por una definición operativa y general, apoyándonos en lo que propone Teun (^{van Dijk 2003}), quien señala que las ideologías son sistemas de ideas que comparten los grupos o movimientos. En otras palabras:

Los miembros de un grupo que comparten estas ideologías están a favor de unas ideas muy generales, ideas que constituyen la base de unas creencias más específicas sobre el mundo y que guían su interpretación de los acontecimientos, al tiempo que condicionan las prácticas sociales […] por el hecho de ser sistemas de ideas de grupos sociales y movimientos, las ideologías no solo dan sentido al mundo […] sino que también fundamentan las prácticas sociales de sus miembros. (^{van Dijk 2003}, 14-16)

Lo que queremos destacar con esta definición es que detrás de las promesas y esperanzas depositadas en el desarrollo técnico-científico subyace una visión del mundo con las características de una ideología, que brinda una interpretación omniabarcante de la sociedad, sus problemas y sus soluciones. Allí la tecnología se constituye en la única respuesta, y genera un sistema de creencias y valores que parece dominante en el mundo contemporáneo. Sin embargo, esta ideología es diferente a las ideologías políticas del siglo XX. A juicio del teórico francés Dominique (^{Wolton 1999}; 2006), el éxito de la ideología técnica se basa en su modestia e instrumentalidad, pues a priori no tiene las mismas ambiciones de las ideologías políticas o religiosas que pretendían trasformar la sociedad. La ideología técnica solo se presenta como aquella que entrega instrumentos para mejorar, agilizar y facilitar la vida y las relaciones humanas.

Una última consideración respecto a la ideología que queremos destacar, corresponde a lo que plantea Terry Eagleton, quien sostiene:

Podemos entender por ideología el proceso material general de producción de ideas, creencias y valores en la vida social. Esta definición es tanto política como epistemológicamente neutral, y está próxima al sentido más amplio del término “cultura”. Aquí la ideología, o cultura, denotaría todo el complejo de prácticas de significación y procesos simbólicos de una sociedad determinada; aludiría a la manera en que las personas “viven” sus prácticas sociales. (1997, 52)

En este sentido, podemos afirmar que la ideología está directamente relacionada con una idea general de cultura, como entramado de ideas, creencias, sentidos y significados que asignan valores a la vida y a las prácticas sociales.

En este contexto, desde de la aparición del Internet, de las tecnologías asociadas a este y de una diversidad de aplicaciones y plataformas, ha proliferado un discurso esperanzador frente a las posibilidades democratizadoras y libertarias que las tecnologías traerían. No es difícil notar que muchas de estas esperanzas o utopías se han ido desgastando a partir de acontecimientos recientes como la filtración de datos de usuarios de Facebook, la vigilancia masiva denunciada por Snowden, o la proliferación del engaño y la manipulación a través de información falsa.

Estos discursos y sus consecuencias tendrían como fundamento un tipo de pensamiento que se encarna en lo que Dominique (^{Wolton 2011}) denomina ideología técnica, la cual apropia y determina la idea de comunicación en la sociedad, haciéndola dependiente y subordinada al progreso tecnológico y a la distribución, generación e intercambio ilimitado de información. Esta ideología se sustenta en “creer que cuantas más técnicas haya más se comprenderán los individuos. Es subordinar los progresos de la comunicación humana al progreso de la técnica. Luego atribuir a dichas técnicas el poder de cambiar estructuralmente el modelo de sociedad” (Wolton 2011, 38).

La promesa de una mayor comprensión humana y social nos lleva a confiar en que, mientras más desarrollos tecnológicos haya, mejores serán las relaciones entre los seres humanos. Se da por sentado que el progreso tecnológico produce invariablemente mejoras en la comunicación humana, y que, incluso, de los avances de la técnica depende el progreso de la sociedad en su conjunto, desde la educación, la política y la cultura, hasta el mejoramiento del ser humano en todas sus dimensiones. Wolton comenta: “La ideología técnica se manifiesta especialmente en la aplicación de los modelos de la cibernética a la sociedad, con la esperanza de mejorar su racionalidad y su funcionamiento” (2011, 59).

Sin embargo, se confunden cuestiones de distinta naturaleza, pues una cosa son los problemas humanos, y otra cosa muy distinta las técnicas. Sería extraordinario que los problemas sociales, la incomunicación, la intolerancia, la xenofobia, la soledad y los autoritarismos pudieran ser subsanados con el desarrollo de una aplicación, pero hasta el momento no se han encontrado ni desarrollado dichas soluciones (^{Morozov 2012}). Al menos hasta ahora, si bien dichas técnicas han traído múltiples y generosos beneficios, aún están lejos de cumplir las promesas y traer los favores que han venido pontificando muchos políticos y cierta élite científico-empresarial. Podríamos decir, incluso, que muchas de esas promesas se han convertido en pesadillas: adicciones tecnológicas, ciberbullying, monopolios tecnológicos, vigilancia y control, filtración y manipulación de datos, desinformación, entre otros (^{Carr 2019}).

Por otra parte, debemos rescatar la interpretación de Evgeny Morozov, que se ha destacado por poner en tela de juicio esta ideología o interpretación, que denomina solucionismo tecnológico, que pretende imponer una solución tecnológica a todos los problemas humanos y sociales: “La tecnología puede hacer que seamos mejores personas, y lo hará […] si disponemos de suficientes aplicaciones, todas las fallas del sistema humano se vuelven superficiales […] la humanidad equipada con poderosos dispositivos de autovigilancia, por fin vence la obesidad, el insomnio, el calentamiento global […]” (Morozov 2015, 22-23).

En esta misma línea, el autor bielorruso sostiene que el Internet es el instrumento que representa de manera cabal y absoluta el solucionismo, como el motor que impulsa y mueve gran parte de las soluciones e iniciativas tecnológicas. Como ejemplo de esto, el pensador francés Luc (^{Ferry, en su libro La revolución transhumanista 2017}), alude a un discurso de Eric Schmidt de 2011, en el cual el CEO de Google afirma que “cuando hablamos de tecnología, ya no se trata solamente de aplicaciones o de equipos, sino más bien de cómo se utilizan esos datos acumulados con la finalidad de lograr un mundo mejor” (2017, 63). El mismo Schmidt señala poco tiempo después: “si lo hacemos bien creo que podremos reparar todos los problemas del mundo” (Ferry 2017, 63). Al respecto, Ferry se pronuncia en los siguientes términos:

Esta convicción […] según la cual el progreso de las ciencias y las técnicas podrá “resolver todos los problemas del mundo” es ahora tan fuerte en Silicon Valley que han acabado por darle un nombre, bautizarla como si se tratase de una auténtica doctrina filosófica: se habla de “solucionismo” para designar esta fe tecnófila inquebrantable en las virtudes redivivas del progreso. (2017, 63-64)

Podemos ver aquí cómo las interpretaciones de Heidegger, Wolton, Morozov, Habermas y Marcuse se entrelazan de forma directa, pues la ideología técnica, o esta especie de solucionismo tecnológico, cree que con una simple suma o ecuación, o que con la implementación de algoritmos en todos los aspectos de nuestras vidas se podrían solucionar completamente los problemas de comunicación, soledad, incomprensión, injusticia, desigualdad, desinformación e intolerancia. Parece como si las tecnologías tuvieran, por sí solas, la capacidad de solucionar las complejidades del mundo social.

En este punto es importante destacar cuáles fueron algunas de las promesas fundacionales del Internet y de las redes sociales, que por supuesto no han sido diferentes a las que se han planteado en otros momentos y para otras innovaciones tecnológicas en el campo de la comunicación y la información; pues tal como lo han evidenciado diversos autores (^{Waisbord 2015}; ^{Zuazo 2018}; ^{Wu 2016}), con cada avance y desarrollo tecnológico se renuevan las esperanzas transformadoras. Al respecto Tim Wu señala: “El patrón es característico. Cada cierto número de décadas aparece una nueva tecnología de comunicación llena de promesas y posibilidades. Inspira a toda una generación a soñar con una sociedad mejor” (2016, 21).

A medida que los avances tecnológicos asociados al Internet llegaban a más usuarios, las promesas de cambios y transformaciones en todos los ambitos de la sociedad también se expandían. Las esperanzas democratizadoras y libertarias se hicieron más visibles durante la primera década del siglo XXI con la aparición de la web 2.0 (^{Jones 2003}), que a diferencia del primer modelo de Internet, permitía a los usuarios conectarse entre sí e intercambiar todo tipo de contenidos. Si en la primera versión de Internet los usuarios eran navegantes pasivos, en la web 2.0 se convertieron en actores activos y autónomos, lo que (^{Pisani y Piotet 2009}) denominaron webactores.

Entre las creencias más extendidas estaban: que la red acabaría con las diferencias entre los países desarrollados del norte y los países en vías de desarrollo del sur; que Internet serviría para acabar con dictaduras y gobiernos autoritarismos; que se regenerarían las viejas y anquilosadas democracias, con la creación de seres y sociedades libres y autónomas (^{Wolton 2006}).

En el nuevo modelo de Internet los protagonistas eran los usuarios y su capacidad de conectarse con otros. Así, se comenzó a hacer referencia a terminos como multitudes inteligentes (^{Rheingold 2004}), inteligencia colectiva (^{Lévy 2004}), y aumento de participación, colaboración, interacción e intercambios. En resumen, aparecerían una variedad de términos que moldearían un nuevo tipo de sociedad, en la que las voces de los oprimidos y las minorías ganarían potencia; en la que los blogs y las redes sociales expandirían la capacidad expresiva de grupos historicamente olvidados y marginados; en la que las diferencias y jerarquías sociales desaparecerían. Durante un tiempo parecía que Internet iba a democratizar por entero a la sociedad y el mundo.

Con el surgimiento de esta nueva sociedad todos estaríamos multiconectados, habría mayor comunicación, y, por ende, mayor fraternidad, tolerancia y diálogo. Los usuarios cambiarían el mundo a través de las tecnologías de la información y la comunicación. Se estimularía la transparencia gubernamental y empresarial. Circularía más información y, en consecuencia, se enriquecería el debate público sobre asuntos de interés general, lo cual derivaría en una democracia más sana, participativa y transparente.

En ese ambiente entusiasta no faltaron los evangelizadores del mundo ditial, liderados por los emprendedores y cabezas de las compañías tecnológicas radicadas en Silicon Valey, pero también por investigadores y académicos, que a través de conferencias y publicaciones se encargaron de resaltar las bondades de Internet y sus potencialidades para crear sociedades más democráticas, libres, informadas e igualitarias. Así, se convirtieron en los representantes de la ideología técnica. Entre ellos cabe mencionar a (Nicolas ^{Negroponte 1996}, Manuel ^{Castells 2012}, Pierre ^{Lévy 2007}, Howard ^{Rheingold 2004}, Henry ^{Jenkins 2008} y Clay ^{Shirky 2008}).

Al respecto, Daniel (^{Innerarity 2012}) llama la atención sobre las creencias que surgían en los comienzos de la red: “Nos habían anunciado la accesibilidad de la información, la eliminación de los secretos y la disolución de las estructuras de poder, de tal modo que parecía inevitable avanzar en la democratización de la sociedad, renovando nuestra tediosa democracia o implantándola en sociedades que parecían protegidas frente a los efectos benéficos de la red” (Innerarity 2012, 37).

No obstante, terminamos enfrentados con un escenario, una era digital, donde la manipulación, la desinformación, la filtración de datos, la vigilancia y el control se han transformado en moneda corriente y donde, hasta el momento, los esfuerzos realizados por la sociedad civil para detener o neutralizar estos fenómenos no han sido suficientes.

Además de las esperanzas democratizadoras y libertarias del Internet, no podemos dejar de lado las promesas que ofrecieron las plataformas interactivas como Facebook, Wikipedia o YouTube, que desde su nacimiento se comprometían a

Convertir la cultura en un ámbito más “participativo”, “basado en el usuario” y “de colaboración”. Entre 2000 y 2006, no escasearon los teóricos de los medios que afirmaron que las aplicaciones de la web 2.0 estimulaban al límite la natural necesidad humana de relacionarse y crear, y hasta llegaron a celebrar, con demasiada antelación, el virtual triunfo del usuario. (^{van Dijck 2016}, 28)

En definitiva, una vez que se ha reconocido y visibilizado en la sociedad el carácter ilusorio o utópico de estas promesas de Internet, surge la necesidad de sopesar las contradicciones, engaños y realidades que son inherentes a las mismas. Es primordial, en primer lugar, reconocer cómo se estructuran las nuevas relaciones de poder, que se basan siempre en decisiones humanas, pues la elección o creación de algoritmos tiene siempre ciertos efectos y provoca desigualdades y manipulaciones que no son visibles a primera vista y que en muchos casos tienen como finalidad direccionar nuestras decisiones, comportamientos y formas de consumo. Lo anterior es fundamental puesto que esta opacidad tiene que ver especialmente con el diseño y el trabajo que hacen los algoritmos y cómo delinean y condicionan nuestras decisiones. En efecto, tal como lo proponen Innerarity y Champeau: “Ha llegado la hora de preguntarnos lo que razonablemente podemos esperar de Internet, una vez disipada una ideología que, en el fondo, no es más que una nueva reedición del pensamiento utópico que siempre ha acompañado a las innovaciones técnicas” (2012, 15). Sin embargo, desde nuestra posición, no creemos que esta ideología se haya disipado o desaparecido, sino que cada vez muestra más su cara menos amable, y este es precisamente un tema sobre el cual las ciencias sociales deben comenzar a reflexionar con mayor atención.

Los algoritmos y sus impactos en la sociedad

Desde hace un tiempo escuchamos mayor referencia a los algoritmos, una palabra común en el campo de las matemáticas y las ciencias informáticas, pero extraña en el mundo de las ciencias sociales y humanas (^{Dourish 2016}). Sin embargo, en años recientes los algoritmos han comenzado a aparecer en estas últimas, aunque, por supuesto, en relación con el mundo de las tecnologías de la información y la comunicación. La cercanía que podamos establecer con los algoritmos no está determinada solo por el campo científico al que pertenezcamos. Aunque no sepamos qué son y nos sean invisibles, nuestra cotidianidad está cada vez más relacionada y condicionada por algoritmos.

¿Qué es un algoritmo? De manera preliminar se podría definir como una serie de pasos o instrucciones que se siguen para resolver un problema. Definido así, significaría que los algoritmos no son algo que haya aparecido con el Internet o las redes sociales. Efectivamente, entendidos como instrucciones existen desde hace mucho tiempo, incluso desde mucho antes de la creación de códigos informáticos. Pero la visibilidad que han ganado en la última década se debe a que ahora esos pasos e instrucciones son realizados por máquinas que tienen cada vez mayor capacidad para procesar datos y resolver problemas.

Si quisiéramos avanzar en una definición más elaborada podríamos decir que “un algoritmo es una receta, un conjunto de instrucciones, una secuencia de tareas destinada a conseguir un cálculo o un resultado particular” (^{Finn 2018}, 38). En ese sentido, asociados al mundo de la tecnología, los algoritmos son modelos matemáticos que procesan grandes cantidades de datos para obtener un resultado; “en ciencias informáticas es una lista finita de instrucciones para calcular una función, una directiva paso a paso que permite un procesamiento o razonamiento automático que ordena a la máquina producir cierto output a partir de un determinado input” (^{O´Neil 2018}, 57).

Se han tenido que traducir los problemas (sociales, políticos, económicos, culturales) al lenguaje de las máquinas para que estas funcionen con algoritmos. Según Evgeny (^{Morozov 2015}) esta traducción ha derivado en soluciones simples a problemas complejos. Por tanto, para este autor “lo polémico […] no es la solución planteada, sino la definición misma del problema” (Morozov 2015, 24).

¿Quién(es) está(n) usando los algoritmos? Prácticamente todos los sectores: el entretenimiento, la comunicación, el transporte, la banca, el turismo y la publicidad, por mencionar algunos. Allí, los algoritmos se están empleando para optimizar procesos y mejorar los servicios que se ofrecen a los consumidores. Además, su uso ha incrementado en campos como la justicia, la salud y la educación, principalmente por parte de Estados y gobiernos enfocados en perfeccionar la toma de decisiones (^{O´Neil 2018}).

Con las definiciones que hemos presentado nos podemos hacer una idea general de lo que son los algoritmos. No obstante, en el caso de las grandes corporaciones de tecnología, como Google y Facebook, no conocemos las reglas e instrucciones que estos siguen para resolver los problemas planteados; es decir, desconocemos los pasos que siguen para clasificar los datos y seleccionar la información a partir de las cuales nos ofrecen unos resultados. Tal es el caso de EdgeRank de Facebook y PageRank de Google, que hoy son secretos industriales valorados en miles de millones de dólares.

En el caso de Facebook, sus algoritmos usan más de 100.000 factores que determinan lo que vemos en nuestros muros. Como bien señala Cathy O´Neil, al hacer referencia a lo que posteamos en esta red social, “en el momento en que le doy enviar […] pertenece a Facebook y el algoritmo de la red social decidirá cómo usarla, calculando las probabilidades que tiene de ser atractiva para cada uno de mis amigos” (O´Neil 2018, 223). En consecuencia, el algoritmo de Facebook es el que decide quién verá lo que yo publico, y qué tipo de información veré en mi muro. Por esta razón, “aunque Facebook pueda parecer una moderna plaza de pueblo, la empresa decide, conforme a sus propios intereses, qué vemos y qué descubrimos en su red social” (O´Neil 2018, 223).

Algo similar sucede con el algoritmo de Google, el cual creemos que nos orienta sobre cómo buscar, pero en realidad nos recomienda lo que vamos a encontrar, y estas recomendaciones se hacen de acuerdo a los datos que captura de sus usuarios. Dichas recomendaciones se derivan de las más de cuarenta aplicaciones de Google: Gmail, YouTube, Google Maps, Google fotos, Google Drive, Hangouts, además de su buscador y otras aplicaciones que usan datos desde los teléfonos móviles. En consonancia con lo anterior, una búsqueda sobre un tema particular puede arrojar resultados diferentes de acuerdo al usuario que la realice.

Los algoritmos, como todo modelo, funcionan a partir de la reducción de la realidad. En consecuencia, los algoritmos comprimen y simplifican la realidad y nuestros comportamientos a datos, a partir de los cuales se condicionan nuestras decisiones y consumos en la web, que a su vez influyen en la forma en que pensamos y nos relacionamos con nuestro entorno (^{Strehovec 2013}). En la actualidad, los algoritmos nos aconsejan qué película o serie ver (Netflix), qué música escuchar (Spotify, Deezer), qué lugares visitar (Tripadvisor), qué camino tomar para ir de un lugar a otro (Waze), con quién debería entablar una amistad (Facebook), qué noticias leer (Google News), e incluso, con qué personas salir y establecer una relación (Tinder). Cada vez tomamos más decisiones guiadas por algoritmos, que nos hacen recomendaciones de acuerdo a los datos que proporcionamos en sitios web, plataformas y aplicaciones. Por esta razón, independientemente de la voluntad de los individuos, los algoritmos están transformando la manera en que los seres humanos se relacionan con el mundo y sus semejantes.

Como venimos señalando, las recomendaciones o predicciones algorítmicas están basadas en los datos que proporcionamos, a partir de los cuales se elabora un perfil de lo que somos, o de lo que los algoritmos consideran que somos. Esto quiere decir que nuestros comportamientos en la red son registrados y convertidos en datos con los cuales se configuran las recomendaciones que las aplicaciones y plataformas nos hacen. En esta vía argumentativa, el filósofo italiano Maurizo Ferraris se aventura a plantear que en su versión actual “Internet es una herramienta de registro antes que de comunicación” (2017, 39). Cada que vez navegamos o usamos una aplicación desde cualquier dispositivo -un computador, teléfono o tablet- estamos produciendo datos, por eso, según el mismo Ferraris, “la esencia de un móvil, de un ordenador conectado o de una tableta no es principalmente (o simplemente) la comunicación, sino el registro” (Ferraris 2017, 39). La particularidad es que esos datos que produce cada usuario, a la vez le son invisibles; es decir, quienes los producen no tienen acceso a ellos, ni a los algoritmos que los procesan. A pesar de esta inaccesibilidad, confiamos plenamente en los algoritmos para regular y optimizar nuestros comportamientos y nuestras decisiones (^{Cardon 2018}).

Se podría pensar que como usuarios tenemos autonomía sobre los datos e información que producimos, pues finalmente somos quienes decidimos qué escribir o publicar en nuestro perfil, qué comentar, cuándo y a qué darle “me gusta”, de quién ser amigo en Facebook o a quién seguir en Twitter. No obstante, esta solo es información básica que entregamos, a partir de la cual las plataformas y sus algoritmos pueden recabar y producir muchos más datos sobre nosotros.

En ese sentido, se puede hablar de tres tipos de datos. Los primeros son los datos que compartimos para elaborar nuestros perfiles en las redes y aplicaciones: nombre, número telefónico, fecha de nacimiento, cuentas de correo, profesión, educación, trabajo, relaciones, lugares que visitamos, género, amigos, grupos, fotos, idiomas, etcétera. Los segundos son los metadatos, es decir, los que contextualizan los datos básicos. Se trata de información que no hacemos pública o que no compartimos, como ubicación, uso de las aplicaciones (tiempo, momento, hora, lugar), contenido al que le damos clic, navegación por la pantalla, páginas visitadas, historial de llamadas, archivos compartidos, dispositivos que usamos, contenidos y usuarios que ignoramos, entre otros. Los terceros son los datos que se originan a partir del análisis e interpretación de los dos tipos de datos anteriores. En este tipo de datos es donde actúan los algoritmos que comparan nuestros datos y comportamientos con los de otros usuarios para establecer correlaciones significativas (porque viste House of Cards). De esa forma, los algoritmos definen quiénes somos en función de nuestros datos y metadatos, y a partir de ese perfil nos hace recomendaciones y filtra los contenidos y la publicidad que veremos.

De esa forma, los algoritmos son más que procesadores de datos, son herramientas de recomendación que establecen relaciones entre las prácticas de consumo de los usuarios, y a su vez las condicionan. Es decir que si el usuario vio determinado contenido a través de su red social o en alguna aplicación, es probable que quiera ver los mismos contenidos que vieron otros usuarios con un perfil de consumo similar identificado por los algoritmos. “El algoritmo aprende comparando un perfil con el resto de internautas que hayan efectuado la misma operación. De manera probabilística, sospecha que una persona podría hacer tal o cual cosa que todavía no ha hecho, porque aquellas que se le parecen ya lo han hecho” (Cardón 2018, 45).

Bajo esta lógica, algunos autores han explorado la idea de que como usuarios trabajamos para los algoritmos (^{Fuchs y Fisher 2015}), pues entre más tiempo pasemos en las redes sociales y usemos aplicaciones, más información otorgamos. Así, mejores datos recabarán los algoritmos y más precisas podrán ser sus recomendaciones.

Ahora bien, estos procedimientos han llevado a una especie de algoritmización de la vida social. Tal como afirma Byung Chul Han, hemos entrado en una especie de barbarismo de los datos en la cual “la creencia en la mensurabilidad y cuantificabilidad de la vida domina toda la era digital (2014, 91). Significa entonces que esta simplificación de la realidad, de la que hablábamos anteriormente, reduce a las personas, a la sociedad y al mundo a datos cuantificables, verificables y calculables que pueden ser manipulados por los programadores que buscan determinadas conductas, y que moldean, indirectamente, nuestras formas de pensar y actuar. Esta concepción de la era digital, que el autor en mención denomina como una segunda Ilustración cuya finalidad es transformar todo en datos (dataísmo), termina siendo profundamente contradictoria, ya que aparentemente pretende superar todo tipo de ideologías, pero, en su forma de concebir el mundo, resulta en sí misma una ideología. En ese sentido, José van Dijck sostiene que “la ideología del dataísmo muestra características de una creencia generalizada en la cuantificación objetiva y el seguimiento potencial de todo tipo de comportamiento humano a través de tecnologías de medios en línea” (2014, 198).

Como venimos señalando, las decisiones que toman los usuarios de la red se basan cada vez más en predicciones algorítmicas, situación que viene configurando lo que se ha comenzado a conocer como cultura algorítmica (^{Finn 2018}; ^{Striphas 2015}; Striphas y Hallinan 2016). Hoy, nuestros gustos y experiencias más cotidianas -como la amistad, el entretenimiento, la información- están atravesados por algoritmos que han terminado por colonizar nuestros espacios más íntimos, modificando gustos e intereses.

Para hablar de cultura algorítmica es necesario hacer referencia a otros neologismos que han aparecido para pensar la relación entre tecnologías, cultura y sociedad; en otros momentos se ha hecho referencia a cultura digital, tecnocultura (^{Yehya 2008}) y cibercultura (^{Lévy 2007}). La particularidad de estos conceptos está en que hacen referencia a una nueva cultura que se configura a partir de la tecnología. Tal es el caso de la cibercultura, la cual es definida por el filósofo francés Pierre Lévy como “el conjunto de las técnicas, de las prácticas, de las actitudes, de los modos de pensamiento y de valores que se desarrollan conjuntamente en el crecimiento del ciberespacio” (2007, 1). Como podemos ver en la definición anterior, la cibercultura sería la cultura que se desarrolla en otro espacio, puntualmente, en el ciberespacio, el cual es caracterizado por el autor como “el nuevo medio de comunicación que emerge de la interconexión mundial de ordenadores” (Lévy 2007, 1).

En el sentido de Lévy, la cibercultura sería algo diferente a la cultura que está fuera de la red, del ciberespacio, de ahí el prefijo ciber. Además de esta característica, la definición propuesta por Lévy se enmarca dentro del optimismo de los primeros teóricos del Internet, pues, según él:

Con la cibercultura se expresa la aspiración de construir un lazo social, que no se basaría ni en las pertenencias territoriales, ni en las relaciones institucionales, ni en las relaciones de poder, sino en la reunión alrededor de centros de interés comunes, en el juego, en el hecho de compartir el conocimiento, en el aprendizaje cooperativo, en los procesos abiertos de colaboración. (^{Lévy 2007}, 103)

Es decir que, a diferencia de la cultura -esa que no ocurre en el ciberespacio-, la cibercultura se caracterizaría por la ausencia de contradicciones y relaciones de poder, y donde predominaría la cooperación y colaboración.

Por el contrario, lo que aquí deseamos llamar cultura algorítmica no es una nueva cultura que se da en el mundo digital o en el ciberespacio. Entendida desde la perspectiva antropológica más amplía, la cultura se concibe como pautas de comportamiento, estilos de vida, sentidos y significados que configuran visiones de mundo (^{Geertz 2005}).⁽⁴⁾ Por tanto, la cultura algorítmica hace referencia a cuando los algoritmos condicionan y predeterminan los sentidos y significados que construimos, pues como bien señala José van Dijck, los algoritmos “moldean de manera profunda las experiencias culturales de las personas que participan de manera activa de las plataformas de medios sociales” (2016, 59).

Como concepto emergente, la cultura algorítmica no puede más que tener una definición provisional. Striphas y Hallinan la definen como “El uso de procesos computacionales para ordenar, clasificar y jerarquizar personas, lugares, objetos e ideas, y también los hábitos de pensamiento, conducta y expresión que surgen en relación con esos procesos” (2016, 119). Lo que denominamos cultura algorítmica hace referencia a cómo nuestras experiencias culturales están cada vez más determinadas por algoritmos, de ahí que sea necesario dejar de entenderlos como neutrales, objetivos o aproblemáticos; pues las decisiones que estos toman entran a configurar y predeterminar comportamientos, tanto en el mundo online como en el offline, moldeando estilos de vida, pautas de comportamiento, visiones del mundo y la relación con nuestros semejantes y con otros.

Por esta razón, Ed Finn afirma que “puede que los algoritmos computacionales sean presentados simplemente como matemáticos, pero lo cierto es que se comportan como máquinas culturales que repasan drásticamente la geografía de la reflexividad humana” (2018, 96). Es decir que, si bien los algoritmos son una serie de pasos e instrucciones a partir de las cuales las redes sociales y aplicaciones nos hacen recomendaciones que condicionan el uso que haremos de ellas, estos terminan por moldear gustos y prácticas culturales del mundo online, y de fuera de él -gustos, prácticas y experiencias-. Cuando un algoritmo nos recomienda qué serie o pelicular ver, o qué canciones escuchar, está moldeando cómo y en qué gastaremos parte de nuestro tiempo. Lo mismo ocurre cuando nos sugiere qué camino tomar para ir de la casa al trabajo, o qué restaurante visitar. En otras palabras, los algoritmos son modelos matemáticos que afectan de forma directa nuestra cotidianeidad. En este sentido, Finn se aventura a afirmar que “un algoritmo es una máquina cultural: que opera tanto dentro como más allá de la barrera reflexiva de la computabilidad efectiva, produciendo cultura a un nivel macro-social, al mismo tiempo que produce objetos culturales, proceso y experiencias” (Finn 2018, 69).

De acuerdo con lo anterior, no es que se esté produciendo otra cultura en un lugar diferente, sino que actualmente nuestros comportamientos y los usos de las redes sociales y del Internet determinan prácticas culturales. Como parte de la cultura, la cultura algorítmica está atravesada por relaciones de poder e intereses a partir de los cuales se generan nuevas desigualdades y discriminaciones, y no una cultura idílica y aproblemática como la descrita por Lévy.

En el caso de la cultura algorítmica, son los intereses de las plataformas y los anunciantes -esto es, de los intermediarios propietarios de los algoritmos que recopilan y procesan nuestros datos- los que entran en juego. Las recomendaciones que realizan los algoritmos se realizan a partir de la información que recopilan y correlacionan, de ahí que las recomendaciones y predicciones no sean iguales para todos los usuarios, pues estas dependen de muchos factores y variables, algunos de los cuales pueden llegar a ser discriminatorios, tales como la ubicación, el nivel de ingresos, la edad, el género o la orientación sexual.

En definitiva, los algoritmos no nos tratan a todos por igual; el nivel de personalización que pueden alcanzar los lleva a actuar de forma discriminatoria. A pesar de ello, los seres humanos, conscientes o no, hemos terminado por creer plenamente en los algoritmos, sin reflexionar sobre las implicaciones que tienen sobre nuestras vidas, en nuestras maneras de ver y leer el mundo y de relacionamos con los otros; en últimas, sobre sus implicaciones culturales.

Gracias a su eficacia y efectividad hemos llegado a confiar plenamente en los algoritmos sin cuestionar sus resultados. No obstante, diferentes autores han comenzado a llamar la atención sobre sus impactos (^{Caplan et al. 2018}; ^{Finn 2018}; ^{Manovich 2017}; ^{O´Neil 2018}; ^{Pariser 2017}). Podemos pensar que nos facilitan la vida para tomar decisiones, pero detrás de ellos se están gestando nuevos procesos de discriminación y desigualdad, que contradicen las esperanzas democratizadoras y de igualdad que nos habían prometido los evangelizadores del mundo digital. En ese sentido, vale la pena preguntarnos, como lo hace Lev Manovich, “¿Debemos seguir aceptando las decisiones que los algoritmos toman por nosotros, si no sabemos cómo operan?” (2017, 25).

Es cierto que los algoritmos pueden ser ciegos ante factores de discriminación que usamos los seres humanos, como la raza y el género, pero al sustituir estas características por datos también generan procesos discriminatorios de los que apenas comenzamos a tomar conciencia.

En ocasiones, permitir que sean los algoritmos los que tomen las decisiones acerca de qué vemos y qué oportunidades se nos ofrecen nos da resultados más ajustados. Un ordenador puede ser ciego a la raza y al sexo de una manera que los humanos no acostumbran. Pero solo si los algoritmos pertinentes están diseñados con atención y sutileza. Si no, simplemente serán un reflejo de las costumbres sociales de la cultura que estén procesando […] En otros casos, la selección algorítmica basada en datos personales puede llegar a ser más discriminatoria que la gente. (^{Pariser 2017}, 131)

Por esta razón, un punto sobre el que se hace necesario reflexionar tiene que ver con la neutralidad e imparcialidad de los algoritmos, pues existe la creencia de que al tratarse de procedimientos realizados por máquinas informáticas los pasos que siguen y los resultados que presentan son totalmente objetivos y neutros. En palabras de Finn: “La aparente transparencia y sencillez de los sistemas computacionales está provocando que muchos los vean como vehículos para la toma de decisiones imparciales” (2018, 44). Lo cierto es que los algoritmos siguen instrucciones de sus creadores humanos; no son artefactos objetivos. Por eso, Cathy O´Neil los ha caracterizado como armas de destrucción matemática, y como tal “nadie las cuestiona, no dan ningún tipo de explicaciones y operan a tal escala que clasifican, tratan y optimizan a millones de personas” (2018, 21).

¿Por qué no se problematiza el papel de los algoritmos y sus implicaciones culturales? Porque su desarrollo y la expansión de su uso hacia casi todos los sectores de la vida encaja perfectamente con las ideas de la ideología técnica. Precisamente, los algoritmos se están empleando para mejorar y optimizar toda clase de procesos; de ahí que la mayor parte de los análisis y reflexiones sobre ellos se hayan encargado de exaltar su utilidad, eficacia y objetividad, y no tanto sus consecuencias e implicaciones en la vida cotidiana de las personas. En ello radica la modestia de la ideología técnica que señaló (^{Wolton 2006}).

Así entonces, la mirada aproblemática sobre los algoritmos pertenece a la ideología que hemos descrito, según la cual la incorporación de mejoras tecnológicas, respaldadas en cálculos, mejorará cualquier aspecto o ámbito de la realidad social. Si una actividad humana se puede medir, entonces se puede calcular y predecir; si se puede calcular y predecir, se puede optimizar y mejorar. Si el mundo es imperfecto es porque los humanos son imperfectos. En cambio, los algoritmos no se equivocan; son cálculos precisos, y, en consecuencia, sus resultados y predicciones solo pueden arrojar los mejores resultados.

Consideraciones finales

No cabe duda de que los desarrollos tecnológicos han traído múltiples beneficios a la sociedad. Particularmente los avances de Internet y la digitalización han tenido efectos favorables para los seres humanos. Sin embargo, las ciencias sociales deben estimular la reflexión crítica acerca de las consecuencias que dichos avances acarrean. Tal como señalamos al comienzo del artículo, no se trata de caer en discursos tecnófobos, pues “la técnica, en general, no pervierte la naturaleza humana como pretenden los apocalípticos, pero tampoco la secunda dócilmente como pretenden los integrados” (^{Ferraris 2017}, 40).

En el caso puntual de los algoritmos, se les ha otorgado demasiado poder en la toma de decisiones sobre diversos aspectos de las vidas de las personas; decisiones en las que antes no intervenían. Bajo la promesa de que pueden mejorar cualquier proceso, se les ha permitido a las empresas tecnológicas y a los desarrolladores de aplicaciones conquistar prácticamente todos los aspectos de la vida. Esto les ha permitido realizar un mayor seguimiento a las personas y, por supuesto, recabar muchos más datos sobre sus actividades, prácticas, comportamiento y gustos.

Para terminar, deseamos subrayar algunos puntos que consideramos pertinentes a lo largo del documento, los cuales creemos deben seguir siendo analizados y explorados desde posiciones críticas. Por una parte, el predominio de la ideología técnica que hoy domina los discursos en torno a Internet y a los avances tecnológicos en el campo de la comunicación y la información. En estos discursos solo se resaltan los beneficios de las tecnologías, y se deposita en ellas las esperanzas de optimizar y mejorar todos los aspectos de la vida social, como si la solución a los problemas políticos, económicos y culturales estuviera en la técnica. Hemos querido hacer énfasis en que la tecnología no podrá solucionar todos los problemas de la sociedad, pues son precisamente problemas sociales, no técnicos, y al reducirlos a datos y cálculos se pierde la mirada compleja sobre ellos. Por esta razón, casi siempre las soluciones tecnológicas a problemas sociales son planteadas por especialistas en tecnología, y no por expertos en los problemas que se quiere resolver.

Por otra parte, cada vez más se impone cierto tipo de interpretación de la realidad que se ha venido a denominar cultura algorítmica, en la cual las decisiones que tomamos en el ámbito digital son condicionadas por algoritmos. Estos, lejos de funcionar como herramientas objetivas y neutrales que solo buscan facilitarnos la vida, se encargan de recopilar nuestros datos para su explotación comercial y para delinear nuestros comportamientos dentro y fuera de la red. Con este tipo de influencia sobre las prácticas culturales, los algoritmos vienen moldeando nuestras decisiones, gustos, experiencias e interacciones, lo que, en últimas, transforma no solo la manera en que nos comunicamos e informamos, sino los sentidos y significados desde los cuales nos relacionamos e interpretamos la realidad y nuestro entorno.

Por último, es importante resaltar que los algoritmos no son neutrales, como pretenden hacernos creer los intermediarios tecnológicos. No podemos olvidar que detrás del proceso de elaboración y configuración de los algoritmos se encuentran seres humanos que los programan para obtener determinados resultados (visibilidad, popularidad, predicción, entre otros). Allí también prevalecen relaciones de poder e intereses comerciales. Por estas razones, en ocasiones los algoritmos pueden favorecer desigualdades y procesos discriminatorios haciendo cálculos que condicionan lo que veremos y a lo que accederemos a través de sus aplicaciones y plataformas.

La actual incursión de los algoritmos en casi todos los ámbitos de nuestras vidas les ha permitido a las empresas tecnológicas acumular un universo de datos que les han ayudado a conocer los hábitos de millones de usuarios y, a partir de ellos, realizar predicciones y recomendaciones de lo que veremos y haremos en Internet y sus diversas aplicaciones. Al ser propietarias de los algoritmos que recaban y procesan estos datos, las empresas tienen el poder de manipularlos en favor de intereses políticos y económicos. Finalmente, todos estos procesos son una forma de predeterminar nuestros usos, comportamientos y consumos, lo que, como hemos intentado explicar, configuran maneras de ver, leer e interpretar la realidad, los sentidos y significados que elaboramos sobre el mundo. Esto implica una algoritmización de la realidad, donde la vida humana y la sociedad quedan reducidas a datos cuantificables y manipulables que, más que predecir o recomendar ciertas conductas, moldean nuestras decisiones o elecciones en distintos ámbitos de la vida cotidiana.

Por todo esto, consideramos necesario retomar y estimular lecturas y aproximaciones críticas sobre la relación entre tecnológica y sociedad en el mundo actual, para identificar los desafíos y consecuencias que los avances tecnológicos nos plantean como sociedad.