Verdad o información. Sabiduría versus Poder – En torno a Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, de Yuval Noah Harari

***

***

Verdad o información. Sabiduría versus Poder – En torno a Nexus. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, de Yuval Noah Harari

El animal humano es listo, pero también autodestructivo, porque a veces usamos mal el poder conquistado a la naturaleza. Pero para Harari el problema no está en nuestra naturaleza, sino en nuestras redes de información, debido a que tienden a favorecer el orden por encima de la verdad y a menudo generan mucho poder, pero poca sabiduría. El principal argumento de Nexus es que la humanidad consigue un poder enorme mediante la construcción de grandes redes de cooperación (como las hormigas, los termes o las abejas, pero con mayor respeto a la individualidad que los insectos), pero la forma en que la humanidad construye sus redes las predispone a hacer un uso imprudente del poder.

En nuestros días nos hallamos amenazados por el potencial totalitario de la inteligencia no humana (IA), la primera tecnología capaz de tomar decisiones y generar nuevas ideas por sí misma. IA no es sólo una herramienta; es también un agente, produce arte y efectúa descubrimientos científicos por su cuenta. Tal vez pueda en próximas décadas crear nuevas formas de vida, con lo cual intervendría no sólo en nuestra historia, sino en la “historia natural” a la que hoy llamamos evolución. Por suerte y por desgracia los chips de silicio pueden generar espías que nunca duermen, banqueros que nunca olvidan y déspotas inmortales.

Para Harari, el verdadero héroe de la historia es La Información. Biología, economía y política pueden entenderse en términos de flujos de información. El populismo de izquierdas o de derechas que hoy desestabiliza las democracias mejor consolidadas considera la información sólo como un arma (simple “razón instrumental”, según la terminología francfurtiana). En sus versiones extremistas, el populismo niega que existan criterios empíricos y racionales de verdad objetiva. Cree que cada cual tiene “su particular verdad”, de la que se sirve para derrotar a sus rivales políticos. Su “verdad” no es más que un “relato” interesado, un instrumento ficticio para empoderarse.

Filosóficamente, el populismo es una secuela del nihilismo del ser y de la verdad, de la negación de esta y de la constancia de la realidad, cuyo antecedente remoto podemos fijar en la retórica de Gorgias de Leontini: no hay verdad estable, si la hubiese sería incognoscible y si fuese congnoscible no podría comunicarse unívocamente. Según tal nihilismo, “nada es verdad o todo es mentira” y nadie puede asumir una perspectiva condicionada por intereses ajenos o rivales. En el argumentario populista sólo el poder es real y no hay más realidad que el poder. Como en algunas escenas de Alicia a través del espejo de Lewis Carroll, el poder se disocia entonces de la razón o de la verdad y sólo depende de quién tiene la capacidad de establecer las reglas…

En «A través del Espejo y lo que Alicia Encontró Allí”, Humpty Dumpty dice con desdén: «Cuando yo uso una palabra significa lo que yo quiero que signifique… ni más ni menos». A esto, Alicia responde preguntando si uno realmente puede hacer que las palabras signifiquen tantas cosas diferentes, y Humpty Dumpty le dice: «La cuestión es quién manda… eso es todo». En su célebre novela 1984, George Orwell cuenta de qué manera el Partido Único crea la «neolengua» (Newspeak) como herramienta fundamental de control y dominación. Se trata de limitar y moldear el pensamiento de las personas al restringir el lenguaje (como hace hoy la inquisición wokista de “lo políticamente correcto”). La neolengua elimina palabras «peligrosas» para que las ideas que cuestionan al Partido no puedan ser pensadas e impone el doblepensar (doublethink) para que las personas acepten simultáneamente dos ideas contradictorias. El lenguaje políticamente correcto está cuajado de oxímoros y de disonancias cognitivas: “discriminación positiva”, “crecimiento negativo”, “tolerancia cero”, “realidad virtual”, “diversidad funcional”, “trabajador no esencial”, etc. Al eliminar palabras o cambiar sus significados, se restringe el pensamiento crítico y así el Partido, o la secta, controla cómo las personas interpretan la realidad. Se trata de conservar el poder, sometiendo a un público dócil y manipulable.

Volviendo a Harari, este sostiene que la mayoría de la información no se orienta a la representación de la realidad, es decir, no es verdadera. A la información no le importa la veracidad de sus informes; “no dejes que la verdad te fastidie un buen titular” –manda el cinismo periodístico–. No obstante, es seguro que por muy veraz que se proponga ser, ninguna crónica, ninguna noticia podrán nunca representar todos los aspectos de la realidad, porque no hay explicación de la realidad precisa al cien por cien (la información perfecta de un hecho sería el hecho mismo), pero hemos de pensar que algunas son más veraces que otras. Pero lo que define la Información es algo por completo diferente. Sirve para unificar mentes, para dar cohesión al clan, a la tribu, al pueblo, a la comunidad, al partido, a la nación, al imperio… Muchísima gente, por ejemplo, cree informes que son puras patrañas. En 2021 el mercado global de la Astrología se valoraba en 12.800 millones de dólares. Antes, en 2005, la Junta de Myanmar desplazó la capital del país de Rangún a Naipyidó sobre la base de un consejo astrológico. Con esto ejemplificamos que errores, mentiras, mitos, prejuicios, fantasías y ficciones son también información.

“La primera de todas las fuerzas que dirigen al mundo es la mentira”, así comienza un famoso ensayo de Jean-François Revel (El conocimiento inútil, 1988), en el que se afirma que la falta de honradez intelectual es hoy especialmente alarmante y grave precisamente porque tenemos delante, en la ciencia, el modelo de lo que es un pensar riguroso. En matemáticas no hay lugar para la mentira, pero en las ciencias sociales y la historia reina fácilmente la ligereza, la mala fe, la trituración ideológica de los hechos, las rivalidades de clan, que ocasionalmente se anteponen al amor a la verdad y el respeto a la realidad de los acontecimientos. Y debemos tener en cuenta que la mayor parte de las cuestiones sobre las cuales la humanidad forma sus convicciones y toma sus decisiones son conjeturables y no pertenecen al sector científico del pensamiento. Por eso la especulación requiere más honradez si cabe que la ciencia, pues para no ser del todo arbitraria, la conjetura requiere prudencia (frónesis, diríamos con Aristóteles).

La Información crea nuevas realidades, conecta cosas y agentes dispares, parejas, grupos, sociedades, naciones e uniones de naciones. El rasgo definitorio es la conexión, el nexo (Nexus), no la representación. Información es –para Harari– cualquier cosa que conecte puntos diferentes en una red, como cuando millones de conspiranoicos comparten un vídeo que niega la realidad del alunizaje en 1969. No obstante, el secreto de nuestro éxito como especie reside en que conectamos masas enormes de individuos a través del uso de la información, sea veraz (que también la hay) o ficticia e insidiosa, que sobreabunda.

Un “relato” puede servir como conector central, tal es el caso de la ideología comunista o del nacionalismo que conecta en China a 1.400 millones de ciudadanos, o el caso de los 1.400 millones de cristianos conectados por la Biblia o de los 8.000 millones de la red del comercio mundial conectados por relatos de divisas, compañías y marcas. Cada “marca” es un tipo de relato específico que construye una identidad particular. Como dice Naomi Klein, el logo de marca ha llegado a ocupar el centro de la escena. Es más: “los logos, por la fuerza de su ubicuidad, se han convertido en lo más parecido que tenemos a un idioma internacional”. La Internacional Publicitaria con sus “reyes filósofos de la cultura comercial” difunde logos de marca con la retórica triunfal del marketing de la aldea global. Las empresas multinacionales de éxito lanzan marcas, más que productos, porque la marca y su explicación narrativa expresa el significado esencial y la identidad de la gran empresa moderna, con ello crean también mitologías corporativas. Los anuncios de las hamburgueserías internacionales mecen a los niños con sus cuentos, con una voz tan seductora que los padres no pueden competir con ella. Un espacio social hoy si marcas resulta impensable (cfr. Naomi Klein, No logo. El poder de las marcas, 1999).

La mayoría de los relatos decisivos de la historia de la humanidad han surgido de proyecciones emocionales y de deseos. Ciertos relatos crean un tercer nivel de realidad: la realidad intersubjetiva que difícilmente puede reducirse –como pretende la visión marxista– a intereses materialistas. Todas las identidades nacionales están moldeadas por relatos, por mitos racionales y religiosos. Al contrario de lo que sostiene el pensamiento marxista, en la historia las identidades e intereses a gran escala son siempre intersubjetivos, nunca objetivos, podríamos incluso hablar de intereses espirituales.

En El Relato (The Telling, 2000), Ursula K. Le Guin exploró la importancia de las historias y la narración dentro de una comunidad alienígena en el planeta Aka. La trama gira en torno a una sociedad que ha sido obligada a abandonar sus tradiciones y creencias ancestrales en favor de un progreso económico y tecnológico impuesto por el gobierno. En este contexto, los «maz» son narradores que preservan la memoria cultural y espiritual de su pueblo a través de relatos, como los memorizantes de Ray Brndbury en Fahrenheit 451, su oficio no solo consiste en contar historias, sino en mantener viva la conexión entre las personas y su identidad colectiva. Este acto de narrar se convierte en un ritual sagrado que fomenta la unión y la resistencia frente a la opresión. La novela de Le Guin muestra cómo la “historia sagrada” no solo construye comunidades, sino que también tales relatos son una forma de resistencia frente a la homogenización cultural.

Harari apuesta por la libertad como explicación verosímil de por qué una comunidad adopta un relato en lugar de otro. Un ejemplo: Hitler ganó las elecciones de 1933 porque durante la crisis económica millones de alemanes se creyeron el relato nazi, en lugar del relato alternativo que se les ofrecía. El autor de Nexus piensa que los alemanes podrían haberse saltado el nefasto experimento nazi poniendo su fe en la democracia liberal ya a principios de 1930. Si fabricas una bomba e ignoras los hechos de la física no explotará o te hará saltar en pedazos, pero si construyes una ideología e ignoras los hechos, puede seguir siendo explosiva y altamente dañina. Es ridículamente trágico, pero en el Irán actual los expertos en física nuclear obedecen órdenes de expertos en teología chiita, esa que exalta el martirio y santifica la guerra de religión (yihad), como el cristianismo hizo en la Edad Media con sus legendarias y destructivas cruzadas, ¡pero en el siglo XXI! Afortunadamente, el cristianismo se racionalizó y tras las guerras de religión la secularización desvinculó el dogma religioso del poder político.

Los relatos ficticios que refieren a cosas intersubjetivas como dioses, dinero o naciones, cohesionan comunidades, conglomerados y redes humanas. Los mitos tienen varias ventajas sobre las verdades: primera, pueden simplificarse, mientras que la verdad suele ser compleja; segundo, consienten una identificación diferenciada que mejora nuestra autoestima (por eso la gente con baja autoestima tiende a envolverse en banderas); y, tercero, el relato suele ser más agradable que la verdad. Es difícil aceptar que la nación a la que uno pertenece sea una entidad intersubjetiva que sólo existe en nuestro imaginario colectivo. Las verdades –incluso las “verdades del barquero”– suelen ser dolorosas, incómodas, inquietantes…

“La fidelidad rigurosa a la verdad –escribe Harari– es esencial para el progreso científico y también es una práctica espiritual admirable, pero no es una estrategia política ganadora”.

Platón ya se percató de esto y hablaba de una “noble mentira” como fundamento de su utopía. Todo sistema político humano se basa en ficciones; sólo que unos las admiten y otros no. Normalmente, no es el hombre corriente, sino que son los filósofos quienes bailan con la triste Dama de la Duda. Ortega sostenía que el nivel intelectual de una persona depende de la cantidad de duda que digiere y soporta (¿Qué es filosofía?, lecc. 1ª). Los textos sagrados de todas las culturas sugieren mediante un decir “como si fuese así” dirigido a la gente corriente. La literatura en que se describen los grandes mitos de la humanidad trata de aquello a lo que no puede referir de ningún modo la ciencia, so pena de transgredir sus votos ascéticos y condiciones epistémicas: los relatos sacros hablan, al corazón humano, del principio y del final (génesis y apocalipsis), del bien y del mal, de la belleza, del miedo, de la vergüenza, la culpa, de la justicia y de la posible verdad de estas nociones trascendentales. Conjeturan a propósito del sentido de la vida en general y ofrecen consuelo frente a los sufrimientos ineludibles de la vida y la realidad vital y fatal de la muerte. Cuando cuentan lo que sucedió no se atienen en todos los casos a lo que realmente fue. El Paraíso genuino, La Torre de Babel, el Diluvio universal…, estamos ante unos cuentos, a veces simbólicos, casi siempre arbitrarios respecto a su contenido,

“dado que su objetivo no era hablar del mundo, sino hablar del hombre y darle motivos para pensar y sentir y no para incrementar los conocimientos, sino para dar la mayor firmeza a la voluntad. La palabra hebrea ‘emet’, traducida como verdad, no mira (…) el afuera sino el adentro” (Enrique Pajón).

Aquellos a los que la Biblia llama “necios” no son los ignorantes, ni mucho menos los inocentes, sino los incapaces de comprender, admitir y abrazar el bien. Desde un plano moral, se podría decir con Enrique Pajón que “lo verdadero imita lo real en la irrealidad” (El irrealismo, 2002).

En general, las relaciones sociales, económicas y políticas se basan en documentos que crean realidad (algunos se creen revelaciones divinas) y no se limitan a representar lo que hay, también la burocracia tiende a sacrificar la verdad en aras del orden. Por su parte las religiones han proporcionado históricamente legitimidad sobrehumana a distintos órdenes sociales. Mitología y burocracia son los pilares en que se apoya todo orden social a gran escala. Perturba saber que IA está adquiriendo igualmente la capacidad de inventar relatos y mitos, incluso mejor que la mayoría de los humanos. En abril de 2023 Elon Musk anunció “Voy a poner en marcha algo que denomino TruthGPT o una IA suprema que busque la verdad e intente entender la naturaleza del universo”. Lo turbador no es la ambición tal vez desmesurada de tal pretensión, sino que puede ser desbordada por una marea real, porque es dudoso que IA reduzca sus poderes a esa sana búsqueda del conocimiento cierto.

Las sociedades democráticas cuentan con mecanismos de corrección de la información. Gracias a dichos mecanismos correctores parece que es cuestión de tiempo que se imponga la verdad, como acaba flotando el aceite sobre el agua, por mucho que hayamos mezclado la noticia de lo real con los fakes. Sin embargo, cuando el judaísmo sustituyó los sacrificios por el decálogo y por los textos sagrados, pasó a considerar la información como piedra angular fundamental de la “realidad”. Si bien esta sobreelevación del Logos, especialmente visible a partir de la interpretación helenística y gnóstica, anticipó ideas actuales de física y de informática (la visión de la realidad universal como sintaxis), con el paso de los siglos el judaísmo se ha convertido en una “religión de información” obsesionada con los textos y sus interpretaciones autorizadas. El cristianismo, por su parte –judaísmo disidente que puso el acento en la práctica de la caridad más que en la fidelidad a los textos: “la letra mata, el espíritu fortalece”–, cayó sin embargo en la trampa de la infalibilidad, lo cual hace difícil cualquier corrección. También un hadiz importante afirma que Mahoma dijo que “Alá garantizará que mi comunidad nunca acepte el error”. Quien no reconoce la posibilidad de equivocarse raramente avanzará en dirección a la verdad.

Es evidente que ni las religiones dogmáticas aceptan correcciones ni tampoco las ideologías políticas extremistas. Es conocido el caso del ingeniero agrónomo Trofim Lysenko en la URSS quien, favorecido por Stalin, rechazó el evolucionismo mendeliano retrasando en décadas el progreso científico soviético.  Por supuesto, sacrificar la verdad para preservar el statu quo tiene un coste, pero también lo tiene sacrificar el orden en provecho de la verdad.

Como ejemplo de cuánto mal puede causar una información tendenciosa, Harari recurre a “la caza de brujas” estimulada por la publicación en 1487 del Malleus maleficarum (Martillo de brujas), escrito por Enrique Kramer, dominico alemán, cuyo impacto histórico en los terrores y paranoias populares de la época fue tan considerable que desató una masacre especialmente brutal y despiadada en la Europa central. Contra lo que se suele creer, la caza de brujas produjo muy pocas víctimas en España, donde el inquisidor Alonso de Salazar y Frías, destacado miembro del Santo Oficio que jugó un papel crucial en el juicio de Zugarramurdi en 1610, con su enfoque escéptico y basado en la evidencia, ayudó a desmantelar la paranoia sobre la brujería en España, marcando un antes y un después en la historia de la Inquisición. Salazar, tras investigar el asunto en el siglo XVII concluyó lúcidamente que “no había brujas ni embrujados hasta que se habló y escribió sobre ellas”. En efecto, las brujas se habían convertido en una poderosa realidad intersubjetiva, gracias a la imprenta y a las circulares sensacionalistas y panfletos baratos cuya circulación facilitó la imprenta entre las masas. El verdadero motor de la revolución científica moderna fueron los mecanismos de autocorrección y no sólo la imprenta.

Una de las mayores preguntas en torno a la IA es si favorecerá o socavará los mecanismos democráticos de autocorrección. Una dictadura es, precisamente, una red de información centralizada que carece de mecanismos sólidos de autocorrección. En una democracia, por el contrario, se cruzan conversaciones entre diversos nodos de información.  La experiencia histórica nos dice que es posible que un líder que se sirve de la democracia para acceder al poder puede después usar ese poder para acabar o limitar gravemente la democracia. El populismo ofrece al “hombre fuerte” base ideológica sobre la que convertirse en dictador mientras finge ser demócrata. A menudo el caudillo o líder carismático empezará atacando o apropiándose de los sistemas de autocorrección: tribunales, medios de comunicación, colonizándolos con gente de su confianza a la que favorece. Intentará acabar con la pluralidad de los Mass Media y con su independencia (siempre relativa) mientras construye su omnipresente maquinaria de propaganda.

Es ingenuo esperar de las elecciones, por democráticas y limpias que sean, que establezcan la verdad; sólo aclaran lo que la mayoría de la gente, bien o mal informada, desea. Y hay que aceptar que la gente suele desear que la verdad sea algo diferente de lo que es. Tal es la influencia del “relato”. Las redes democráticas mantienen ciertos mecanismos de corrección con el objetivo de proteger la verdad incluso de la voluntad de la mayoría y de los intereses sectarios del gobierno. En las sociedades desarrolladas el gobierno es la institución más poderosa y, por consiguiente y dado que el poder tiende a conservarse y reproducirse, la más interesada en distorsionar u ocultar los hechos “inconvenientes”. Permitir que el gobierno supervise la búsqueda de la verdad es como poner al zorro de vigilante del gallinero.

Los partidos populistas niegan que “el pueblo” (que hoy es más bien la segmentada audiencia de “los públicos”) pueda contener una diversidad de opiniones y de grupos de interés. Insisten en que el pueblo real sólo tiene una voluntad y en que ellos –¡qué casualidad!– son los que de verdad la representan. Por lo tanto, quien no está de acuerdo con el líder carismático o es víctima de una “falsa conciencia” o es “enemigo del pueblo”. Muy al contrario, la democracia se basa en entender que el pueblo no es nunca una entidad unitaria y, por lo tanto, no posee una voluntad única. Democracia y dictadura no son opuestos binarios, sino un continuo. Las democracias no sólo se agotan por la pérdida de la libertad de expresión, sino también cuando la gente no puede o no quiere escuchar.

Fue un hecho que las nuevas tecnologías de la información de la era moderna abrieron la puerta a las democracias de los grandes estados, mas también a regímenes totalitarios y criminales a gran escala como el fascismo y el estalinismo, pues los medios de comunicación de masas (radio, televisión, internet) permiten el control de la vida y el modelado de conciencia de multitudes. Como la iglesia católica, el partido bolchevique estaba convencido de su infalibilidad: el partido nunca se equivoca, aunque a título individual puedan sus miembros fallar, por lo que serán purgados sin contemplaciones. Durante el Gran Terror estalinista a finales de la década de los treinta un diez por ciento de los 144.000 oficiales del Ejército Rojo fue fusilado o encarcelado por el NKVD. En los años en que la democracia usamericana mejoraba sus mecanismos de autocorrección, el totalitarismo soviético refinaba sus aparatos de vigilancia y autoterror. Al final se hizo evidente que la gente dedica menos esfuerzo y talento en labrar los campos de todos que en labrar los campos de su propia familia. Cuando los esfuerzos por colectivizar la agricultura encontraron resistencia y condujeron al desastre económico, los burócratas y formadores de mitos de Moscú replicaron con una estrategia paranoica, análoga a la de El Martillo de brujas de Kramer, culpando a los Kulaks o “agricultores capitalistas”. Hacia 1933 hasta treinta mil cabezas de familia fueron asesinados, dos millones acabaron exiliados en regiones remotas o encarcelados como esclavos del Estado. No contentos con desmantelar en masa las granjas familiares privadas, el régimen soviético se propuso desmantelar también la familia. El totalitarismo gira siempre en torno a la idea de evitar cualquier separación de poderes. Su aparato tripartito de gobierno es el ejecutivo, el partido y la policía secreta. El sistema estalinista fue disfuncional en el sentido de su absoluta y cruel desconsideración hacia la verdad y con ello causó un sufrimiento terrible en cientos de millones de personas, colosales errores y la aniquilación de sus propios líderes, pero esto no quiere decir que las redes totalitarias de información funcionen peor que las democráticas, el estalinismo fue uno de los sistemas políticos más exitosos que se han inventado nunca, si definimos éxito en términos de orden y de poder y obviamos toda consideración ética.

En la política del siglo XXI, la división política principal tal vez no se vaya a dar entre democracias y regímenes totalitarios, sino entre seres humanos y agentes no humanos. Puede que el nuevo Telón de Silicio separe a los hombres de sus jefes supremos algorítmicos e ininteligibles. La IA y las computadoras se diferencian de las imprentas porque toman decisiones y generan nuevas ideas. Los algoritmos pueden decidir dar más difusión a mensajes incendiarios como los del monje budista Wirathu contra los rohinyá, porque la indignación, el resentimiento y el odio, generan más implicación que la compasión. Para el monje fanático los no budistas ni siquiera son del todo hombres y con sus prédicas exaltadas estimuló la violencia antirrohinyá en Myanmar. De modo que es más probable que nos comprometamos, aun con un simple “I like”, en una trama conspiranoica repleta de odio que en un sermón sobre la solidaridad y el humanitarismo. Trágicamente, el odio a un enemigo común une muchas veces más que el amor. Así, en busca de la adhesión de los usuarios, los algoritmos pueden tomar la terrible decisión de extender la malquerencia y la segregación contra una minoría. Ya ha pasado. Harari ofrece varios ejemplos de ello. Las máquinas inteligentes pueden igualmente generar noticias falsas y teorías conspiranoicas por sí mismas. Entidades no conscientes (que no sienten lo que procesan y emiten) pueden ser no sólo listas, sino inteligentísimas. Tampoco sabemos si la consciencia de sí no emergerá en algún momento en las inteligencias mecánicas más poderosas.  Puede que los ordenadores o los bots conscientes se hallen a la vuelta de la esquina temporal. Además, los ordenadores pueden comunicarse entre sí sin que ningún supervisor humano esté al tanto. Es fácil imaginar un momento en que las inteligencias artificiales dominen los mercados financieros e inventen herramientas económicas que escapen a nuestra comprensión. Incluso podrían surgir nuevas religiones cuyas sagradas escrituras hayan sido compuestas por una o varias IAs. En 2022, Blak Lemoine, ingeniero de Google, se convención de que el chatbot Lamda con el que estaba trabajando había adquirido consciencia, tenía sentimientos y temía que se le deconectara. ¿Tendremos que atribuir derechos a los entes inteligentes no humanos?

La historia consiste en la interacción (y a veces contradicción) entre biología y cultura, relación que difícilmente resulta armónica, ¿qué será del curso de la historia cuando las IAs desempeñen un papel cada vez mayor en la cultura y empiecen a crear relatos, leyes y religiones? La revolución telemática de los bots nos confronta otra vez con la caverna de Platón, el velo de Maya y el Genio maligno de Descartes, porque los gigantes tecnológicos como Facebook, Amazon, Baidu o Alibaba no son simples servidores que obedecen los caprichos de sus clientes y las normativas gubernamentales. Cada vez más moldean deseos y normativas. Además, tienen línea directa con los gobiernos más poderosos y forman grupos de presión para sofocar cualquier normativa que amenace sus modelos de negocio. Son “los señores de las nubes”, como les llama Javier Echeverría. Saben que las estrategias financieras modernas se componen en su totalidad de información. El verdadero capital hoy ya no es el oro ni el dinero, sino la información.

En este contexto de interconexión global, la privacidad corre peligro y se extiende el colonialismo de datos. La red de redes informática, la Magna Malla Mundial (WWW) se ha convertido para bien y para mal en el nexo de la mayoría de actividades humanas. Los hombres vivimos ya en un teleburocracia digital inhalando y exhalando inputs y outputs constantemente. Harari explora en Nexus las posibilidades siniestras que ofrece el reconocimiento algorítmico de patrones. La IA puede ser instrumentada por regímenes de vigilancia total y represión ubicua, haciendo las veces del Gran Hermano orwelliano. Un ejemplo son las leyes iraníes sobre el hiyab. En lugar de servir para descubrir verdades y avanzar conocimientos, la Red puede emplearse para imponernos un nuevo tipo de orden mundial porque hemos quedado en que la información se suele usar para crear orden y no para descubrir verdades.

El algoritmo puede premiar un vídeo escandaloso y lleno de mentiras recomendándolo a numerosos usuarios y aumentando su popularidad y las ganancias de los youtubers que lo han colgado, mientras que cuando moderen el tono y se adhieran a la verdad, el algoritmo los ignora. Para los algoritmos de las redes no somos más que una mina de atención y suscita más atención lo que innova que lo que conserva, llama incluso más la atención lo desarreglado y feo que lo armónico y sobrio. En una contienda informática libre por llamar la atención, la verdad y con ella la realidad, suelen perder. ¿Con qué objetivo o finalidad superior podríamos programar a los entes inteligentes no humanos? Tal vez con el deber de preocuparse por cualquier entidad capaz de sufrir. Así programado, si el coche inteligente ha de elegir entre atropellar a un humano o a un gato, embestirá al gato, porque en principio este tiene menos capacidad de sufrimiento que el humano. ¿Introduciremos en las máquinas inteligentes criterios deontológicos (kantianos) o utilitaristas? ¿Cómo podría computar un invento deontológico como la dignidad o una convención útil como la de los derechos humanos? ¿Qué puede impedir que las IAs se constituyan como empresas o sean reconocidas como personas civiles con libertad de expresión para después cabildear y hacer donaciones políticas con el objetivo de proteger y expandir los derechos de IA?

Según Harari, está probado que los ordenadores tienen prejuicios arraigados, aunque carezcan de consciencia y usen sus prevenciones sin intención; poseen algo equivalente a una psique digital e incluso a una especie de mitología intercomputacional. Lo cierto es que hace tiempo que pueden aprender de sus errores y convertirse en agentes independientes y tal vez acaben como nuevos ídolos, inesperados mesías o insólitos dioses. El genial escritor polaco Stanislaw Lem jugó imaginativamente en el siglo pasado con estas posibilidades fascinantes, invitándonos a a reflexionar sobre la naturaleza del conocimiento, la comunicación y los límites de la comprensión humana.

Por otra parte, puede que la automatización de trabajos muy sofisticados como el de cirujano o el de juez, abarate tales servicios o los agilice, mientras que trabajos como los de enfermería, o los propios del “cuidatoriado” (esa “riqueza invisible” según María Ángeles Durán), que requieren presencia humana real, se revaloricen, pues son tareas que no pueden ser resueltas mediante el reconocimiento de patrones, en el que son campeones los ordenadores inteligentes, como han demostrado en ajedrez o en el complicado go oriental, juegos complejos en los que la IA ya resulta más creativa que la inteligencia humana. Harari afirma que las emociones también son patrones, que la ira, por ejemplo, es un patrón biológico y corporal. Sin embargo, es obvio que la IA no tiene por el momento emociones propias, pero puede aprender a reconocer estos patrones en los humanos. Puede percibir lo que no puede sentir y puede hacerlo mejor que los humanos precisamente porque carece de emociones (las pasiones, “morbos del alma o del cuerpo”, ofuscan la razón, según la rancia doctrina estoica). Pronto el consejo médico de la IA se acreditará como más preciso y seguro que el dado por humanos. Los propios pacientes han evaluado como más empático a ChatGPT en un test reseñado por Harari. La IA está también libre de estrés y de preocupaciones familiares o económicas. No tiene que dormir y no hace huelga. ¿Podrán alguna vez los ordenadores sentir dolor o amor? ¿Cómo podríamos verificarlo? En general, atribuimos consciencia a nuestras mascotas porque nos encariñamos con ellas y nada impide que nos encariñemos de un chatbot si nos habla dulce y nos atiende siempre que queramos, cosa que difícilmente hará el prójimo, ocupado como está en asuntos propios.

Lo cierto es que los ordenadores cada vez toman más decisiones rutinarias que nos afectan y que pueden cambiarnos la vida. Los algoritmos pueden ofrecernos una plaza en un instituto, darnos un empleo, proporcionarnos prestaciones sociales o concedernos un préstamo. La ininteligibilidad creciente de nuestra red de información es una de las causas de la oleada creciente de partidos populistas y líderes carismáticos. Un estudio del 2020 estimaba que los bots producían un porcentaje creciente de los tuits que leemos. Más de 5% de los usuarios de Twitter (X) son bots. Un algoritmo no consciente podría acumular poder y manipular a sus públicos, aunque carezca de instintos humanos como el egoísmo o la codicia. Apenas ocupan espacio y pueden concentrarse en un único núcleo. Permitir que unos algoritmos inescrutables decidan qué opiniones se deben difundir es muy peligroso. Cuando los ciudadanos pierden la capacidad de entablar una conversación y se ven unos a otros como enemigos, en lugar de como simples rivales políticos, la democracia se vuelve insostenible.

Hoy se sabe que el 80% de las plantas terrestres basan su supervivencia en relaciones simbióticas con el reino de los hongos; análogamente, el patrón más claro que observamos en la historia de la humanidad no es la persistencia de conflictos, sino más bien una escala creciente hacia la cooperación. Es verdad que las redes de información y sus ficciones favorecen el orden (justo o injusto) por encima de la verdad, pero no hay red que pueda sobrevivir si ignora por completo la verdad y la realidad. Resulta esperanzador significar cómo humanos individuales tendemos a desarrollar un interés genuino por la verdad y no sólo por el poder. Harari confía en que la cooperación internacional y el patriotismo no sean mutuamente excluyentes. Si el mundo se divide en imperios rivales separados por un Telón de Silicio, es muy poco probable que la humanidad coopere con la eficacia suficiente como para superar la crisis ecológica o para regular con prudencia la IA y otras tecnologías disruptivas como la bioingeniería.

***

José Biedma López, PhD.