"Hay un potencial totalitario en la inteligencia artificial nunca antes visto"
Por Carlos del Castillo
Yuval Noah Harari publica nuevo libro. El pensador israelÃ, consolidado como uno de los más influyentes del siglo XXI gracias al éxito de sus ensayos Sapiens y Homo Deus, continúa desarrollando en Nexus su tesis sobre cómo la construcción de mitos, religiones y ficciones colectivas han sido elementos clave en nuestras estructuras sociales. A ella acopla el que considera el último gran avance de la humanidad en este sentido, la inteligencia artificial. Su mensaje es pesimista: si no actuamos ya, existe un riesgo cierto de que los sistemas de aprendizaje automático traigan una nueva era de oscuridad.
"Tenemos que entender que hay un potencial totalitario en la IA como nunca antes hemos visto en la historia", expuso Harari en una reciente reunión con periodistas. La inteligencia artificial y su integración en los dispositivos, tanto personales como del hogar, urbanos o vehÃculos, podrÃa derivar en el desarrollo de una capacidad de vigilancia sin precedentes, avisa el historiador.
"La diferencia entre los regÃmenes autoritarios y los totalitarios es que los primeros controlan la esfera polÃtica, el ejército o los presupuestos, pero dejan a la gente abandonada a su suerte la mayor parte del tiempo. El tirano no puede saber lo que cada uno de nosotros hace y piensa cada minuto del dÃa. Pero eso es justo lo que los regÃmenes totalitarios intentan hacer. RegÃmenes como los de Stalin en la Unión Soviética o Hitler en Alemania no sólo querÃan controlar el ejército y los presupuestos. QuerÃan controlar cada aspecto de la vida de la gente. Lo que oyes, lo que ves, lo que dices, con quién te encuentras, qué libros lees, todo. Pero incluso Hitler y Stalin tenÃan dificultades, habÃa lÃmites en el control que podÃan ejercer. No podÃan seguir a todo el mundo todo el tiempo. Stalin no tenÃa 200 millones de agentes de la KGB para seguir a todo el mundo, y si los tuviera, ¿qué es lo que hace un agente de la KGB? Elaborar un informe sobre ti. El cuartel general de la KGB en Moscú se habrÃa inundado de 200 millones de informes en papel. Incluso si un agente de la KGB te viera hacer algo y escribiera sobre ello, habrÃa una probabilidad muy alta de que ese informe simplemente acumulara polvo. Nadie lo leerÃa nunca porque no tendrÃan suficientes analistas. Asà que incluso en la Unión Soviética, habÃa cierta medida de privacidad", desarrolla Harari.
"Ahora la inteligencia artificial podrÃa hacer posible la creación de regÃmenes de vigilancia total que aniquilarÃan la privacidad. En un paÃs de IA, no se necesitan agentes humanos para seguir a todos los humanos", alerta.
Mi propio paÃs, Israel, está construyendo un régimen de vigilancia total en los territorios palestinos ocupados, con cámaras, drones y software siguiendo a todo el mundo todo el tiempo
El pensador recuerda que esta situación no está tan lejos de la realidad. "Mi propio paÃs, Israel, está construyendo un régimen de vigilancia total en los territorios palestinos ocupados, con cámaras, drones y software siguiendo a todo el mundo todo el tiempo", continúa: "Tampoco se necesitan analistas humanos para revisar toda la información. Esto es lo que hace la IA. Puede repasar inmensas cantidades de datos, vÃdeos, imágenes, textos o audio, analizarlos y reconocer patrones". Israel también utiliza IA para convertir toda esa información en objetivos militares y asesinarlos, según han reconocido fuentes de la inteligencia israelÃ.
Discursos como el de Harari no solo llegan desde el ámbito de la academia. Apenas horas después de la conferencia de prensa del historiador israelà era Larry Ellison, el fundador de Oracle, el que se expresaba en términos parecidos. Aunque desde una perspectiva totalmente opuesta. "La policÃa se comportará lo mejor posible, porque estaremos constantemente vigilando y grabando todo lo que ocurre. Los ciudadanos se comportarán lo mejor posible, porque estaremos constantemente grabando e informando de todo lo que ocurre. Es incuestionable", aseguraba. Ellison posee la quinta mayor fortuna del mundo, según Forbes, y es el principal apoyo de Donald Trump en Silicon Valley. Oracle es una de las tecnológicas más grandes y buena parte de su negocio se basa en la gestión de centros de datos, computación en la nube e inteligencia artificial.
¿Más sabios que en la Edad de Piedra?
La idea de la que parte Harari en Nexus es que la acumulación de información no ha hecho al ser humano más sabio. Acumular información es una manera de acumular poder, reconoce, pero "el poder no es sabidurÃa". Como prueba, el académico señala a la crisis climática y el colapso ecológico con el que la humanidad coquetea. También a la creación de nuevas tecnologÃas como la IA, "que tienen el potencial de escapar de nuestro control y de esclavizarnos o aniquilarnos".
"Nadie discute que en la actualidad los humanos dispongamos de mucha más información y de mucho más poder que en la Edad de Piedra, pero no es en absoluto cierto que nos comprendamos y que comprendamos mejor nuestro papel en el universo", propone.
Ese poder, desarrolla Harari, "nunca es el resultado de una iniciativa individual", sino que "siempre surge de la cooperación entre un gran número de personas". Esa colaboración se establece en redes, que los humanos hemos usado para construir una civilización capaz de explorar el espacio o reducir la mortalidad infantil por debajo del 97%. Pero también para "desatar poderes que no podemos controlar". "El argumento principal de este libro es que la humanidad consigue un poder enorme mediante la construcción de grandes redes de cooperación, pero la forma en que se construyen dichas redes las predispone a hacer un uso imprudente del poder", resume.
Durante la obra Harari repasa ejemplos sobre cómo la idea en que "la información es esencialmente algo bueno y que, cuanta más podamos reunir, mejor" es esencialmente "ingenua". Cita ejemplos como un editorial de The New Englander, un periódico estadounidense del siglo XIX, que en el año 1858 celebraba la invención del telégrafo: "Es imposible que sigan existiendo viejos prejuicios y hostilidades, ahora que se ha creado este instrumento para que todas las naciones de la Tierra intercambien ideas".
Dos siglos después la tecnologÃa de comunicación del telégrafo parece un juguete comparada con Internet. Pero el racismo, el machismo o el belicismo siguen existiendo. Intoxicamos voluntariamente el planeta que habitamos. Construimos bombas cada vez más poderosas y virus que pueden aniquilar a la humanidad, enumera el historiador: "Nuestros lÃderes no carecen de información acerca de estos peligros, pero, en lugar de colaborar en la búsqueda de soluciones, se acercan cada vez más a la guerra global".
El principal problema ahora con las redes sociales, las noticias falsas y las teorÃas conspirativas no son las decisiones de los usuarios humanos, que están protegidas por la libertad de expresión. Son las decisiones de los algoritmos corporativos
Harari compara el panorama informativo actual con la comida basura. Señala a las redes sociales y a las granjas de contenido como las responsables de hacer que hoy en dÃa la mayorÃa de la información que consuman las personas sea adictiva, pero vacÃa de conocimiento. Apunta a las compañÃas que las operan por suministrar un producto que daña la mente, igual que la comida basura daña al cuerpo. "La gente tiene derecho a ser estúpida, tiene derecho incluso a inventarse mentiras", defiende. "El principal problema ahora con las redes sociales, las noticias falsas y las teorÃas conspirativas no son las decisiones de los usuarios humanos, que están protegidas por la libertad de expresión. Son las decisiones de los algoritmos corporativos."
Harari denuncia que el único objetivo de las plataformas es capturar la atención de los usuarios, no suministrar información útil. "A medida que la gente pasa más tiempo en YouTube, en Twitter, en TikTok, las empresas venden más anuncios y recopilan más datos, que luego pueden vender a terceros. Este es su modelo de negocio. Asà es como ganan dinero, por lo que tienen un gran interés en captar la atención de la gente y hacer que se quede más tiempo", recuerda: "En la búsqueda de este objetivo, los algoritmos de las empresas descubrieron que la forma más fácil de captar la atención humana y mantener a más gente más tiempo en la plataforma es pulsar el botón del odio, o el botón del miedo, o el botón de la ira en la mente, y difunden deliberadamente noticias falsas y teorÃas conspirativas que aumentan el odio, el miedo y la ira".
"La IA no es una herramienta, es un agente independiente"
En la tesis del historiador, el nazismo o el estalinismo fueron redes de colaboración que salieron mal. "Eran unas redes poderosÃsimas sostenidas por ideas excepcionalmente equivocadas", sostiene en Nexus. Lo mismo opina de las redes sociales. La inteligencia artificial, basada en información pero no en sabidurÃa, podrÃa terminar siendo otro ejemplo, aunque sea "un tipo de red totalmente nuevo". Harari sostiene que un gran número de personas creen que su llegada será positiva porque implica un gran avance tecnológico, olvidando que el telégrafo también lo fue en su momento y tras su invención llegaron dos guerras mundiales.
Además de la potencial pérdida de privacidad, el historiador cita dos problemas que podrÃan derivarse directamente de la aparición de la IA. Uno es el geopolÃtico, "sobrecargando los conflictos humanos" al añadir una carrera global por controlar esta tecnologÃa. El segundo es el de la caja negra: "PodrÃamos vernos envueltos por una red de algoritmos incomprensibles cuya función serÃa gestionar nuestras vidas, remodelar nuestras polÃticas y nuestras culturas; e incluso rediseñar nuestro cuerpo y nuestra mente".
"La IA no es una herramienta, es un agente independiente", afirma: "Es la primera tecnologÃa de la historia que puede tomar decisiones y generar nuevas ideas por sà misma (...). Los cuchillos y las bombas no deciden por sà mismos a quién matar. En cambio, la IA puede procesar información por sà sola y, por lo tanto, sustituir a los humanos en la toma de decisiones".
Para hablar de los peligros de esta nueva tecnologÃa el pensador cita acciones como la carta firmada por empresarios de la IA como Sam Altman o Elon Musk que alertaba de que una IA descontrolada podrÃa ser tan destructiva como una "bomba nuclear". Esta ha sido tachada de "catastrofista" por otros expertos, que han puesto sobre la mesa que la "moratoria" en el desarrollo que proponÃan Altman o Musk pretendÃa en realidad torpedear la competencia.
Harari comenta también una encuesta en la que participaron 2.778 investigadores, en la que "más de un tercio estimó en al menos un 10% la probabilidad de que la IA avanzada conduzca a resultados tan malos como la extinción humana". El mismo resultado indica que más del 60% de los encuestados apenas veÃan posibilidades de que eso ocurriera. Incluso la ONU ha señalado que uno de los mayores problemas a la hora de regular esta tecnologÃa es la "dificultad para descifrar el aspecto publicitario de la realidad".
Con más de 45 millones de copias vendidas entre ambos, Sapiens y Homo Deus han sido grandes éxitos de ventas. Sin embargo son obras que han recibido crÃticas desde el ámbito académico. Estas señalan que Harari simplifica en exceso cuestiones complejas acerca de materias en las que no es un experto, como biologÃa, antropologÃa o tecnologÃa. En la actualidad, no son pocos los investigadores especializados en IA que recuerdan que "los avances actuales no nos acercan más a tener una inteligencia artificial similar a la humana" y que el progreso tecnológico no tiene por qué ser una lÃnea recta. Si bien inteligencias artificiales generativas han avanzado mucho en los últimos años, el consenso cientÃfico en este momento es que no serán la base tecnológica de una IA consciente o humanoide. "PodrÃan pasar 100 años y que el estándar sean todavÃa estas enormes inteligencias artificiales simuladas que en general no son realmente capaces de entender nada, como ChatGPT", explicaba un cientÃfico de computación en entrevista con elDiario.es.
ChatGPT, la ameba de la IA, no tardará mil millones de años en evolucionar hasta convertirse en el dinosaurio de la IA
Aunque Harari no habla de una sola IA todopoderosa sino de la creación de un entramado de incontables algoritmos que nos resultarÃa imposible fiscalizar, un invierno de la inteligencia artificial (como el que ya atravesó esta tecnologÃa en la segunda mitad del siglo XX, con muy pocos avances) podrÃa descafeinar buena parte de las alertas que el historiador emite en Nexus. El historiador fue preguntado por esta cuestión en su reunión con periodistas españoles y latinoamericanos.
"Lo que estamos viendo es que los desarrollos más recientes de la IA son esta capacidad de crear historias, que antes no existÃa. Si retrocedemos unos años y nos fijamos en las redes sociales, las IA ya controlaban la conversación decidiendo qué atraÃa la atención, qué encabezaba las noticias en Facebook o qué recibÃa más tráfico en Twitter. Pero la IA no podÃa crear contenidos. No podÃa escribir buenos textos. No podÃa crear música ni imágenes. Ahora la nueva generación de IA es capaz de hacerlo. Y sé que mucha gente dice que sÃ, que escriben textos, pero no son muy buenos. Escriben música, pero no es muy buena. Crean vÃdeos e imágenes, pero tienen muchos errores, como personas con seis dedos en una mano. Pero entiendan que estos son sólo los primeros pasos de la revolución de la IA. La revolución de la IA tiene básicamente diez años. TodavÃa está dando los primeros pasos de bebé. Aún no hemos visto nada. Si piensas en el desarrollo, la evolución de la IA es análoga a la evolución biológica. Asà que los sistemas de inteligencia artificial de hoy son sólo amebas. Son muy, muy simples. Las amebas tardaron miles de millones de años en evolucionar hasta convertirse en dinosaurios, mamÃferos y humanos, porque la evolución orgánica es lenta. Tarda miles de millones de años. La evolución digital de la IA es millones de veces más rápida. ChatGPT, la ameba de la IA, no tardará mil millones de años en evolucionar hasta convertirse en el dinosaurio de la IA", contestó.
Una dieta informativa e instituciones poderosas
Nexus dedica más espacio a trazar el contexto histórico sobre cómo la humanidad ha creado redes de cooperación problemáticas a lo largo de la historia y a describir cómo nos están afectando las actuales que a proponer soluciones. No obstante, el historiador propone dos vÃas para corregir el rumbo. Una es individual, y sugiere que cada persona establezca una dieta informativa, de forma similar a como se fija una dieta nutricional: siendo selectivos con lo que consumimos.
La otra estrategia consiste en reforzar el discurso civil y democrático, especialmente en un momento en el que se encuentra amenazado. Harari señala que no es posible frenar una tendencia tecnológica, pero destaca la importancia de instituciones como los tribunales, las universidades y los medios de comunicación. "La democracia ha construido mecanismos para protegerse a sà misma. Un sistema de controles y equilibrios. No se trata sólo de elecciones. Las elecciones son un control muy importante pero sin el resto de controles, es fácil amañarlas, como ocurre en Venezuela. Necesitas tribunales independientes y medios de comunicación independiente que puedan sacar a la luz los errores y potencialmente las mentiras del gobierno y que éste no pueda impedirlo".
En su reunión con periodistas españoles y latinoamericanos, quiso enfatizar la importancia de la prensa en esa ecuación. "El papel de los medios de comunicación es esencial", recalcó: "La democracia es una conversación. Esto es lo que significa democracia. Dictadura es dictar. Una persona lo dicta todo. Democracia es cuando la gente se pone de pie, habla e intenta llegar a una decisión común. Ahora, hasta el surgimiento de la prensa moderna, la democracia, al menos la democracia a gran escala, era simplemente imposible. No tenemos ningún ejemplo de democracia a gran escala en el mundo antiguo. Los únicos ejemplos que conocemos son ciudades-estado a pequeña escala como la antigua Atenas o incluso tribus más pequeñas. Porque para tener una conversación, la gente necesita hablar. Ahora, en una ciudad pequeña, todos podrÃan reunirse en la plaza principal y hablar. Pero en un gran reino, era técnicamente imposible mantener una conversación entre millones de personas. Asà que la democracia era simplemente imposible. Y no conocemos ninguna democracia a gran escala en el mundo premoderno. Una conversación a gran escala se hizo posible sólo con el surgimiento de la tecnologÃa de la información moderna, y la primera tecnologÃa de la información moderna crucial fue el periódico. Nuestros periódicos comienzan a surgir en los siglos XVII y XVIII en lugares como los PaÃses Bajos e Inglaterra, que es donde también se ve el surgimiento de las primeras democracias a gran escala en la historia. Después tuvimos más tecnologÃas de la información como el telégrafo y la radio y la televisión. Esta es la base de la democracia a gran escala, porque, de nuevo, sin estas tecnologÃas, no hay conversación. Y sin conversación no hay democracia".
Fuente: elDiarioAr