La sutil hebra del alma en el mundo algorítmico

En la novela de ficción Dune, de Frank Herbert, existe una especie de casta social mitad hombre-mitad máquina cuyos miembros se denominan ‘mentats’. Su capacidad analítica sobre infinitas bases de datos es indispensable para el cálculo eficiente y eficaz de las lógicas económicas y de administración del poder.

En aquel universo fantástico, los grandes avances tecnológicos de las razas interplanetarias hacen imprescindibles a estos personajes para ayudar a los tomadores de decisiones con su frío cómputo de las variables para la gobernanza y en medio de las crisis; por si fuera poco, las afinadas y aparentemente asépticas conjeturas de los mentats hacen valoraciones y previsiones de un potencial futuro inmediato, aportando una visión inigualable del curso de las estrategias. Y, sin embargo, es uno de estos personajes el principal detonante para los eventos que se provocarían a la postre: un magnicidio, la caída de un reino, la salvación de un mesías y la consecución de una guerra santa de dimensión cósmica. Su ‘error’ se reduce a una variable que no pudo analizar fríamente: el amor a su esposa. Es decir: una sutil hebra del alma humana que se ha colado entre la indiferente operación racional, aritmética y logarítmica es capaz de poner al universo de cabeza.

Dune es una novela de ciencia ficción que, sin embargo, habla profundamente de política, religión, cultura y lenguaje. Por eso, a pesar de los avances tecnocientíficos (como el viaje espacial o las armas pantagruélicas), los mentats no pueden ser robots ni pueden operar bajo estrictas reglas algorítmicas de la inteligencia artificial: son humanos que han sido modificados (hoy los llamaríamos transhumanos) y que han recibido un entrenamiento muy especializado. Claramente la humanidad de la que habla Herbert tiene capacidad de hacer máquinas de pensamiento y razón superior; sin embargo, su fabricación está prohibida por una sentencia de la Biblia Católica Naranja después de la gran guerra llamada Yihad Butleriana: “No construirás una máquina a semejanza de la mente humana”.

Ahora bien, en nuestro planeta tierra y en este siglo XXI, los avances tecnológicos modernos ya desarrollan precisamente las máquinas y sistemas cuyas capacidades analíticas son portentosas. Como reconocieron tanto Christopher Olah de Anthropic, como el papa León XIV, en la presentación de la encíclica Magnifica Humanitas: “Son más sutiles de lo que prometió la ciencia ficción: no son robots fríos y calculadores; están hechos de nuestras palabras”, pues “todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo. Las inteligencias artificiales modernas están más ‘cultivadas’ que ‘construidas’: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA crece”.

Sobre esta nueva industria, Olah reconoce el poder de “la palabra” y advierte de la urgencia de un marco ético y una reflexión moral sobre los modelos de la denominada Inteligencia Artificial pues “ya muestran fenómenos misteriosos e incluso inquietantes, como estados internos que parecen reflejar miedo o dolor”. Y es un hecho que dicha regulación no vendrá de la lógica de los intereses individuales o de grupo sino a través de una política participativa, desde claros anclajes terrenales y trascendentes del humanismo, y desde las colectividades abiertamente democráticas.

La IA es mucho más que una herramienta; es un sistema que ya se involucra en los más diversos ámbitos del orden social y la experiencia humana; y de ahí el interés por regularla. Como dato curioso, en el universo ficticio de Herbert también hay inquietudes de que el mentat, en su aparente condición herramental fuese desprovisto de su condición humana y que, por tanto, produjera auténticos monstruos utilitarios, pragmáticos y ajenos al sentimiento humano y al bien común. Por ello, más allá de las funciones de cálculo mental es necesario para los mentats educarse en la “función gestáltica” es decir: en mantener la capacidad humana de percibir y responder a estímulos como un ‘todo integrado’ y no como si su existencia fuese una ‘suma de partes aisladas’. 

Fue el propio papa Francisco quien en 2013 propuso como eje de construcción social y paz precisamente este principio: “El todo es más que las partes, y también es más que la mera suma de ellas. Entonces, no hay que obsesionarse demasiado por cuestiones limitadas y particulares. Siempre hay que ampliar la mirada para reconocer un bien mayor que nos beneficiará a todos. Pero hay que hacerlo sin evadirse, sin desarraigos. Es necesario hundir las raíces en la tierra fértil y en la historia del propio lugar, que es un don de Dios”.

Es decir, lo que idealmente distinguiría al mentat de una máquina de inteligencia artificial sería justamente su forma de comunicarse en los distintos grados de vinculación humana. El mentat de Dune debe tener una función mayor que la simple acumulación de datos en su conciencia; la resolución de complejidades por esa inteligencia superior no se limita al “ensamblamiento divergente de datos” sobre temas especializados sino a la posibilidad de integrarlos en un todo coherente con la naturaleza humana. “De lo contrario –advierte proféticamente la novela– es posible que caigas en el Problema de Babel, que es el peligro omnipresente de alcanzar combinaciones equivocadas a partir de informaciones correctas”.

El mentat de Dune parece ser la imagen de la dupla coparticipante del ser humano y las herramientas de la IA y la advertencia es la misma: el camino erróneo de esa humanidad sería perseguir la fantasía de erigir la nueva Torre de Babel: una estructura del futuro sin referencia a lo divino, sustentada por uniformidad discursiva y operativa (algorítmica), edificada sobre el orgullo y la pretensión de bastarse a sí misma. 

León XIV propone y anima a optar por la otra actitud –aquello que conjura el Problema de Babel– que es la reconstrucción de lo social, es participar de una obra colectiva y colaborativa que opta por sanar vínculos y hacer justicia antes que amontonar piedras; es participar del acto comunicativo integral (la comunión) que crea cultura desde la diversidad custodiando la verdad como derecho y bien común de todos y no como propiedad exclusiva de élites y poderes modernos. Pero, sobre todo, a reconocer la dignidad humana intrínseca e infinita, expresada en nuestra carne amada y herida, pero llamada a trascenderse a sí misma para realizarse en el amor. Porque nuestros brazos y corazones cargan con mucho más que las imágenes ilusorias de futuros posibles, sino que portan memoria, ternura, conciencia, responsabilidad y oración.

*Director VCNoticias.com

@monroyfelipe