Sobre gólems i la intel·ligència artificial

Joan Albert Vicens, Sobre Gólems, Inteligencias artificiales y transhumanos, Ed. Milenio, 2024.

Se ha preguntado a muchos expertos y desarrolladores de la Inteligencia Artificial que probabilidades hay de que los avances futuros de la IA causen la extinción de la humanidad. La mitad suelen responder que hay como mínimo un 10% de posibilidades de que cause una catástrofe global. Nadie en su sano juicio subiría a un avión la mitad de cuyos ingenieros dijeran que hay un 10% de posibilidades de que se estrelle. ¿Qué nos lleva a jugar con fuego de esta manera? ¿Qué podemos hacer para minimizar los riesgos? ¿Estamos todavía a tiempo de controlar sus efectos más perversos? ¿Hay al menos también un 10% de posibilidades de que la IA beneficie a toda la humanidad? ¿Si la ilustración ha fracasado en su lucha contra la maldad humana debemos poner nuestra esperanza en la transformación del ser humano como plantean diferentes corrientes posthumanistas? A estas cuestiones da cumplida respuesta el brillante libro de Joan Albert. Digo brillante porque arroja claridad en un asunto oscuro, complejo y decisivo para toda la civilización humana armándonos a todos de razones y contraviniendo la idea de que solo los expertos pueden hablar de él con propiedad, comprender de que se trata y saber hacia donde llevar la humanidad entera. Si algo combate este libro es que el común de los mortales nos tengamos que conformar con una pátina de superficialidad, con cuatro tópicos al uso, y dejar el diálogo y la discusión del fondo de las cuestiones a “los que verdaderamente saben”. Basta tener sentido común para reflexionar sobre estas cuestiones cuando nos las explican bien como Vicens y debemos todos esforzarnos en ello porque tocan la médula de lo humano y, en consecuencia, nos afectan a todos muy personalmente.

Hay que destacar especialmente que Vicens traiga a colación la sabiduria contenida en el mito judio del Gólem. Por si solo ya resulta toda una subversión de la idea común que la tecnociencia es la lanza del progreso y los mitos la rémora de un pasado supersticioso. Irónicamente resulta que en este caso es el mito que nos abre los ojos: El Gólem es un gigante humanoide que pueden crear los rabinos convirtiéndolos en sus sirvientes hasta que se rebelan contra él cuando pierden su control. Joan Albert lo compara con la IA y el peligro que escape del control humano o acabe siendo altamente perjudicial. Lo interesante es que en esta sabiduría mítica se insta a la contención y a la prudencia y a destruir el gólem antes de que sea demasiado tarde. A diferencia de según que sabidurías pretendídamente científicas en estas narraciones míticas se insta a no someterse religiosamente a este nuevo ídolo de la recreación del ser humano. El Gólem enmarca la obra y las reflexiones que abona son retomadas al final después de que nos haya explicado bien los dos fenómenos, Inteligencia Artificial y transhumanismo, y los debates actuales en torno a ellos.

Sobre la Inteligencia Artificial nos hace ver en que se diferencia esencialmente de la Inteligencia Humana contra muchos que defienden que se trata solo de una diferencia cuantitativa. De hecho, la Inteligencia Humana no puede competir ni en un juego, ni en tratamiento de datos, ni en elaboración de pinturas, piezas musicales o poemas con la IA, ni en un montón de otros campos, pero con todo ello no hemos rozado todavía lo más propio de la inteligencia humana corporal y orgánica: los sentimientos, el vivir la vida y sentirse vivo, la autoconciencia, las emociones, el sufrimiento, la enfermedad, el aprecio de lo inútil, el éxtasis ante la belleza y el terrible dolor ante las pérdidas de seres queridos. La IA imita y supera muchas de nuestras capacidades pero no vive la vida.

La sustitucion es el leitmotiv de su abordaje de la Inteligencia Artificial. Vicens nos muestra como la IA se va apoderando de nuestras capacidades convirtiéndose en un contrapoder que nos va sustituyendo en muchos terrenos. La IA sustituye el trabajo humano. No hay obrero que pueda competir con ella:  no duda, no se cansa, no cobra, no reivindica mejoras, ni se pone enferma. La IA sustituye nuestras capacidades humanas y nos impone las suyas: toma decisiones por nosotros, cambia completamente nuestra forma de pensar, nos vuelve incapaces de concentración, perezosos (¿porqué aprender idiomas? ¿porque aprender a escribir o a hacer un trabajo académico si lo hace mejor el chat gpt4?), acríticos, desmemoriados, dispersos, provocando un sedentarismo mental tan nocivo como el sedentarismo corporal para el corazón. Vicens acaba planteándonos una pregunta inquietante: ¿y si el coste de tener máquinas que piensan es tener gente que no piensa? La IA sustituye también a las personas en sus relaciones introduciendo avatares digitales, chateos con personas muertas, holeogramas de personas, locutores virtuales, personas falsas… Como advertirá Vicens tiene su gracia que se ponga el grito en el cielo por la invasión de extranjeros mientras todo tipo de personajes virtuales se instalan en nuestras empresas, hogares y dormitorios, destruyen nuestros lugares de trabajo y acaban con nuestra intimidad sin suscitar queja alguna. En definitiva, la IA va reduciendo el ser humano a una cosa o instrumento más. No puede más, de momento, que reflejar bien los valores y los rasgos del sistema político-económico neoliberal en el que se desarrolla.

En cuanto al transhumanismo, es decir en cuanto a las nuevas posibilidades que nos da la ciencia y la tecnología para reformar al hombre y mejorarlo (hacer que corra más, que tenga más capacidad intelectual, más salud, más memoria, etc.), además de precisar muy bien en que consiste y sus diferentes corrientes, nos plantea la pregunta de donde está el límite. Si cada vez más el futuro del ser humano en su formato psicoorgánico está en nuestras manos, habrá que discutir si realmente queremos crear especies posthumanas y si realmente dejaremos modificar tecnológica y genéticamente al ser humano para liberarnos del dolor y de la maldad, como proponen algunos ante el fracaso de la ilustración en su intento de mejorar el ser humano a través de la educación.

Al final, contra la tecnolatría como religión, es decir, la búsqueda de salvación y de inmortalidad del mundo material y de sus sufrimientos a través de la tecnociencia, recuperamos en la reflexión ética la sabiduría mítica del principio en torno a los gólems: ¿Hay solución tecnológica para el bienestar, la felicidad y la justicia social? Y si la hay, y el precio a pagar por ello es el abandono de nuestra humanidad ¿estamos dispuestos a pagarlo? Vicens nos obliga a repensar a la altura de nuestro tiempo que significa ser humano y decidir qué hacemos de nuestro futuro como especie y como humanidad.

No hay ningún optimismo. Vicens es muy consciente que ha habido muy buenos rabinos, filósofos, pensadores, profetas y personas que han intentado conmover a la humanidad y advertirla, sin conseguirlo. Diríase que necesitamos que ocurran catástrofes para reconocer y admitir que pueden producirse. Tampoco hay ningún pesimismo. El anuncio de finales apocalípticos y de distopias es paralizante, solo abona el “no se puede hacer nada” y el “no hay alternativas”. Sabiendo no solo que pocos rechistan, sino que muchos colaboran entusiasmados con el desarrollo de la IA, escribir un libro así es ya en sí mismo un ejercicio de esperanza. Como los viejos rabinos que creaban y destruían gólems Vicens quiere hacernos dudar y que la duda nos lleve a la prudencia. Sabemos al menos que la ausencia de duda equivale a la ausencia de escrúpulos. Como hay que tomar decisiones en marcha nos invita a una evaluación y deliberación constante siguiendo criterios éticos y un control democrático de toda construcción transhumana del ser humano. Es un hecho que la deliberación no lleva necesariamente a la unanimidad en la toma de decisiones, pero si que promueve la responsabilidad y la prudencia. Esta última, que podriamos definir como la toma de decisiones razonables en un contexto de incertitud, y un humanismo radical como divisa de vida, definen bien las acciones, el carácter y los valores de Vicens que empapan todo el libro. En el fondo constituye un canto a la vida humana, asumiendo sus fragilidades, imperfecciones y finitud, que tiene muy presente el dicho de Pascal: “Haz el ángel y harás la bestia”.

Jordi Corominas.