Iñaki Ortiz GascónVivimos tiempos extraños, a las puertas de una nueva revolución tecnológica propiciada esta vez por la inteligencia artificial. Esto genera esperanzas y preocupaciones, pasiones y terrores. El frenético crecimiento de los modelos de lenguaje como GPT y la aparición en el horizonte de una inteligencia artificial general (paper), algo que hasta hace poco sonaba muy lejano, ha puesto en guardia a muchos de los expertos y personalidades de este campo, hasta tal punto que han pedido en una carta firmada que se paren como mínimo 6 meses los grandes experimentos de IA. Los debates de la ciencia ficción ya son realidad. Surgen básicamente dos miedos. Por un lado que un desarrollo descontrolado de una IA general pueda ser perjudicial para la humanidad. Por otro lado, algo mucho más cotidiano y que ya empieza a ser palpable: el impacto que puede tener en nuestra sociedad esta revolución industrial acelerada. OpenAI ha publicado un preprint sobre el impacto potencial de GPT-4 en los trabajos.
El cine y la literatura llevan como mínimo 200 años -aunque podríamos remontarnos a la mitología- alertándonos sobre algunos problemas derivados de los avances tecnológicos. Casi siempre han sido obras hablando de las preocupaciones de su propio tiempo. Caer en un miedo irracional a los cambios es mala cosa pero tampoco creo que se deba menospreciar muchas de las motivaciones que se encuentran detrás de estos miedos. Creo que es buen momento para hacer un repaso a algunas obras relevantes de ficción que han tratado esta cuestión. Empecemos por el principio: Frankenstein o el moderno Prometeo. Cada día que pasa la obra maestra de Mary Shelley me resulta más atractiva porque más allá del personaje icónico, habla de un tiempo de cambio que se parece un poco al nuestro, y también por todo lo que rodea a la autora y cómo se manifiesta dentro de su ficción.
Muchas veces se considera que esta novela es la primera obra de ciencia ficción. Este tipo de categorías siempre son difusas, ¿dónde acaban los precedentes y comienza el género como tal? Ya el propio título completo de la novela hace referencia a Prometeo que robó el fuego a los dioses. Por supuesto que el fuego es tecnología. Una historia similar la encontramos en el Génesis y su Árbol de la Ciencia. Precisamente, relacionado con esto, en la novela de Frankenstein hay una referencia a El paraíso perdido de John Milton, que la criatura lee y en la que ve reflejada su historia con la de Adán y Eva expulsados del paraíso. La ciencia, el desafío, el bien, el mal.
Hay precedentes proto-scifi, por supuesto, pero Shelley se acerca mucho más al género tal y como lo entendemos ahora, y aparecen muchos elementos comunes: el mad doctor, la especulación científica, el monstruo. Incluso la novela comienza con un detalle menos comentado, una expedición en barco con el Polo Norte como objetivo, adelantándose a una carrera que se iniciaría en la siguiente década y perduraría durante todo el siglo. Que Shelley usase esos elementos de ficción de contexto, no necesariamente asociados a la trama, también la sitúa de pleno en el género. Y no solo es una novela indiscutiblemente adscribible a la ciencia ficción, sino que además ha sido enormemente influyente. Muchas de las obras del siglo XX y XXI que tratan sobre inteligencia artificial le suelen deber algo.
El siglo XIX fue muy importante en la construcción de la ciencia ficción, con figuras prolíficas como Verne o Wells pero Shelley estaba ahí mucho antes que ellos. En cuanto al icono gótico, es habitual emparentar a Frankenstein con Drácula, pero lo cierto es que les separan casi 70 años. También es verdad que tanto para un monstruo como para el otro, la figura ha ido tomando sus propios caminos en el cine, muchas veces sin nada que ver con los pasajes de las novelas. Por ejemplo, hace poco comentaba la influencia clara de Frankenstein en el prólogo de la última película de Shyamalan, Llaman a la puerta, pero no se debe tanto al material original como a la adaptación cinematográfica de 1931. Ahora me quiero centrar en la novela, no en sus derivados.
La revolución industrial y los luditas
27 de febrero de 1812. Un joven Lord Byron se dispone a hablar en la Cámara de los Lores. Será su primer discurso y pasará a la historia. Es el único que se opone a la nueva ley que está a punto de ser aprobada. Una ley que castiga con pena de muerte a aquellos que destruyan máquinas, algo que viene sucediendo cada vez más en el norte de Inglaterra. Los luditas -llamados así porque enviaban cartas amenazadoras a los fabricantes de maquinaria a nombre de un tal Ned Ludd- eran trabajadores de los telares afectados por la nueva automatización. Se dedicaban a destrozar las máquinas por la noche y a intimidar a patrones explotadores y a fabricantes. Byron era el único político ese día que defendió sus intereses con un contundente discurso:
Se ha causado un considerable perjuicio a los propietarios de los nuevos telares. Estas máquinas eran para ellos una ventaja, en la medida en que sustituían la necesidad de contratar a un número de trabajadores y, en consecuencia, estos eran condenados a pasar hambre. Con la adopción de un tipo de telar en particular, un hombre realizaba el trabajo de muchos, y los trabajadores sobrantes fueron despedidos.
Un político poeta. Alguien comprometido con la causa de los obreros. De los artesanos tejedores que estaban siendo reemplazados por la nueva tecnología. Alguien, por supuesto, con el don de la palabra.
Los obreros despedidos, ciegos en su ignorancia, en lugar de alegrarse por tan beneficiosos avances técnicos de la humanidad, consideraron que estaban siendo sacrificados en beneficio de ese perfeccionamiento mecánico. En su ingenuidad, se imaginaban que el mantenimiento y el buen hacer de los pobres trabajadores tendrían mayor repercusión que el enriquecimiento de unos pocos individuos gracias a las mejoras en el comercio, que dejaban a los trabajadores sin empleo y sin la digna prestación de su salario.
Podéis leer el discurso completo aquí.
Son evidentes las similitudes con algunos de los temores que expresan hoy los expertos acerca de la IA. Las máquinas “sustituían la necesidad de contratar a un número de trabajadores”. Este era el ambiente en una incipiente revolución industrial, con revueltas cruentas y represiones aún peores. Con nuevas clases sociales como el proletariado, nuevos pobres.
Cuatro años después, en 1816, Byron pasaba el verano en Suiza con Mary y Percy Shelley, además de con su médico personal, Polidori, en una ya mítica Villa Diodati. Una meteorología espantosa les recluyó en la casa. Aquel año fue denominado como “el año sin verano”. La causa era la enorme erupción de Tambora, un volcán en Polinesia que había ensombrecido el cielo con sus emisiones. Las cosechas lo pagaron caro en toda Europa y esta crisis relevó a la reciente guerra napoleónica que ya había tocado su fin. Sin nada más que hacer decidieron dedicarse a escribir historias de terror. Fue productivo para todos pero especialmente para Mary Shelley que creó allí a su criatura. Fue la semilla de su obra maestra que se publicaría dos años después. Shelley había viajado por Europa viendo la pobreza extrema que asolaba Europa, en parte por la guerra, en parte por la crisis climática, en parte por la nueva industria. Esto fue parte de su historia. Guerra, crisis climática y revolución tecnológica. ¿Os suena? Sin duda, dadas sus compañías, estaba sensibilizada con la situación de los luditas y las revueltas del norte. Además del discurso de Byron, la pareja de Mary, Percy, después escribiría un poema titulado La máscara de la anarquía sobre la masacre de Peterloo (una respuesta a las revueltas populares):
¿Qué es la Libertad? -bien podéis decir
Podéis leerlo completo aquí
Que lo mismo es que la esclavitud-
Pues su propio nombre ha crecido tanto
Hasta ser un eco de vosotros mismos.
Es ir al trabajo y tener tal sueldo
Que os mantenga apenas para el día a día
Sobre vuestras piernas, igual que vivir
A merced de tiranos en una prisión.
Vosotros así, os volvéis para ellos
Telares, y arados, y espadas, y palas,
Lo queráis o no, agacháis el lomo
Para su defensa y manutención.
Es a vuestros hijos verlos desnutridos
Mientras que sus madres venga abracadabras,
Cuando tan sombrío el viento en invierno,-
Ellos van muriendo, mientras voy hablando.
La revolución industrial estaba en una fase muy temprana. Se suele señalar su comienzo a finales de del XVIII -James Watt patentaba su máquina de vapor en en 1769- aunque sus efectos fueron ya más claros a partir de 1830. Así que en el momento en que Mary Shelley esbozaba su historia aún ni siquiera tenía un nombre la etapa histórica que estaba viviendo. Pero como parece claro, ella estaba muy al corriente del efecto disruptor que estaba suponiendo la tecnología y de la muerte y sufrimiento que estaban provocando. También conocía algunos experimentos de la época relacionados con electricidad y sus efectos biológicos. En 1814, dos años antes de la génesis de la idea de Frankenstein, podemos leer esta entrada en su diario:
MIÉRCOLES 28 DE DICIEMBRE. Shelley y Clara fuera toda la mañana. Leí La Revolución Francesa por la noche. Shelley y yo vamos a Gray’s Inn para buscar a Hogg; no está allí; vamos a Arundel Street; no podemos encontrarlo. Asistimos a la conferencia de Garnerin sobre electricidad, los gases y la fantasmagoría; regresamos a las nueve y media. Shelley se queda dormido. Leí La Vista de la Revolución Francesa hasta las doce; me fui a la cama.
El tal Garnerin era André-Jacques Garnerin, un aeronauta que daría para otra historia. Fue el primero en saltar en paracaídas, en 1797. Pero lo que nos importa ahora es que cuando los Shelley fueron a ver su espectáculo, este trataba sobre electricidad. Fantasmagoría era un tipo de espectáculo de efectos ópticos y linterna mágica muy habitual en la época que, junto con la electricidad, estoy seguro de que excitaría la imaginación de nuestra escritora. En junio del año siguiente el espectáculo tenía una temática mucho más específica: el experimento de la resurrección de Johanna Southcott, unido a “experimentos de electricidad”. Más información aquí. No sabemos si esta vez estaba presente Mary Shelley, hacía pocos meses que había tenido un embarazo prematuro y había perdido al bebé. El espectáculo de Garnerin lo había visto embarazada. ¿Estaría interesada en ver un espectáculo sobre resurrección a través de la electricidad? En su novela no es demasiado explícita con el sistema con el que la criatura cobra vida aunque sí menciona los experimentos eléctricos de galvanismo. Las películas en ese sentido han sido más específicas que la novela.
Shelley en la novela habla de la figura que acecha, una idea cercana a la imagen de la muerte. La primera aparición de la criatura es de pesadilla, en el dormitorio de Victor Frankenstein, observándole mientras duerme, como si fuera la figura de la muerte que le visita. La novela habla de cómo puede desgarrar a una familia; algo que también se apoyaba en la dura realidad de la escritora. Y por supuesto, sobre crear vida, que para ella había sido doloroso. Es interesante pensar que la motivación emocional de Alan Turing para sus trabajos en máquinas también estaba marcada por la muerte de un ser querido. Todo esto da para hablar largo y tendido, pero volviendo a lo que nos ocupa, las interpretaciones sobre la situación social provocada por la revolución industrial pueden ser distintas.
En el capítulo 12 de Frankenstein, la criatura espía a una familia y observa que no son felices. Les observa y termina entendiendo que esta infelicidad se debe a su pobreza. Él mismo se da cuenta de que ha contribuido a ello al robarles comida para alimentarse furtivamente y se siente culpable. Para corregir su error empieza a ayudarles recogiendo leña en secreto y dejándola en la puerta. Aquí tenemos varias claves del efecto de la irrupción tecnológica. La criatura es una creación de la ciencia y el primer efecto que tiene es el de agravar -involuntariamente- la pobreza de los trabajadores, robándoles literalmente el pan. Aunque después lo soluciona automatizando un trabajo pesado y mecánico como es el de recoger leña. La tecnología como amenaza y como oportunidad, dependiendo de a quién beneficia su ejecución. Finalmente es descubierto y su horrible imagen hace que la familia lo rechace. Expulsado del paraíso, una vez más. Por más que esta tecnología pueda ser beneficiosa, los aldeanos no quieren saber de ella. Esto los emparenta con los luditas que después de su pésimo contacto con una tecnología que les condenaba a la miseria, era imposible que la pudieran ver con buenos ojos. Hay culpa en el desarrollo tecnológico y también hay una oportunidad para el beneficio colectivo cuando se toma conciencia de las necesidades de los trabajadores.
Por supuesto que todo esto no es nada explícito, al contrario que Percy y Byron, que lanzan proclamas muy claras. La historia de Mary es fantasía, es terror, es ciencia ficción, y la lectura social está en el fondo, mezclada con otras cuestiones, de forma metafórica. Al no ser tan clara, se puede entender de varias maneras. Por ejemplo, también es una lectura habitual relacionar a la criatura con el propio movimiento ludita. Una manera de entender la historia es que la criatura no es la tecnología sino la reacción a ella. De hecho, está obsesionada con vengarse de su creador, es decir, de atacar a un uso inapropiado de la ciencia. Una venganza rodeada de sangre y propiciada por el injusto sufrimiento, como las revueltas de los luditas. Franco Moretti, el teórico literario, relaciona a la criatura con la reciente aparición del proletariado:
El Monstruo, como el proletariado, es una criatura colectiva y artificial… En el monstruo se reunieron y revivieron los miembros de aquellos – los «pobres» – a quienes la ruptura de las relaciones feudales ha obligado a caer en la bandolerismo, la pobreza y la muerte… Entre Frankenstein y el monstruo hay una relación ambivalente y dialéctica, igual que la que, según Marx, conecta el capital con el trabajo asalariado.
Signs Taken For Wonders. Franco Moretti.
Las piezas están ahí para que cada uno las una como quiera, pero Frankenstein es, en cualquier caso, una crítica a la ciencia sin ética. El origen de la figura del mad doctor. El científico que está dispuesto a cualquier cosa que le ayude en su investigación. Alguien que no tiene tiempo para consideraciones morales porque ante todo quiere seguir avanzando. Que solo se plantea si puede, no si debe. Quizá ahora es el papel de Sam Altman, el CEO de OpenAI, a quien todos esos firmantes le están pidiendo que pare 6 meses para intentar controlar a la criatura antes de que sea demasiado tarde. Pero no va a plantearse si para o no porque esta en otro dilema mucho más gratificante, si puede o no puede conseguir sus éxitos científicos. Y parece que está pudiendo.