PLAYZ
GEN Z TOPIC

Sombras en el Paraíso. Algunos trazos sobre la IA y sus riesgos

GONZALO PERNAS
4 min.

Todo el mundo habla de ello ahora. Mucha gente utiliza filtros pictorialistas y se multiplican los creadores de contenidos DALL-E; un sistema que genera él mismo imágenes a partir de descripciones textuales. También se pueden producir retratos de gente inexistente o dotar de expresión a los de personas de largo muertas, para fascinación de tecnófilos y transhumanistas e inquietud de quienes vemos en todo esto algo metacientífico y fantasmagórico; algo que de hecho está más allá y que recuerda a un clásico de la ciencia-ficción como Solaris (Stanislav Lem, 1961), que Tarkovsky filmó, o posteriores sucedáneos cinematográficos tipo La esfera (Barry Levinson, 1998). La principal diferencia entre estas nuevas tecnologías de inteligencia artificial y las dos referencias que acabamos de citar, es que en el primer caso algo crea cosas autónomamente, y en el segundo, ese algo está fuera de control.

Sería tranquilizador que la IA tuviese realmente un lado perverso, como se llega a leer en alguna parte, pero el melón que necesitamos ir abriendo es que no tiene ningún lado: no hay nada moral en este ente abstracto y aparentemente fragmentario que empieza a imaginar lo que se le dice que imagine. Lo que nos es conocido empieza a volverse extraño, las posibilidades de las recombinaciones deslumbran a los usuarios de redes y ponen en guardia a los críticos políticos, preocupados por si su impacto -palabra compleja- podría debilitar la democracia o generar más desigualdad, entre otras sospechas más que fundadas. En todo caso, no son temas que se estén contemplando aquí, teniendo en cuenta que nos estamos fijando más en la eventualidad de un accidente metafísico de consecuencias siniestras; siniestras, valga la reiteración, en el sentido freudiano de unheimlich, que podría definirse como algo familiar que podría volverse irreconocible y, por tanto, inquietante.

No es nada esencialmente nuevo, tratándose más bien de un punto de inflexión históricamente profetizable. En La ballena y el reactor (Langdon Winner, 1986), un título con no demasiadas alusiones directas a la IA pero que constituye una investigación esencial de la cuestión tecnocientífica, leemos, sobre las expectativas generadas por aquella, que “los niños y las niñas siempre han tenido la fantasía de que sus muñecas estaban vivas y hablaban”. A continuación, comenta que “la visión de las tecnologías como formas de vida” aparece ya en Marx y Engels, contextualizada en su comprensión materialista de las sociedades. Y parece tener sentido que la producción técnica de entes capaces de crear por sí mismos sea una especie de trascendencia alternativa. El hombre estaría descubriendo cómo generar y explotar a sus propios daimones, llenando todo de dioses, como si aquellos a los que se refiriera Tales de Mileto no hubiesen existido nunca.

El discurso entusiasta en torno a los sistemas que piensan y actúan suele hablar, positiva y desacomplejadamente, de lo ilimitado de sus posibilidades. Los contenidos divulgativos que los lobbies energéticos y tecnológicos van subiendo a sus plataformas empiezan a manejar un lenguaje neorreligioso y desconcertante, refiriéndose vagamente a algunos retos: solo algunas precauciones para que todo vaya bien en la Nueva Jerusalén robotizada, y que en el fondo es una versión buenista y sibilina del porvenir soñado por Marinetti en el Manifiesto futurista (1909), con todo ese impulso violento que desembocó en el fascismo. Desde luego, un poder más desmesurado de los gobiernos y las corporaciones vía IA no solo es factible, sino que son tantos los indicios y tal la evidencia histórica que se puede dar por garantizado. Así y todo, hay zonas todavía más oscuras en el paraíso cibernético, solo que tan adentradas en territorio desconocido que no son muchas las cábalas que se pueden hacer, al menos, de momento.

A veces hay que escuchar a locos como Blake Lemoine, técnico de Google despedido por sostener que la inteligencia artificial siente, lo que la dotaría de la capacidad de rebelarse contra el padre; contra el ser humano devenido en demiurgo; contra el nigromante superado por sus propias operaciones fáusticas. Arthur C. Clarke, autor de 2001: Una odisea espacial (1968), vio claro que la tecnociencia no es sino una magia altamente desarrollada, y la magia siempre ha sido y será tan oscura como luminosa; tan potencialmente emancipadora como peligrosa para el hombre que ha matado a la deidad apriorística. A fin de cuentas, el übermensch nietzschiano es tan vulnerable como los humanos que desarrollaron los primeros lenguajes a la luz del fuego que acababan de aprender a utilizar a voluntad, entre las sombras alargadas de cavernas húmedas e incómodas. Quizá incluso más, o quizá no, pero no ponderar los riesgos que esta anunciada revolución de la Tekné implica, nos pone, a pecho descubierto, en el camino de un desastre literalmente inconcebible, a no ser que nos tomemos en serio los mundos de filmes como Matrix, que no fechamos dada su popularidad y cantidad de secuelas. Simplemente podría suceder.

Noticias

Televisión

Radio

Deportes

Infantil

A la Carta

Playz