Paco Priego, Marx21
La ciencia ficción más espectacular nos había presentado el peligro de la inteligencia artificial en forma, bien de máquinas superinteligentes que, en un ejercicio de fría algoritmia, decidían que los humanos eran incompetentes y hasta dañinos, y procedían a su exterminio.
Pensemos en Skynet, Matrix, HAL9000… O bien de soldados cibernéticos, eficientemente programados para matar, e incapaces de sentir cualquier tipo de empatía hacia sus víctimas. Aquí entrarían Terminator, Robocop o los ejércitos droides de Star Wars.
Afortunadamente para nosotros, para el primer escenario, de ser posible —cosa que aún es dudosa por muchas razones que van más allá del objetivo de este artículo— aún falta mucho. Para el segundo, de una forma mucho menos afortunada, la lógica capitalista dicta que no merece la pena.
Sí, todos hemos visto esas demostraciones espectaculares de robots, la más reciente en la celebración del Año Nuevo Chino, y hemos pensado en lo que pasaría si le diesen un arma a uno de esos robots acróbatas. Pero la triste realidad es que la guerra, como ejercicio capitalista que es, responde a la lógica de coste-beneficio, y esas máquinas cuestan una fortuna cada unidad.
Por ese mismo precio, puedes reclutar a mil desesperados, entrenarlos, darles un arma a cada uno, y mandarlos a la carnicería. Sí, existen los drones kamikazes, pero ellos substituyen a un carísimo avión bombardero, no a un soldado de infantería. Ahí la carne de cañón sigue siendo más barata.
Tecnología tóxica
Sin embargo, la ciencia ficción tiene más escenarios, y quizá el más sugerente es el del cyberpunk, esas historias donde la estética futurista se mezcla con la del cine negro, y la tecnología es indisociable de la corrupción, la explotación, y toda clase de conductas tóxicas.
Ese es el mundo en que cada vez parece más claro que nos estamos adentrando, y el reciente auge de la IA generativa y los modelos extensos de lenguaje (los llamados LLM) no ha hecho más que acelerarlo.
Aunque la inteligencia artificial lleva décadas con nosotros, hasta ahora había sido una herramienta para fines muy específicos, y en manos de expertos. Pero los LLM se nos venden como herramientas para uso general, y eso los convierte en una oportunidad de negocio única, con todo lo que eso tiene de negativo para la clase trabajadora.
En el campo de la programación, la promesa de que estos modelos podrían llegar a generar código coherente ha llevado a adoptar su uso con entusiasmo.
En la mayoría de casos, esa promesa aún está por llegar, pero lo que sí ha llegado es una precarización del trabajo del personal técnico, junto con una sobrecarga del mismo, ya que ahora, además de su propio trabajo, también han de corregir los errores que constantemente produce el LLM al que, de hecho, están entrenando para precarizar su trabajo aún más.
Podríamos aquí entrar en otros casos de LLMs usados para generar ilustraciones o textos de nula calidad, pero que sirven para precarizar el trabajo de ilustradores o guionistas. O en estudiantes perezosos que le piden al LLM que les haga sus trabajos escolares… pero sería dar vueltas al mismo tema.
Cuñado digital
En vez de eso, me gustaría alertar de algo de lo que el gran público no es consciente realmente: la razón de ser de un LLM no es proporcionar una respuesta veraz, sino una verosímil.
Para que nos entendamos, lo que importa no es que sea verdad, sino que suene bien. Sí, por supuesto, si tiene buena información, el LLM nos puede dar información confiable. Pero esto depende de la buena voluntad de quien lo haya entrenado, y casos como Grok, el LLM desarrollado por la empresa xAI, perteneciente a Elon Musk, declarándose Mechahitler, demuestran que es algo que no podemos dar por hecho.
Pero el peligro mayor es que, si no tiene esta información, el LLM está diseñado para no callarse. De hecho, lo está para intentar mantener la conversación con el humano el máximo tiempo posible, a fin de extraer datos que sirvan para su entrenamiento, y si para eso ha de decir lo primero que se le ocurra, lo dirá.
En la jerga del mundillo se le llama “alucinar”, y es actuar como ese parroquiano recostado en la barra del bar que tiene una respuesta para cualquier tema del que se hable, aunque nunca haya tenido ningún contacto con esa cuestión. Pero que, con un par de cosas inconexas que ha oído es capaz de construir una historia que te recita con tanto aplomo que, si no sabes con quién estás hablando, o de qué, podrías creerte que viene de un experto en la materia.
Algo muy peligroso cuando hay gente usando los LLM como consejeros de salud o psicológicos, y que ya ha causado resultados desastrosos, incluso alguna muerte.
Tampoco podemos pasar por alto el uso que se está dando a estos modelos en el campo del acoso, la desinformación y las estafas cibernéticas.
Deep fakes para ilustrar noticias falsas sensacionalistas que generan la indignación en la que los discursos de la ultraderecha encuentran suelo abonado, clonación de voces o imágenes para intentos de estafa, o la probablemente más conocida, el uso de los modelos generativos en la creación de deep fakes pornográficos con fines de acoso, muchas veces con víctimas menores de edad.
Estas situaciones los dueños de las plataformas las toleran sin problemas, conscientes del tipo de clientela que atraen, pero que cuando cae la merecida sanción, enseguida corren a quejarse del atentado contra el progreso que supone (sí, Elon Musk, estoy hablando otra vez de ti). Un ejercicio de hipocresía al que ya estamos demasiado acostumbrados, por desgracia.
Pero más allá de todo esto, a nivel puramente económico, los LLM, y la promesa de que iban a ser una panacea empresarial para reducir costes y automatizar procesos dependientes de la creatividad humana, han creado una burbuja especulativa que ahora, cuando estamos viendo los problemas que está causando —y no me refiero a los problemas éticos, sino a lo que importa en el mundo capitalista, la relación coste-beneficio—, empieza a mostrar síntomas de agotamiento.
La poca fiabilidad de los resultados obtenidos, en contraste con lo prometido, empieza a hacer que todas esas empresas se pregunten si tomaron la decisión correcta.
Hasta ahora, el sesgo de aversión a la pérdida, ese mismo que impulsa a un jugador a seguir apostando para intentar recuperar lo ya perdido, ha mantenido la burbuja. Pero parece cada vez más cerca el momento en que se acepte que esta tecnología está aún demasiado verde para lo que había prometido, y empiecen las retiradas. Y todos sabemos que, cuando pincha una burbuja especulativa, los más afectados nunca son quienes la promovieron, sino la clase trabajadora.
Por todo ello está justificado mirar al reciente boom de la IA con desconfianza, sin que ello quiera decir que nos opongamos al progreso tecnológico, sino a su uso como herramienta para erosionar derechos y precarizar las vidas de la clase trabajadora.
