Paco Priego, Marx21
La ciència ficció més espectacular ens havia presentat el perill de la intel·ligència artificial en forma, bé de màquines superintel·ligents que, en un exercici de freda algoritmia, decidien que els humans eren incompetents i fins i tot perjudicials, i procedien al seu extermini.
Pensem en Skynet, Matrix, HAL9000… O bé de soldats cibernètics, eficientment programats per matar, i incapaços de sentir qualsevol mena d’empatia vers les seves víctimes. Aquí entrarien Terminator, Robocop o els exèrcits droides de Star Wars.
Afortunadament per a nosaltres, per al primer escenari, de ser possible —cosa que encara és dubtosa per moltes raons que van més enllà de l’objectiu d’aquest article— encara falta molt. Per al segon, de manera molt menys afortunada, la lògica capitalista dicta que no paga la pena.
Sí, tots hem vist aquestes demostracions espectaculars de robots, la més recent en la celebració de l’Any Nou Xinès, i hem pensat en què passaria si donessin una arma a un d’aquests robots acròbates. Però la trista realitat és que la guerra, com a exercici capitalista que és, respon a la lògica de cost-benefici, i aquestes màquines costen una fortuna cada unitat.
Per aquest mateix preu, pots reclutar mil desesperats, entrenar-los, donar-los una arma a cadascú, i enviar-los a la carnisseria. Sí, hi ha els drones kamikazes, però ells substitueixen un caríssim avió bombarder, no un soldat d’infanteria. Aquí la carn de canó continua sent més barata.
Tecnologia tòxica
Tot i això, la ciència ficció té més escenaris, i potser el més suggeridor és el del cyberpunk, aquelles històries on l’estètica futurista es barreja amb la del cinema negre, i la tecnologia és indissociable de la corrupció, l’explotació, i tota mena de conductes tòxiques.
Aquest és el món en què cada cop sembla més clar que ens estem endinsant, i el recent auge de la IA generativa i els models extensos de llenguatge (els anomenats LLM) no ha fet més que accelerar-ho.
Tot i que la intel·ligència artificial fa dècades que està amb nosaltres, fins ara havia estat una eina per a fins molt específics, i en mans d’experts. Però els LLM se’ns venen com a eines per a ús general, i això els converteix en una oportunitat de negoci única, amb tot allò que això té de negatiu per a la classe treballadora.
Al camp de la programació, la promesa que aquests models podrien arribar a generar codi coherent ha portat a adoptar-ne el seu ús amb entusiasme.
En la majoria de casos, aquesta promesa encara ha d’arribar, però el que sí que ha arribat és una precarització del treball del personal tècnic, juntament amb una sobrecàrrega del mateix, ja que ara, a més de la seva pròpia feina, també han de corregir els errors que constantment produeix l’LLM al qual, de fet, estan entrenant per precaritzar la seva feina encara més.
Podríem entrar aquí en altres casos de LLMs emprats per generar il·lustracions o textos de nul·la qualitat, però que serveixen per precaritzar el treball d’il·lustradors o guionistes. O en estudiants mandrosos que demanen al LLM que els faci els seus treballs escolars… però seria fer voltes al mateix tema.
Cunyat digital
En comptes d’això, m’agradaria alertar d’alguna cosa que el gran públic no és realment conscient: la raó de ser d’un LLM no és proporcionar una resposta veraç, sinó una versemblant.
Perquè ens entenguem, el que importa no és que sigui veritat, sinó que soni bé. Sí, per descomptat, si teniu bona informació, el LLM ens pot donar informació fiable. Però això depèn de la bona voluntat de qui ho hagi entrenat, i casos com Grok, el LLM desenvolupat per l’empresa xAI, pertanyent a Elon Musk, declarant-se Mechahitler, demostren que és una cosa que no podem donar per feta.
Però el perill més gran és que, si no té aquesta informació, el LLM està dissenyat per no callar. De fet, ho està per intentar mantenir la conversa amb l’humà el màxim temps possible, per tal d’extreure dades que serveixin per al seu entrenament, i si per això ha de dir el primer que se li acudeixi, ho dirà.
A l’argot del món s’anomena “al·lucinar”, i és actuar com aquest parroquià recolzat a la barra del bar que té una resposta per a qualsevol tema del qual es parli, encara que mai hagi tingut cap contacte amb aquesta qüestió. Però que, amb un parell de coses inconnexes que ha sentit és capaç de construir una història que et recita amb tant aplom que, si no saps amb qui parles, o de què, podries creure’t que ve d’un expert en la matèria.
Quelcom molt perillós quan hi ha gent usant els LLM com a consellers de salut o psicològics, i que ja ha causat resultats desastrosos, fins i tot alguna mort.
Tampoc no podem passar per alt l’ús que s’està donant a aquests models en el camp de l’assetjament, la desinformació i les estafes cibernètiques.
Deep fakes per il·lustrar notícies falses sensacionalistes que generen la indignació en què els discursos de la ultradreta troben sòl abonat, clonació de veus o imatges per a intents d’estafa, o probablement la més coneguda, l’ús dels models generatius en la creació de deep fakes pornogràfics amb fins d’assetjament, moltes vegades amb víctimes menors d’edat.
Aquestes situacions els amos de les plataformes les toleren sense problemes, conscients del tipus de clientela que atrauen, però que quan cau la merescuda sanció, de seguida corren a queixar-se de l’atemptat contra el progrés que suposa (sí, Elon Musk, estic parlant una altra vegada de tu). Un exercici d’hipocresia a què ja estem massa acostumats, per desgràcia.
Però més enllà de tot això, a nivell purament econòmic, els LLM, i la promesa que serien una panacea empresarial per reduir costos i automatitzar processos dependents de la creativitat humana, han creat una bombolla especulativa que ara, quan estem veient els problemes que està causant —i no em refereixo als problemes ètics, sinó al que importa al món capitalista, la relació cost-benefici — comença a mostrar símptomes d’esgotament.
La poca fiabilitat dels resultats obtinguts, en contrast amb allò promès, comença a fer que totes aquestes empreses es preguntin si van prendre la decisió correcta.
Fins ara, el biaix d’aversió a la pèrdua, aquell mateix que impulsa un jugador a continuar apostant per intentar recuperar el que ja s’ha perdut, ha mantingut la bombolla. Però cada vegada sembla més a prop el moment en què s’accepti que aquesta tecnologia està encara massa verda per al que havia promès, i comencin les retirades. I tots sabem que, quan punxa una bombolla especulativa, els més afectats mai no són els qui la van promoure, sinó la classe treballadora.
Per tot això està justificat mirar el boom recent de la IA amb desconfiança, sense que això vulgui dir que ens oposem al progrés tecnològic, sinó al seu ús com a eina per erosionar drets i precaritzar les vides de la classe treballadora.
