La vida Espectral: Pensant l’Era del Metavers i les IA Generatives.

Una anàlisi de l’obra d’Éric Sadin: 

Sadin, Éric. La vida espectral: pensar la era del metaverso y las inteligencias artificiales generativas. Caja Negra, 2024.

PRIMERA PART - LA TRINITAT FRACTAL: TECNOLOGIA/COS/SOCIETAT

Éric Sadin ens convida a reflexionar en aquesta obra sobre la temporalitat del present que està arribant. Per a l’autor, aquest present és un present envoltat de fantasmes, de presències que ens indiquen el camí correcte a seguir. L’home postcovid ha adoptat sense cap crítica la irrupció de les IA Generatives. És molt important, com deia Walter Benjamin, donar fisonomia a les dates per entendre els esdeveniments històrics.

El pensador francès, fent al·lusió a Mark Zuckerberg, critica l’afirmació que feia als mitjans de comunicació “soy muy entusiasta de lo que viene, porque hoy vamos allá de lo que es posible” (Sadin 2024, 19). Aquesta visió profètica d’una de les tecnològiques més importants del món anticipa l’inici de la quarta era de la història de les tecnologies digitals.

Després d’haver reconstruït la genealogia del nostre present, digitalment parlant, Sadin ens planteja una època de “panteisme digital”, on la humanitat viu aquesta il·lusió digital com a una nova versió de la caverna platònica. Ara, però, els personatges són totalment sintètics. Un exemple d’aquest fet seria:

La computadora cuántica —objeto de investigaciones intensivas desde inicios de los años 2000- no hará sino acentuar estre proceso, para liberarnos de las coacciones físicas euclidianas y sumergirnos en una atmósfera que termine por hacernos confundir a cada instante deseo y realidad”. (Sadin 2024, 23)

A partir de l’economia de les dades i de les plataformes es va produir una nova versió del capitalisme, una transmutació cap a un sistema on el més important era realitzar una “radiografía algorítmica de nuestra alma [...] que nos propone saciar mediante un clic todas nuestras aspiraciones”. (Sadin 2024, 24)

A la primera part de l’obra titulada la trinitat fractal, Sadin fa una anàlisi de la relació entre la tecnologia, el cos i la societat. En aquesta part, l’autor francès analitza la interconnexió del poder polític davant de la tecnologia i la ciutadania. Ja no podem parlar d’una biopolítica a l’estil foucaultià ni a una “societat de control” com va teoritzar Deleuze. Avui estem en un tipus de societat que:

no apunta tanto al control en el sentido en el que se manifiesta una voluntad de dominar ciertas situaciones sinó del análisis de los movimientos de los cuerpos y las cosas a fin de que estos sigan moviéndose, pero esta vez alienados según objetivos organizacionales o finalidades lucrativas. (Sadin 2024, 64-65)

Aquest fet va ser possible, no mitjançant el sistema liberal modern,  sinó a partir del coneixement del neoliberalisme als anys vuitanta amb l’aparició del dispositiu alienador de la pantalla. El dispositiu que permetia a l’opinió pública somiar desperts. El mecanisme de la televisió feia que “su uso dependa de elecciones previamente realizadas por otros que llegan desde fuera para imponerse a nuestra visión”. (Sadin 2024, 68)

Com podem evidenciar, la televisió serà el dispositiu alienant de les conductes per sotmetre a la ciutadania al control dels poders polítics. La televisió realitza el mecanisme de control de les masses a través de visionats que no requereixin grans esforços cognitius. El control de les ments i dels cossos pel poder polític s’havia realitzat.

Seguidament, el poder de control televisiu es trasllada a un altre tipus de pantalla. Arribem, afirma Sadin, a la democratització de les computadores. L’existència humana s’alleuja amb els “píxels ardents”. En una primera fase, aquests dispositius apareixen en les empreses convertint l’empleat en:

un agente de un programa (en el doble sentido del término: programa informático y programa establecido por una entidad) [...] el operador se convierte en la prolongación, a veces no consciente, de una racionalidad vehiculizada por una interfaz y por otras intenciones. (Sadin 2024, 72)

Una de les conseqüències d’aquesta nova pixelització de l’existència en l’àmbit laboral serà la mobilització total de la nostra atenció impedint-nos focalitzar la mirada en altres punts que no siguin els de la pantalla. Aquest fet té, a més, una altra característica. S’instaura el que Sadin anomena “humanitat asseguda”. La nova ordenació dels cossos. Paul Virilio, en sintonia amb Sadin, ja ho va esmentar afirmant que “la humanidad urbanizada se convierte en humanidad sentada”. (Sadin 2024, 73)

Arribem ara a la segona meitat del segle XX. Aquesta etapa es caracteritza, segons el filòsof francès, en l’establiment de les computadores en l’àmbit domèstic. El PC (Personal Computer) serà una altra estratègia del sistema neoliberal a la segona fase històrica de la informàtica. En aquesta fase s’imposa la “dictadura retinal” contra els altres sentits.

En els inicis del nou mil·lenni es produeix un salt revolucionari per l’aparició i la generalització d’Internet —dispositiu primigèniament creat per a l’ús militar— i s’instaura en totes les llars per facilitar l’accés immediat a arxius massius d’informació de tota mena. Aquestes dades de diversa índole generaran un nou “ethos”. Quines característiques va tenir, segons Sadin? La principal característica és que “sentó a la humanidad y atrofió nuestras facultades sensibles, con la finalidad principal de estimular la optimización y las ganancias”. (Sadin 2024, 75)

Aquest moment assenta les bases del “Metavers” i de les nostres existències mitjançant aquests “espectres digitals”, cada vegada més omniscients fins a esdevenir més endavant oracles amb la capacitat d’escriure i parlar.

Posteriorment, apareix la interfície tàctil, mecanisme dissenyat per facilitar cada vegada més el control de l’usuari. Un dispositiu que acompanya dia rere dia a través d’una simple acaricia:

Dos cuerpos distintos que, sin hacer uno, ven que sus energías se encuentran y colisionan: flujos eléctricos, computacionales, informacionales de instrumento; flujos cerebrales, emocionales, sudoríporos del organismo. (Sadin 2024, 79)

La irrupció de l’smartphone inaugura l’era del Metavers, segons Sadin. Un entorn immersiu que va possibilitar mobilitzar-nos sense descans en una “vampirització” de l’existència que:

no deja de alimentarse de la sangre de otro vampiro —pero de envergadura totalmente distinta —que nos irriga con su propia sangre para vampirizar mejor la nuestra. Ambos procesos vitales constituyen el motor de un Capitalismo de la devoración”. (Sadin 2024,80)

El període de confinament va possibilitar aquesta situació amb una relació contínua amb aquests dispositius digitals, defensa Sadin, afavorint l’enriquiment econòmic de les grans tecnològiques. En aquesta situació va aparèixer “el capitalismo —hematológico— de la fijación de los cuerpos”. (Sadin 2024, 82), característica fonamental de la nostra època que converteix l’ethos tecnològic en un desenvolupament constant del capitalisme de les dades i de la IA Generativa.

SEGONA PART - LA REFABRICACIÓ DEL REAL

A la segona part de l’obra Sadin analitza la refabricació del “real”. S’introdueix el que anomena l’autor l’aparició de la IA i la defineix com un “milagro extraordinario que para designarlo fue preciso recurrir a un oxímoron: Inteligencia artificial”. (Sadin 2024, 100). El capitalisme “hematològic” que ha esdevingut ha culminat en una societat governada, a partir dels atemptats de l’11 S, però no és com afirma Shoshana Zuboff, un “capitalisme de la vigilància”, sinó un:

monitoreo robotizado de los flujos de la vida, que se opera crecientemente en tiempo real. La inmersión pixelada, los sistemas cada vez más omniscientes, la IA generativas hacen hoy que el desafío no consista en articularnos lo mejor posible con lo real, sino en modelarlo [...] de manera tal que le insuflemos otras trayectorias para terminar superponiéndole otro real”. (Sadin 2024, 104)

La IA no és com pensava Baudrillard, un dispositiu de “simulació”, sinó un dispositiu de “refabricació” del real. En aquest sentit, per a Sadin, és un surrealisme que “obstenta un control absoluto a largo plazo operado sobre la trayectoria que debe tomar todo ser o toda cosa y garantizado por un compuesto tecnológico que está en proceso de someterlo todo a su filosofía”. (Sadin 2024, 108)

Sadin fa referència a Kant, concretament a l’obra Què és la Il·lustració?, per exemplificar la noció d’“aletheia” algorítmica que promulguen les IA Generatives. Aquesta veritat, basada en dades, es presenta com a objectiva i incita a l’acció, marginant el judici humà. Contràriament, Kant va defensar que el lema de la Il·lustració era sortir de la minoria d’edat de l’ésser humà i, per tant, pensar per un mateix i no posar-se en mans d’altres ments que pensin per ells o promulguin veritats escrites per conduir la vida pròpia. Kant ho il·lustra molt bé en aquesta citació, segons Sadin:

Es tan cómodo ser menor de edad. Basta con tener un libro que supla mi entendimiento, alguien que vele por mi alma y haga las veces de mi conciencia moral, a un médico que me prescriba la dieta, etc., para que yo tenga que tomarme tales molestias. No me hace falta pensar, siempre puede pagar; otros asumirán por mi tan engorrosa tarea. (Sadin 2024, 120)

Kant, amb aquesta citació que hem exemplificat, és més actual que mai davant de l’onada que vindrà (Suleyman and Bhaskar 2024) i que ja estem sofrint. Per exemple, l’impacte de les IA Generatives en el subjecte educatiu del segle XXI s’està trobant amb aquesta submissió descontrolada de delegació cognitiva i de reducció del pensament crític. L’alumnat desproveït cada vegada més de les capacitats pròpies de l’ésser humà aposta per l’escrit necrosat i descontextualitzat. Cada vegada més, viu confinat en una “jaula de píxeles poblada de fantasmas”. (Sadin 2024, 122). Serà, per tant, millor fugir d’aquest infern del real.

A continuació, en aquesta segona part de l’obra, l’autor francès aprofundeix en el gir generatiu de la IA. Aquest gir obeeix a un “gir comminatori”:

asumido por nuestras realidades [que] depende cada vez más de masas colosales de cálculos, algoritmos, programas, de sistemas dispersos dotados de una potencia operativa propia para responder a una infinidad de objetivos  circunscritos. (Sadin 2024, 129)

L’aparició de la IA Generativa, és la utilització de l’“instrumentalisme” (prompts) que els donem a les màquines perquè generin el que volem. Sadin, ens mostra que la lògica algorítmica ens fa creure que nosaltres decidim quan en realitat no és així. Aquests processadors només tenen com a objectiu modificar els comportaments i seria el cas de ChatGPT:

¿Quién puede creer que ChatGPT o cualquier sistema análogo, esté hecho únicamente para entregarnos textos desprovistos de toda intención? Esta estructura ya está hecha hoy con Bing o Bard, los agentes conversacionales y motores de busqueda de Microsoft y Google respectivamente, que redactan contenidos en función de nuestros pedidos y nos incitan, aunque sin parecer hacerlo, a tomar decisiones acorde con los intereses de las diferentes empresas que sean mencionadas (aquellas que hayan pagado un alto precio por el hecho de aparecer en los documentos generados). (Sadin 2024, 130-131)

Aquesta època serà, segons l’autor, l’època del “promptisme generalitzat”. I aquestes píties artificials decidiran per nosaltres i capgiraran el sistema empresarial, creatiu i cognitiu com mai no s’ha conegut en la història de la humanitat. Pel que fa a l’impacte que generarà aquest fet  en les psiques individuals, Sadin manifesta el següent:

¿Podemos imaginar los efectos en las psyqués individuales  y colectivas de estar en la posición de esperarlo todo —como si estuviéramos tirados en nuestro sofá- de sistemas con aspecto de mayordomos infinitamente superiores a nosotros? (Sadin 2024, 132)

Com podem veure, els efectes no seran tan positius com defensen els gurús de Silicon Valley. I no només els efectes cognitius tindran repercussions pel que fa al text i a la paraula. La imatge real és substituïda com una “estética del Avatar—, [y] se puede considerar a este régimen de la imagen la vanguardia de una representación que pronto será dominante: la que, viene a abandonar lo real”. (Sadin 2024, 134). 

La imatge, afirma el pensador francès, és el resultat de pensaments, somnis, en definitiva, d’un context experiencial i no el resultat d’instruccions maquinals. Per tant, aquest “gir comminatori”, on les tecnologies passen d’oferir assistència a donar ordres o incitacions directes, erosionen la capacitat humana de la decisió autònoma i atrofien les habilitats d’elaboració, esforç i aprenentatge. La “vida espectral” és una vida desencarnada on es deleguen facultats humanes essencials, com el llenguatge i la creació a la IA. Aquest fet produeix, segons Sadin, una desubjectivació i un empobriment de l’experiència humana autèntica.

 

TERCERA PART - L’ALTRE FANTASMA

A la tercera part de l’obra, Sadin analitza les relacions intersubjectives i posa l’exemple metafòric sobre l’economia de les relacions davant de la proliferació de la creació massiva dels Starbucks als anys 2000:

Proliferaron por todo el planeta mostrándonos cómo los cafés, como lugares históricos de sociabilidad —los de Rousseau, Diderot, Voltaire, los de Las Luces de París o los de Viena a principios del siglo XX, considerados en su momento como lugares de intercambio, encuentro y controversia—, se transforman en un entorno estandarizado. (Sadin 2024, 155)

Aquests entorns evoquen en la nostra època les escenes d’Edward Hopper com, per exemple, en les obres Nighthaws (1942) i l’Autòmat (1927). Aquestes obres són avui dia de gran actualitat en les nostres vides espectrals i pixelades perquè mostren escenes com la solitud, l’alienació urbana, la introspecció silenciosa i la deshumanització de les relacions socials davant de l’eficiència freda de la modernitat en l’època en què foren creades. I aquesta relació amb l’altre de la nostra època:

Produce un distanciamiento instituido del otro. En otras palabras, una forma pérfida de separación entre los seres consagrada a ser cada vez más persistente, una separación que sólo sirve para incrementar lo que ya funciona desde el advenimiento de las sociedades hipermodernas a principios de la década de 1980. (Sadin 2024, 160)

L’individu realitza una metamorfosi en l’era digital. Esdevé un ésser humà paradoxal. Se sent omnipotent i autoafirmat, però és profundament impotent davant de les crisis sistèmiques. Aquest individu, sovint ferit i ressentit, menysprearà el diàleg i contribuirà a la fragmentació del món comú. No serà, afirmarà Sadin, un “olvido del ser, según la pomposa terminología metafísica de Martin Heidegger, sino un olvido del otro o, más exactamente, un olvido o una negación de los deberes ante el otro”. (Sadin 2024, 163)

QUARTA PART - EL PROCÉS DE DESUBJECTIVACIÓ

A l’última part de l’obra, Sadin planteja formes de resistència davant d’aquest “tecnoliberalisme espectral”. Per a l’autor, aquestes tecnologies tenen com a funció anul·lar-nos pel “totalitarisme de suggeriments” i afeblir la nostra autonomia. Perdem, per tant, la capacitat de dubtar i decidir. Assolir una existència autèntica és converteix en una obligació davant d’aquesta “subjectivitat desvitalitzada” (Sadin 2024, 186).

Si no lluitem amb l’impacte que ha creat en nosaltres les IA Generatives ens arrisquem a “esdevenir vegetal”, és a dir, perdre la vitalitat i la condició humana per una:

industrialización de la pereza o un gigantesco mercado en el devenir del promptismo están llamados, a largo plazo, a volverse dominantes. Todo ello, bajo la apariencia de lo cool, explica el entusiasmo de las multitudes -muy imbéciles- que aceptan, con alegría, su imbecilidad programada. (Sadin 2024, 194)

Davant d’aquesta diagnosi, argumenta Sadin, tenim el deure de “fer secessió”, és a dir, no proposa una fugida, sinó una “política del nosaltres mateixos”. La secessió serà l’acte col·lectiu per apropiar-se de la capacitat d’acció i defensar principis com la dignitat i l’autonomia. Haurem de fer pressió institucional perquè els poders públics reintrodueixin i defensin activament principis com el bé comú i la sobirania enfront de la lògica tecnoliberal a partir d’una “democràcia molecular”, una alternativa estreta d’autors com Guilles Deleuze i Félix Guattari, plural i descentralitzada que reconfiguri les formes d’agència col·lectiva en tots els àmbits socials. Per exemple, els llocs de treball, les escoles i la vida quotidiana.

EPÍLEG

L’obra finalitza amb un epíleg  per sortir d’aquest “antihumanisme radical” que redueix a la persona a un conjunt de dades, a una existència cada cop més instrumentalitzada, menys reflexiva i que ofèn a la seva dignitat, amb la següent consigna:

Contra lo espectral, celebremos nuestra plena presencia en el mundo y la riqueza de lo sensible; contra la normatividad algorítmica que no deja de triunfar, celebremos el uso de nuestras propias luces y nuestras capacidades activas, y defendamos nuestro derecho —dentro del respeto inalienable de la pluralidad humana— a decidir libremente el curso de nuestros destinos individuales y colectivos; contra la generación artificial de un lenguaje y unos símbolos habitados por la muerte, celebremos, bajo infinidad de formas, la oleada de creatividad que debe impulsarnos cada día. (Sadin 2024, 236) 

Per concloure aquesta anàlisi, m’agradaria posar de manifest que La vida espectral és una contribució rellevant a qualsevol lector interessat en el canvi de paradigma en què s’enfronta la humanitat. Un canvi tan radical com la invenció del foc a la prehistòria. Espero que la seva lectura els resulti interessant i estimulant.

REFERÈNCIES

Sadin, Éric. 2024. La vida espectral: pensar la era del metaverso y las inteligencias artificiales generativas. Translated by Margarita Martínez. N.p.: Caja Negra.

Suleyman, Mustafa, and Michael Bhaskar. 2024. LA OLA QUE VIENE/ THE COMING WAVE. N.p.: Prh Grupo Editorial.

El paper de la intel·ligència artificial en l'escriptura humana

 

1. Introducció

Avui dia hem entrat en un nou canvi de paradigma. La nostra cosmovisió del món, des de l'any 2020 i la pandèmia del virus de la COVID-19, han capgirat les nostres vides. La brúixola científica cartesiana que portava el bàcul del coneixement s’ha vist sacsejada per l’adveniment de les intel·ligències artificials generatives. Mentre la població vivia una vida des de la pantalla del seu ordinador s’estaven entrenant màquines que emmagatzemàvem totes les dades humanes fins a les produïdes pel confinament. Hi ha, fins i tot, veus que expliquen la situació produïda com un experiment social per realitzar una nova revolució científic-tecnològica que no s’hauria produït tan ràpidament sense el catalitzador del virus. La nova normalitat no va produir-se com esperaven. Ja no hem tornat a viure de la mateixa manera.

En el procés d’hominització les revolucions tecnològiques  precedents havien induït canvis significatius en el subjecte humà. Ara la qüestió central que volem abordar és fins a quin punt l’efecte de la delegació cognitiva a les màquines ha provocat un nou procés d’hominització. Si és un amplificador de la reflexió i del pensament crític o, ans al contrari, el fet d’externalitzar aquestes capacitats humanes ha empobrit un àmbit propi de l’ésser. Intentar respondre a aquesta qüestió es realitzarà en analitzar l’escriptura humana com a activitat diferenciadora de la resta d’éssers vius.

Amb l’aparició de models com ChatGPT ens trobem en un moment en la història de la lectura i l’escriptura revolucionari i hem de veure quins efectes tindrà en el nou procés d’hominització aquesta nova eina. Potser, pot possibilitar nous modes de pensament per aquesta nova alfabetització en IA. Com afirmarà Alberto Gatti, es pot “desplegar una interacción usuario-chat que no solo permita evaluar los alcances y límites de la herramienta, sino también la reflexión del usuario sobre la efectividad de su promteo.” (Gatti, A. 2024,53).

Aquesta situació de la nova alfabetització digital aborda interrogants seriosos que en aquest article intentarem dilucidar. Per exemple, quina serà l’essència de l’ésser humà com a ésser escriptor en el segle XXI? Quins aspectes s’hi troben compromesos o disminuïts amb aquesta transició per màquines? També, la cognició humana, l’emoció, l’experiència viscuda i la creativitat com mutaran? El sentit ètic d’autor i obra com quedaran compromesos? I, finalment, hi ha algun tipus de resistència humana davant d’aquesta onada que arriba? (Suleyman and Bhaskar 2024) Comencem, doncs.

 

2. L’escriptura humana

L’escriptura humana és un procés amb una alta complexitat pels diversos factors que entren en joc. Podríem dir que és polifònic, multifactorial ja que forma part d’una xarxa de facultats mentals i emocionals pròpies de l’essència de l’humà. L’escriptura per l’ésser humà és quelcom més que un mitjà de comunicació. És la manera de donar-li sentit a una realitat que no comprèn. Gràcies a l’escriptura i al llenguatge, la raó es defineix com a logos al segle V aC. Aquest discurs unifica el desordre i dona sentit al caos. Aflora, per tant, el pensament crític.

L’home accedeix a l’escriptura a partir del llenguatge. En aquest sentit, el mateix Plató al Fedre (Plató, 274c-275b) qüestiona la importància de l’escriptura. Per boca de Sòcrates, considera que el diàleg, la formació interior i la maièutica són superiors. L’escriptura és considerada, pel deixeble de Sòcrates com una tècnica que genera un pseudoconeixement que fa semblar savi a aquell que no ho és. No s’assoleix el veritable coneixement de la realitat. És simplement, una acumulació de dades  sense sentit crític. Fins i tot, a la Carta setena, insisteix que el veritable coneixement no pot assolir-se per escrit (Plató, 341c-d).

L’escriptura no pot copsar el moviment viu del pensament sinó a través de símbols i, nosaltres som hereus d’aquesta tradició. Vam passar del diàleg a convertir-nos en scribae , arxivistes de la veritat  institucionalitzada i historiada, com afirmarà (Derrida, 1997). I així ens hem convertit en  homo escribens. L’homo escribens és el que inicia l’etapa daurada de la humanitat, l’etapa de la història com a nou dispositiu narratiu dels esdeveniments. De l’arkhé de la physis es passa  a l’arkhé de la història i, per tant, l’origen de l’escriptura esdevindrà un començament, per Derrida, en sentit  “físico, histórico u ontológico, es dedir a lo originario, a lo primero, a lo principal, a lo primitivo, o sea, al comienzo. Pero aún más, y antes aún, «archivo» remite al  arkhé en el sentido nomológico, al arkhé del mandato”. (Derrida 1997, 10)

Amb aquesta petita incursió en la genealogia de l’escriptura podem analitzar l’especificitat de l’escriptura humana i el seu caràcter biopsicosocial com esmentaven més amunt. És un acte de l’experiència humana que transcendeix  a la mera codificació lingüística. Podem distingir entre escriptura reproductiva i l’escriptura productiva. La primera fa referència en activitats com la còpia o el dictat i, la segona, respon a l’escriptura de creació i és la que es caracteritza per la composició textual i espontània. Aquesta darrera característica de l’escriptura exigeix tot un procés interconnectat caracteritzat per: la planificació (preescriptura), la transcripció (redacció/esborrany), l’execució motora i la revisió i correcció.

La planificació o preescriptura és la fase inicial i la més complexa. Implica el tema a tractar i l’objectiu que es vol acomplir. La tipologia textual dependrà de quin tipus de lector el llegirà. En aquest sentit, haurem de reflexionar si serà un escrit acadèmic o simplement per a qualsevol classe de lector. L’escriptor no comença inspirat per unes muses que li ajuden a redactar el text sinó que té una sèrie d’idees prèvies que provenen de diverses fonts, lectures prèvies i objectius que vol transmetre. La memòria a llarg termini serà la responsable d’aquest bagatge previ de l’escriptor. Una vegada relacionades aquestes idees prèvies i obtingudes de l’experiència personal o a través d’informació disponible al seu abast, les jerarquitza i planteja una estructura mental que després se li haurà de donar forma en el text. Un cop realitzat el recull d’informació personal i d’altres fonts l’escriptor ha de realitzar lectures en profunditat i reflexives abans de posar cap informació negre sobre blanc. 

El segon procés és el de la transcripció on es materialitza la redacció com a primer esbós del text. Seria la traducció d’aquesta estructura extreta de la informació i idees de l’escriptor al llenguatge escrit. En aquesta fase, el domini de les eines lingüístiques serà prioritari. La construcció sintàctica, la selecció lèxica i la semàntica, juntament amb l’ortografia, possibilitaran la materialització de les idees al text.

En la tercera fase, coneguda com l’execució motora, finalitza el procés de l’escriptura. És el moment en què l’escriptura s’entén com una activitat «encarnada» i «situada». En aquest procés, s’unifica en un tot l’experiència personal, la memòria personal, l’autobiografia, el context sociocultural i els estats afectius en la transformació d’un escrit amb sentit. Aquesta integració és el que diferencia ontològicament l’escriptura humana de l'escriptura algorítmica i habitada per la mort (Sadin 2024, 235) pròpia de les intel·ligències artificials que abordarem en aquest article.

La quarta i última fase és caracteritzada per la de revisió i correcció. Com l’escriptura humana no produeix un text perfecte en el primer intent es requereix llegir i rellegir críticament allò que s’ha escrit. És una fase en què l’escriptor fa una avaluació personal d’aquelles idees que ha volgut transmetre i que definien la primera fase inicial de planificació. Per tant, aquesta fase de revisió adopta la màxima següent: “escriure és reescriure”.

Finalment, arribem a la conclusió que l’escriptura humana és intrínsecament complexa i iterativa. En ella estan implicades múltiples funcions cognitives i motores no d’una manera lineal i, en conseqüència, la revisió i la reescriptura seran components essencials i autocorrectius.

3. La nova condició algorítmica de l’escriptura

Amb la ràpida implementació de les intel·ligències artificials generatives (IAGen), especialment els models de llenguatge extensos com ChatGPT, Gemini i Claude fonamentalment, arribem a un canvi de paradigma significatiu en la història de l’alfabetització i del procés de creació. Alguns autors qualifiquen aquesta revolució d’una importància tan significativa com la del descobriment del foc per a la humanitat. La conjunció entre tecnologia i escriptura obre importants esquerdes de reflexió per poder analitzar la transformació que pateix la naturalesa mateixa de l’escriptura humana i el seu procés d’hominització. Anteriorment, l’impacte de les revolucions tecnològiques precedents havia conduït a canvis significatius en la subjectivitat humana, però encara no s’han abordat en profunditat el canvi que es produirà per l’efecte de la delegació cognitiva a les màquines i en el tema que ens ocupa: el procés d’escriptura. En aquest tercer punt de l’article abordarem aquesta qüestió.

L’aparició l’any 2022 de les Intel·ligències Artificials Generatives com ChatGPT van fer que l’escriptura humana experimentés una redefinició del procés de creació. El paper de l’autor i l’escriptura es converteix en “un acto despersonalizado y automatizado [...] la lectura se desvincula de la subjetividad [y] plantea  cuestiones fundamentales sobre la escritura, la lectura y la subjetividad en la era digital.”(Vilar 2023, 1).  En contraposició amb el que acabem d’explicitar anteriorment sobre l’especificitat de l’escriptura humana i el seu entramat biopsicosocial abordarem les característiques d’aquesta nova condició de l’escriptura despersonalitzada i algorítmica.

Els grans models de llenguatge (LLM) apareguts d’una manera intensiva l’any 2022 es fonamenten, fonamentalment, en processos algorítmics i probabilístics que imiten el funcionament del cervell humà conegut com a  xarxes neuronals artificials amb milers de paràmetres ajustables. Aquests models s’entrenen amb una gran quantitat de dades fonamentalment extretes d’Internet com dades massives, imatges, i fonts de tots els àmbits del coneixement. A diferència de l’escriptura humana, els patrons lingüístics es generen mitjançant:

 el uso de algoritmos entrenados en grandes volúmenes de datos textuales. A diferencia de la escritura humana, que puede seguir impulsos subjetivos y contingentes, la escritura algorítmica opera a través de cálculos matemáticos y estadísticos para predecir la estructura, el contenido y el estilo de los textos. El algoritmo analiza los modelos lingüísticos previos, detecta regularidades en el uso del lenguaje y, a partir de eso, genera nuevas combinaciones de palabras y frases que se ajustan a los patrones identificados. (Rosignoli 2024, 118)

El mecanisme de producció de textos d’aquestes intel·ligències en generen a partir d’un procés anomenat tokemització, embeddings i vectors contextuals, predicció probabilística del següent token i, finalment, el procés iteratiu. La tokemització és el primer pas de l’entrenament. El text es divideix  en unes unitats mínimes anomenades «tokens». Un token pot ser una paraula completa, una part d’una paraula «subword», un signe de puntuació o una combinació d’ambdós. Cada token únic del vocabulari rep un identificador i fa possible que el text sigui representat com a una seqüència de nombres que pot processar la màquina.

Els embeddings i els vectors contextuals són la següent fase de la producció de textos algorítmics. En aquest procés, a cada token se li assigna un «Embedding» que és un vector numèric multidimensional. La funció del vector és la de representar les característiques semàntiques del token en un espai matemàtic i els valors d’aquest vector s’aprenen durant l’entrenament i depenen dels contextos en què el token sol aparèixer amb altres tokens. Finalment, els embeddings permetran al model capturar les relacions semàntiques i sintàctiques entre les paraules.

A diferència del procés d’escriptura humana la generació de text d’aquests models algorítmics és una predicció probabilística per enllaçar el següent token estadísticament més probable. Per tant, quan volem que la màquina generi text realizem el següent procés: 1) escrivim un text d’entrada (prompt), 2) la màquina calcula el model de probabilitat de cada token, 3) s’utilitzen els embeddings i els paràmetres apresos, 4) es realiza la predicció del vector contextual del token més probable i 5) se selecciona el token  que la representació vectorial real s’ajusta millor a la predicció.

Com tot aquest procés que acabem de veure és només probabilístic no es generarà una única resposta correcta, és a dir, només la que estadísticament és la més plausible segons les dades de l’entrenament del model d’IA. L’usuari del model, si vol millorar aquest procés amb més probabilitat d’èxit ha d’iterar, a saber, quan considera que la resposta s’apropa més a la seva demanda. Després, un cop s’arriba a la generació d’aquest token finalitza la seqüència del procés.

Finalment, un cop hem vist com els models d’IA Generativa produeixen els textos hem d’observar que la seva lògica operativa es fonamenta en càlculs matemàtics i estadístics  per predir seqüències de paraules. Mentre que l’escriptura alfabètica és desxifrable immediatament per un ésser humà:

la escritura algorítmica hace referencia a la creación de códigos y secuencias de instrucciones  que son legibles y ejecutables únicamente por máquinas o sistemas computacionales. [...] la escritura algorítmica se compone de lenguajes de programación estructurados en distintos niveles de complejidad. Estos lenguajes incluyen tanto el código fuente, escrito por programadores o creadores digitales en un lenguaje generado al compilar el código fuente en instrucciones legibles para la máquina. (Rosignoli 2024,118)

Aquesta diferència tan substancial en el procés d’escriptura planteja interrogants pel que fa a la pèrdua tradicional dels elements essencials de l’escriptura humana com l’originalitat, la subtilesa emocional o la connexió personal. La delegació i automatització d’aquest procés genuïnament humà pot generar riscos que haurem d’abordar més endavant com, per exemple, el paper de l’autor, la disfunció cognitiva, reptes ètics i la manca de pensament crític per les generacions futures. 

4. L’autor a l’Era de la IA: Barthes, Foucault i Andrea Colamedici

El desplegament d’aquesta societat governada per un Leviatán algorítmic creador de mecanismes d’IA Generativa que “les otorga el derecho a actuar “por sí mismos” sin apelar a nuestro consentimiento” (Sadin 2020, 163) estan generant riscos ètics i democràtics per una expansió descontrolada d’aquesta tecnologia. Pel que fa al tema que ens ocupa de l’escriptura, sorgeixen qüestions legals i epistemològiques complexes que requereixen abordar-les en profunditat. La capacitat dels models d’IA per generar textos planteja qüestions profundes i no senzilles de respondre. Què significarà ara ser autor d’una obra generada total o parcialment per una màquina?

Alguns pensadors com Michel Foucault i Roland Barthes vam tractar en profunditat què significa la paraula «autor». Segons Barthes, al seu assaig La mort de l’autor, considera que l’escriptura és fonamentalment “la destrucción de toda voz, de todo origen [...] ese lugar neutro, compuesto, oblicuo, al que va a parar nuestro sujeto, el blanco-y-negro en donde acaba por perderse toda identidad, comenzando por la propia identidad del cuerpo que escribe”. (Barthes 1987,65) Com podem veure, segons Barthes, la figura de l’autor tradicional, amb la seva experiència, passions, història, és una construcció social nascuda a la modernitat i, especialment per la ideologia capitalista i el positivisme. Per tant, la tesi del lingüista afirmarà que el subjecte lingüístic és un buit.

Per Focucault, l’autor és una construcció que ell anomena “funció-autor” (Foucault 1969). No és un individu real sinó un dispositiu complex i variable històricament. Per al filòsof francès, la desaparició de l’autor és un fet constatat, però el més important és veure el lloc on s’exerceix la seva funció. Per exemple, la seva funció gira al voltant de l’agrupació de textos, delimitar-los, conferir-los un cert estatus i classificació d’un mode d’existència històric en una societat i cultura.

La irrupció de Jianwei Xun, però, com a autor fictici de l’assaig Hipnocracia, un “projecte narratiu” del filòsof italià Andrea Colamedici, il·lustra contemporàniament, els conceptes de Barthes i Foucault sobre l’autor i l’autoria.  Amb l’ajuda de dues plataformes d’intel·ligència artificial generativa, ChatGPT i Claude. La no existència de Xun, segons Colamedici, exemplifica amb aquest artefacte una nova modalitat de creació per màquines. La figura de l’autor es dilueix perquè, segons el filòsof “hoy podemos inventar nuevas formas  de hacer filosofia. Una es hacerte vivir una experiencia; otra es cocrear junto con la inteligencia artificial”. (SWI swissinfo.ch - Sociedad Suiza de Radio y Televisión SRG SSR 2025).

L’escriptura del llibre Hipnocracia, no neix d’una consciència individual ni d’una experiència vital tal com l’entenem tradicionalment sinó de dues plataformes d’IA que Colamedici va unir i elaborar. La IA actua com una “coautora” introduint una “posició-subjecte” no humà en el procés de creació. La pregunta foucaultiana: Què importa qui parla?, per tant, ressona amb força amb un text com aquest on el “qui parla” en el sentit tradicional és intencionadament un buit o una construcció. L’escriptura en aquest cas, és un “tejido de citas provenientes de los mil focos de cultura” (Barthes 1987, 67) on la IA s’entrena amb grans quantitats de dades per generar noves combinacions i estructures. Per tant, en l’experiment de Colamedici, qui “parla” en el text? La IA que el va generar o qui el va editar i publicar?  El filòsof italià argumenta que la idea mateixa d’autor dona lloc a una dispersió d’egos o posicions des de les quals el discurs s’articula, anant més enllà d’un subjecte unificat i real.

Ens situem davant d’un escenari complex que ens obliga a repensar la noció d’autoria en l’era de la IA. Les eines d’IA no són “autors” en el sentit tradicional perquè manquen d’intencionalitat, consciència  i la capacitat d’assumir responsabilitat legal o ètica. A més, amb els sistemes actuals d’IA, basats en la predicció de la següent paraula, no tenen accés als referents del món real i no poden entendre el significat dels textos que generen. Com tenen una “intel·ligència” incorpòria i mancada d’interacció amb el món viu són incapaços de produir una intencionalitat genuïna, conscient i experiencial. Aquest fet és la condició necessària d’una creació humana autèntica. Les IA, contràriament, es basen en una creació simulada, no reflexionada i compresa. Enfront d’aquesta situació preocupa l’homogeneïtzació ciutadana on:

els ecos de la IA poden acabar configurant-la i donar lloc a una organització social més uniforme, en què desapareguin els errors i tot allò que sigui insòlit, casual, espontani i estrany. Que el model econòmic i social al qual ens resistim —i del funcionament del qual formen part la misèria i l’opulència— acabi sense ser qüestionat, sinó precisament el contrari, optimitzat. Que l’espai urbà sigui un entorn per al microtargeting. Tot això són riscos que haurem d’abordar i per als quals haurem de restar alerta. Resistim-nos al plaer d’una ciutat amable, clara i neta. Cerquem què hi ha darrere d’ella. Que la ciutat ens incomodi, tant allò que hi veiem com la dificultat per entendre-la. (Ajuntament de Barcelona 2023, 14)

5. Experiències de coescriptura: Cap a una creativitat híbrida

En contraposició a aquest model explicitat anteriorment sobre els perills que genera la submissió acrítica de l’escriptura humana i de la creació per models d’IA generativa, emergeix la idea posthumanista de la coescriptura i creativitat híbrida. Subjecte i eina interaccionen i col·laboren en el procés creatiu. Estem davant d’una perspectiva innovadora que defensa l’esperit crític davant d’aquest nou Oracle de Delfos de les IA Generatives. És una perspectiva onto-epistemològica que concep l’escriptura com «escriptura difractiva» (Rosignoli 2024) 

Des d’aquest punt de vista, la coescriptura amb IA no és una simple delegació i submissió cognitiva al maquinisme sinó una oportunitat per explorar un «assemblatge cognitiu onto-semiòtic-material» (Rosignoli 2024, 123). Per a aquesta autora, l’escriptura és un procés rizomàtic per la participació d’humans i sistemes tècnics i, per la qual cosa, esdevé performativa en separar  les dicotomies clàssiques del procés d’escriptura i les tecnologies dominants. Els errors o al·lucinacions algorítmiques són oportunitats o camins alternatius per a la invenció de nous conceptes, d’esquerdes de reflexió no concebudes abans.

Aquesta nova visió de l’escriptura i de la creació fomenta la col·laboració crítica i la tecnologia en comptes de substituir les capacitats humanes com la investigació, la ideació i l’edició que les potencia. L’ésser humà no és un subjecte passiu sinó que en tot moment adopta un paper actiu en el procés d’escriptura i pensament  perquè  avalua críticament els resultats generats, la verificació de la informació i, finalment, la formulació de prompts efectius. Es tractaria de mantenir la responsabilitat final sobre el raonament, l’argumentació i l’expressió original.

En la coescriptura, la responsabilitat ètica i jurídica ha de ser sempre atribuïble a persones o entitats existents perquè l’home és l’únic agent conscient, responsable i dotat de subjectivitat i aquest fet és irrenunciable. Una dependència excessiva de la IA provoca la pèrdua d’allò que ens determina com a éssers humans, el llenguatge, l’acte comunicatiu com a expressió d’una subjectivitat única, emocional i contextualitzada. La IA, en generar text algorítmicament desproveït d’aquests elements, fragmenta aquesta integritat que sí que té l’home.

En conclusió, sempre que l’agència humana mantingui el control crític, la responsabilitat ètica i la capacitat de dirigir el procés creatiu, la col·laboració amb la IA esdevindrà un catalitzador per la innovació. El repte, però, rau a cultivar una relació sàvia i crítica amb aquestes tecnologies aprofitant el seu potencial per augmentar la cognició humana sense reemplaçar l’humà. En aquest sentit, les humanitats, amb el seu èmfasi en el pensament crític, l'ètica, la comprensió profunda del llenguatge i la condició humana, tenen un paper cabdal per saber navegar davant d’aquest nou canvi de paradigma.

6.  Reflexions filosòfiques sobre la IA i l’Escriptura

El paper de la filosofia en l’actualitat ha descobert un nínxol teòric molt important a partir de la irrupció de les IA Generatives. A partir del període de confinament per la pandèmia de la COVID-19 s’ha orquestrat un capgirament de l’estil de vida i de com enteníem el treball, les eines digitals i l’educació dins del sistema neoliberal. Tot ha canviat. El ciutadà postcovid aixoplugat per les eines i xarxes digitals en el confinament no era coneixedor que s’estaven entrenant alhora sistemes d’IA que capgirarien la manera de viure en la nova normalitat. En la nova normalitat els ciutadans hem descobert un ecosistema digital on el sistema neoliberal ha mutat  en un nou sistema de poder, qualificat d’Hipnocràcia. 

El paper de les humanitats, tal com les concebíem, està perdent progressivament el paper de testamentaris de la cultura. No obstant això, la gran oblidava i arraconada pel poder polític en la història, la vella filosofia té molt a dir. L’humanisme digital promourà la capacitat per entendre l’ús correcte d’aquest nou Oracle de Delfos de la IA.

Per a Andrea Colamedici, la filosofia ha de reflexionar sobre la IA com a «Pharmakon» del grec antic φάρμακον. Aquest concepte platònic, a la vegada cura i verí. La IA, per tant, seria una eina que simultàniament cura i enverina. L’objectiu de la filosofia és saber dosificar-la i protegir-se mentre s’exposa a la seva complexitat i manipulació potencial. El perill ja l’estem veiem en els estudiants de qualsevol nivell. La conversió del subjecte educatiu en, simplement, un cercador de respostes en Google ens evidencia la tragèdia i la pèrdua de capacitat cognitiva. Aquesta gràfica és molt il·lustrativa de la situació actual:

La situació encara més esfereïdora és el que està succeint en la universitat en un altre nivell. L’escriptura lenta, reflexiva ha sublimat en una espècie d’ús oracular de la llengua escrita que porta a una satisfacció de respostes ràpides sense tenir en compte la confirmació dels prejudicis i biaixos de la IA sense que hi hagi un veritable pensament filosòfic.

Per utilitzar críticament la IA Colamedici insisteix en la utilització no com a substitut del pensament, sinó com una eina per desafiar les pròpies idees, trencar conceptes establerts i posar a prova les teories. La finalitat és, per tant, crear una «autoritat emergent» sortida de la relació conscient i crítica amb la IA. Finalment, per portar a bon terme aquesta nova autoria emergent, serà necessari emprar una nova metodologia, a saber, el «prompt thinking» (Colamedici, 2024,15:56). Una metodologia que fa que els estudiants utilitzin la IA no per dur a terme les tasques més ràpidament sinó per fer-les millor, fonamentant la creació de dubtes i preguntes en lloc de cercar respostes definitives.

 

 7. Conclusió

En aquest article hem abordat la qüestió plantejada a la introducció: fins a quin punt l’escriptura humana es veu afectada per la delegació cognitiva  a les IA Generatives i si estan modificant el procés d’humanització on l’homo escribens ha sucumbit a un tipus d’escriptura deshumanitzada i deshumanitzadora. 

Hem comparat les característiques de l’escriptura humana respecte de l’escriptura amb IA Generativa i hem arribat a la conclusió que l’escriptura humana és un procés complex iteratiu, encarnat i situat, amb emocions, context i intencionalitat. L’escriptura amb IA Generativa està desproveïda d’aquests components essencials de l’ésser humà i només dona respostes textuals a partir de càlculs probabilístics sense cap mena d’enteniment. Per tant, cap IA Generativa per molt avançada que sigui pot replicar característiques pròpies de l’ontologia humana. A més, l’escriptura no només és una producció de text sinó que és l’intent comunicatiu de crear un sentit i connexió amb el món i amb les altres subjectivitats.

Malgrat aquesta diferenciació ontològica a partir de l’auge i l’ús indiscriminat per part de la població d’aquestes màquines productores de text necrosat constatem el perill de la despersonalització i de l’homogeneïtzació de l’escriptura i de la creació. La uniformitat pot esdevenir la pèrdua de l’autoria, la creació sense cap intencionalitat i la submissió passiva a l’escriptura algorítmica. I aquest tipus d’escriptura generadora de biaixos interessats pels poder fàctics, esdevé una nova oportunitat de control social. 

El perill que genera la IA Generativa d’uniformitat social construeix un subjecte educatiu mitjançant un  procés de silicolonització (Sadin 2018) de l’educació. Neix un «ethos educatiu» que sotmet l’alumnat a un «narcocapitalisme», com ho va encunyar el teòric Laurent de Sutter. Una societat convertida en «Prozaclandia» (De Sutter 2021). L’impacte en la lectura i escriptura com a signe visible de la racionalitat humana han sofert la submissió acrítica i, per tant, si no posem remei, les qualitats cognitives humanes corren el risc de desaparèixer.

Finalment, com podrem eliminar el verí d’aquest  φάρμακον de la IA Generativa en el procés de l’escriptura humana? La solució més plausible seria la proposta de la filosofia posthumanista, amb l’escriptura difractiva. Terme encunyat per Silvina Rosignoli. Per aquesta autora, existeix una oportunitat de capgirar el risc que comporta la delegació cognitiva de l’escriptura amb IA.

La coescriptura com a forma d’experimentació, de creació híbrida i de nova alfabetització crítica. D’aquesta manera l’humà podrà amplificar i no substituir les seves capacitats cognitives mitjançant aquest nou tipus d’escriptura sense perdre la seva essència i amb la responsabilitat d’aprendre a dosificar aquesta eina.

8. Referències

Ajuntament de Barcelona. 2023. Impactes de la intel·ligència artificial. Vol. 127. Barcelona: Ajuntament de Barcelona. https://www.barcelona.cat/metropolis/sites/default/files/dossiers/bm_127_dossieria.pdf.

Barthes, Roland. 1987. La muerte del autor. N.p.: Paidós. https://teorialiteraria2009.files.wordpress.com/2009/06/barthes-la-muerte-del-autor.pdf.

Derrida, Jacques. 1997. Mal de archivo: una impresión freudiana. Translated by Paco Vidarte. N.p.: Editorial Trotta.

De Sutter, Laurent. 2021. Narcocapitalismo : para acabar con la sociedad de la anestesia. N.p.: Penguin Random House Grupo Editorial, S.A.U.

Foucault, Michel. 1969. ¿Qué es un autor? Conferència pronunciada el 22 de febrer de 1969 a la Société Française de Philosophie. https://azofra.files.wordpress.com/2012/11/que-es-un-autor-michel-foucault.pdf.

Gatti, Alberto. 2024. “Alfabetización e inteligencia artificial.” Journal of Neuroeducation 5 (1): 52-58. https://doi.org/10.13344/joned.v5i1.46108.

“La IA puede llegar a sustituirnos en absolutamente todo - Nota a Andrea Colamedici.” n.d. Periodismo Puro. https://youtu.be/hk0WPBEP4zE?si=umACZ7pr_NBupGmT.

Navarro, José L., trans. 2016. Diálogos III: · Fedón · Banquete · Fedro. N.p.: Gredos.

Rosignoli, Silvina. 2024. “La escritura difractiva y la construcción de conocimiento en las posthumanidades.” Infosur, no. 3 (Diciembre), 109-125. https://doi.org/10.35305/rev.infosur.v2i3.101.

Sadin, Éric. 2018. La silicolonización del mundo: La irresistible expansión del liberalismo digital. Translated by Margarita Martínez. N.p.: Caja Negra.

Sadin, Éric. 2020. INTELIGENCIA ARTIFICIAL O EL DESAFIO DEL SIGLO: Anatomía de un antihumanismo radical. Translated by Margarita Martínez. N.p.: Caja Negra.

Sadin, Éric. 2024. La vida espectral: pensar la era del metaverso y las inteligencias artificiales generativas. Translated by Margarita Martínez. N.p.: Caja Negra.

Suleyman, Mustafa, and Michael Bhaskar. 2024. LA OLA QUE VIENE/ THE COMING WAVE. N.p.: Prh Grupo Editorial.

SWI swissinfo.ch - Sociedad Suiza de Radio y Televisión SRG SSR. 2025. “El autor de ‘Hipnocracia’, Jianwei Xun, no existe y es fruto de la Inteligencia Artificial.” abril 8, 2025. https://www.swissinfo.ch/spa/el-autor-de-%27hipnocracia%27%2c-jianwei-xun%2c-no-existe-y-es-fruto-de-la-inteligencia-artificial/89130958.

Vilar, Mariano. 2023. “Escritura, subjectividad y literatura en el amanecer de las IA generativas. Letras, almas e inferfaces de escritura.” Revista Luthor, no. 57 (noviembre), 1-16.

Xun, Jianwei. 2025. Hipnocracia: Trump, Musk y la nueva arquitectura de la realidad. N.p.: Editorial Rosamerón.

Zaragoza, Juan, and Pilar Gómez Cardó, eds. 2022. Diálogos: VII. Translated by Juan Zaragoza and Pilar Gómez Cardó. N.p.: Gredos.