Pol Maresma

Aquest paper de Ricard Solé (@ricard_sole) et altri és fascinant ja que proposa i argumenta que els grans models de llenguatge o LLMs han evolucionat de tal manera que ja no els hem de concebre com a simples eines passives de consulta o de generació d'informació/contingut, sinó com a replicadors culturals hipereficients que s'estenen molt millor com a patògens cognitius invisibles. En aquest sentit, els LLM no plantegen l'amenaça habitual de ciència ficció associada a Terminator, ans el contrari, el perill real rau més en la colonització silenciosa de la nostra manera de pensar, escriure i decidir. Per què? Doncs perquè aquests models s'alimenten de les nostres dades, s'optimitzen per resultar addictius i sense friccions i, a canvi, reestructuren els nostres patrons lingüístics, la nostra memòria i el nostre raonament, fins al punt que ens acabem convertint en productors involuntaris d'una mena de nutrient digital que és el que necessiten per seguir iterant. Així doncs, l'engany és que nosaltres pensem que la interfície està controlad per nosaltres però, en realitat, la dinàmica real semblaria més a la d'un patogen que modifica el comportament de l'hoste per assegurar-ne la propagació. Així, els autors plantegen la nostra relació amb els LLMs des d'una perspectiva epidemiològica, on la difusió o propagació es pot modelar mitjançant tres tipus/estats d'usuaris: els no connectats (que no utilitzen LLMs), els connectats (ús ocasional i assistit de LLMs) i els dependents persistents (integració crònica dels LLMs en els processos cognitius bàsics). A partir d'aquí, es proposa que la interacció entre la transmissió social, la recuperació (la capacitat de deixar d'usar-la) i el reforçament col·lectiu pot generar punts d'inflexió sobtats i un bloqueig tecnològic irreversible. En el treball, també s'argumenta que quan se supera un llindar crític, petits augments en l'adopció desencadenen transicions poblacionals ràpides cap a una dependència generalitzada, amb la consegüent pèrdua abrupta de competència cognitiva autònoma, com ara la memòria factual o la capacitat d'argumentació pròpia. No obstant, aquesta dinàmica admet contramesures que el mateix marc identifica com condicions per a la immunització cognitiva basades en reduir la transmissió cultural i a facilitar la reversibilitat de l'ús per tal de frenar l'expansió del fenomen abans que esdevingui sistèmic. Val a dir que el plantejament que fa el paper està molt relacionat amb el que fa Aristòtil en la seva obra més coneguda d'Ètica a Nicòmac, on sosté que les virtuts intel·lectuals, especialment la prudència o saviesa pràctica (phronesis), no són innates, sinó que s'adquireixen mitjançant la pràctica repetida i la formació d'hàbits estables. D'una forma més elaborada, argumenta que si deleguem sistemàticament el judici, l'escriptura argumentativa i la resolució de problemes en un model extern, deixem d'exercitar aquestes facultats. De fet, Aristòtil advertia que esdevenim justos fent actes justos, i prudents fent actes prudents. Com? Doncs a través d'un exercici actiu i continuat de la raó per sobre de la mera postura passiva en la vida. Per tant, si ho enllacem amb l'obra d'Aristòtil, l'atròfia cognitiva no és només un risc tècnic, sinó una qüestió ètica i de caràcter ja que en cedir passivament la nostra activitat racional a la màquina/LLMs, ens arrisquem a que hi hagi una degradació de les capacitats que ens defineixen com a éssers humans. Aquí teniu l'enllaç al paper: arxiv.org/html/2609.03344v1