Riscrivere Marx per la società dell’informazione 

Sommario 

L’opera combinata di Turing e Shannon ha dato forma alla odierna “società dell’informazione”, fondandola su una nuova metafisica alla quale siamo ormai talmente abituati da vederla come qualcosa di ovvio e naturale. Ma celatamente l’ha impostata in modo da essere orientata alle macchine invece che agli umani, sin dal principio. Per illuminare le aberrazioni e i pericoli di questa cultura, e cosa comporti per noi esseri umani vivere in un habitat machine-biased, nel presente lavoro mi faccio aiutare dalla lucidità di Karl Marx. Come dimostro con esempi da varie opere, certi topoi della critica di Marx all’economia politica del suo tempo possono essere riscritti sostituendo poche parole chiave per produrre un’analisi sorprendentemente pertinente della società dell’informazione e del ruolo che i dati e l’Intelligenza Artificiale svolgono in essa. La spiegazione di questo strano fenomeno nasce dal fatto che l’informazione può esser vista come l’upgrade attuale del denaro marxiano, astrazione disumanizzante e “feticcio automatico” che si espande da sé indipendentemente dai bisogni umani. 

 Abstract 

The combined work of Turing and Shannon shaped today’s “information society”, and founded it on a new metaphysics to which we’ve become so accustomed that we see it as something obvious and natural. But covertly it was set up to be machine-oriented instead of human-oriented, from the very beginning. To highlight the aberrations and hazards of this culture, and what it entails for us humans to live in a machine-biased habitat, in this paper I take help from the lucidity of Karl Marx. As I show with examples from various works, certain topoi of Marx’s critique of the political economy of his time can be rewritten by substituting a few keywords, producing a surprisingly relevant analysis of the information society and the role that data and Artificial Intelligence play in it. The explanation for this strange phenomenon stems from the fact that information can be seen as the current upgrade of marxian money, a dehumanizing abstraction and “automatic fetish” that expands itself independently of human needs. 

Keywords

data, money, information society, artificial intelligence, knowledge, automatic fetish, formalism, machine-biased culture, empathy, Marx, Turing, Shannon 

Introduzione: Turing ⋂ Shannon 

Si è spesso parlato dell’intreccio tra il lavoro di Alan Turing e quello di Claude Shannon, ma c’è un aspetto di questo rapporto che mi pare poco frequentato. 

Turing ha indagato sui limiti della calcolabilità partendo dalle operazioni di un calcolatore umano: cosa fa una persona quando calcola. A partire da questo primo seme, il confronto tra umani e macchine diventa per lui un tarlo costante. Ritorna più volte sul tema fino al culmine dell’imitation game, alias “test di Turing” [1]. L’aspetto notevole per me è che il setting del test richiede che le parti in gioco comunichino fra loro a) in assenza di corpi, e b) esclusivamente tramite codici (testi). 

Dal canto suo, Shannon fondendo la logica con i circuiti elettrici ha trovato la via per migliorare la trasmissione di messaggi tra persone distanti tramite un canale fisico che presenta inevitabile rumore. Anche in questo caso si ritrovano le stesse condizioni di Turing: comunicazione a) in assenza di corpi e b) esclusivamente tramite codici (testi). 

La comunicazione a distanza cominciava a montare poderosamente. «La materia prima era dappertutto», ricorda James Gleick [3], «rutilante e ronzante nel panorama del primo ventesimo secolo: lettere e messaggi, suoni e immagini, notizie e istruzioni, fatti e cifre, segnali e segni: una gran macedonia di specie fra loro in relazione. Tutto era in movimento, attraverso il sistema postale, cavi o onde elettromagnetiche. Ma non c’era una parola sola che denotasse tutte quelle cose». 

Quando nacque l’esigenza tecnica di dare una definizione formale e generalizzata di fenomeni così variegati, inizialmente si usò la parola “intelligence”. Nel 1926 Ralph Hartley in uno storico articolo [2] adottò per primo il termine “information”, poi temprato definitivamente da Shannon. Da ingegneri essi avevano bisogno di portare questo vago termine dal campo aperto della comunicazione umana al dominio della misurabilità e calcolabilità, così da convertire l’informazione in grandezza fisica. Qualcosa di simile a ciò che aveva fatto Newton con la forza, il movimento, il tempo. Per farlo la prima cosa era, nelle parole di Hartley, «eliminare i fattori psicologici coinvolti». 

Hartley e Shannon partono dalla necessità umana di comunicare, ma finiscono per rappresentare la comunicazione fra umani a immagine e somiglianza di quella fra macchine. I simboli scambiati indicano stati e oggetti discreti senza ambiguità. Le relazioni tra i simboli sono strutturate con precisione. 

La “macchina” di Turing e il “messaggio” di Shannon sono genuine entità matematiche. La computazione di Turing opera su simboli astratti con regole formali [4]; l’informazione di Shannon ha un valore che dipende solo dalla distribuzione di probabilità dei suoi elementi atomici, dei suoi possibili stati [5]. In quanto entità matematiche, la macchina di Turing e il messaggio di Shannon godono della massima generalità e astrazione, per questo sono entrambe indifferenti al contenuto ed estranee a qualunque idea di significato¹. 

Non è superfluo ricordare che questa riconversione dell’informazione avveniva in un contesto bellico. La Seconda guerra mondiale, al cui servizio lavorano sia Turing che Shannon, definisce i loro obiettivi: la vitale decifrazione di messaggi nemici per il primo, la vitale correttezza nella trasmissione di messaggi amici per il secondo. Credo che anche questo campo di forze, oltre alla forma mentis matematica, spieghi come mai Turing e Shannon concepiscono la comunicazione umana in modo tanto ristretto e distorto. Solo per questioni di vita o di morte la comunicazione si irrigidisce e non tollera più l’errore, che nel fluido traffico linguistico quotidiano è una sostanza del tutto diversa: sfuggente, emendabile, evocativa, creatrice. 

Tuttavia la guerra finì, e la loro interpretazione rimase. Anzi, la loro sfera di influenza si è estesa ovunque. C’è un motivo pratico: l’efficienza tecnica, l’utilità delle infinite applicazioni del calcolo automatico e della trasmissione digitale con compressione e correzione di errore. Ma questa efficienza non è neutra e innocente, presuppone una visione del mondo. Ed è su questa visione che Turing e Shannon si sono innestati perfettamente come un poderoso amplificatore, producendo una rivoluzione epistemologica e antropologica. 

Dato il sogno di Turing di «costruire un cervello» e le sue riflessioni in merito in [25], il suo approccio alla computabilità è venuto ad assumere un ruolo essenziale nella concezione stessa di “intelligenza”. Sennonché l’astuzia sperimentale dell’imitation game – comunicare solo tramite testi scritti a macchina – ha impresso una forma particolare a questo corso. Ha diffuso la credenza che l’intelligenza, e con lei le altrettante vaghe mirabilia dell’anima su cui si affabula dall’antichità, come il pensiero e la coscienza, possano essere ben definite come funzioni, e che siano facoltà astratte che possono sussistere ed essere riscontrate anche senza la presenza fisica, in assenza di un corpo vivente che le manifesta nei suoi comportamenti a un altro corpo vivente. Idee del genere non incontravano alcuna resistenza, al contrario andavano a coronare la tradizione del dualismo cartesiano con una dignità pseudo-scientifica aggiornata, di qualità superiore². 

E Shannon? Partendo dall’incertezza riguardo a un fenomeno che può avere un certo numero di esiti diversi, l’“informazione” di Shannon si può pensare come la riduzione di tale incertezza che un evento ci porta. In termini matematici questa incertezza fu definita da Shannon come “entropia”, reinventata sul calco della fisica come stima empirica di una distribuzione di probabilità. Con una differenza essenziale: è una grandezza adimensionale, «semplice diversità combinatoria, compatibile con l’entropia di Boltzmann-Gibbs sotto certe condizioni». [26] 

La sua purezza matematica, che descrive sia l’entropia di una sorgente di eventi, sia l’informazione associata a uno dei suoi eventi che si avvera, è compatibile con la rappresentazione astratta di qualunque fenomeno. Ma attenzione: qui si parla di conoscenza che riduce l’incertezza sul mondo, la facoltà umana fondamentale nella nostra tradizione culturale, intimamente legata all’intelligenza e al pensiero. Mentre questi venivano resi incorporei dalla stilizzazione di Turing, la conoscenza si rendeva altrettanto disponibile a farsi astratta per mano di Hartley e poi di Shannon. Dunque l’informazione di Shannon è diventata la sostanza metafisica della conoscenza. E poi dell’intelligenza e del pensiero che la gestiscono. E poi, per analogia con la trasmissione intelligente, degli scambi tra sistemi di qualunque tipo (fisici, chimici, biologici, ecc.). Talvolta persino sostanza fisica, reificata.³ Turing e Shannon introducono nel campo cognitivo umano delle semplificazioni di stampo matematico simili a quelle della logica di Aristotele. A dispetto della sua scarsa verosimiglianza come modello del pensiero umano, la logica ha goduto di enorme successo culturale proprio grazie ai vantaggi immediati offerti dalla sua inebriante capacità di «difalcare gl’impedimenti» [27] e dare l’illusione del controllo. Affine e non meno impressionante è il trionfo del modello informazionale in ogni campo, e l’inflazione di illusioni epistemiche che da esso sono nate, soprattutto ma non solo nel territorio delle questioni umane.⁴ 

La più importante conseguenza dell’impostazione machine-biased è che tutto il dibattito successivo sulla possibilità di simulare o no il comportamento umano con macchine di Turing e con modelli ML/IA si è svolto in una prospettiva contraffatta, conforme alla macchina. Un discorso deumanizzato dalla radice, eppure accolto senza resistenze, anzi con favore. Come mai? Perché è la naturale continuazione di un’altra inveterata tradizione occidentale: il dualismo platonico-agostiniano secondo cui esiste una vera conoscenza raggiungibile solo dall’intelletto/anima immateriale, mentre il corpo materiale e le sue emozioni volgari non sono altro che fardello, oscurità, errore e penitenza. 

Su queste basi metafisiche fiorisce la “società dell’informazione”, «una società neomanufatturiera in cui l’informazione è sia un materiale grezzo che produciamo e manipoliamo sia il prodotto finito che consumiamo». [6] 

Essendo fondata su macchine informatiche, qualunque fenomeno che accade in tale società deve essere reso omogeneo ad esse per essere rappresentato nel sistema, altrimenti è invisibile. Queste condizioni mutano nel profondo non solo la nostra visione del mondo, ma anche le relazioni fra noi. Possiamo farcene un’idea leggendo un grande esperto di complessità computazionale, Scott Aaronson. 

Nella pratica le persone si giudicano reciprocamente coscienti dopo un’interazione molto breve, forse anche di pochi secondi. Ciò suggerisce che possiamo mettere un limite superiore finito – per essere generosi, diciamo 1020 – al numero di bit di informazione che due persone A e B si possono realisticamente scambiare prima che A abbia accumulato prove sufficienti a concludere che B è cosciente. [8] 

Parole sconcertanti, perfino cringe. Chi mai si chiede se una persona appena incontrata è cosciente o meno? Quando càpita è considerato un sintomo patologico. Normalmente è una tacita inferenza che il corpo fa da sé sotto la soglia della coscienza, senza usare parole, concetti, ragionamenti. Il corpo vivente di A vede il corpo vivente di B e lo riconosce come simile, subito e tutto compreso. Uno sguardo, un minimo gesto sono più che sufficienti per stabilire un rispecchiamento significativo e una comunicazione tra A e B. [9] 

Ma l’ottica informazionale vede e insegna a vedere tutto in termini di informazione, quindi di bit, compresa l’interazione umana. Pretende di codificare persino questo scambio, indicibile persino per i massimi poeti coi suoi processi fisiologici ancora in gran parte oscuri, con quelle sequenze di simboli privi di significato che sono il massimo comun denominatore tra noi e le macchine informatiche⁵. 

Nella società dell’informazione la condizione di comprensione reciproca tra gli umani non può essere sostanzialmente diversa da quella fra le macchine. Deve perciò condensarsi in un numero dentro un meccanismo: la quantità minima di bit necessaria a far scattare in A una molla che incolla su B l’etichetta ‘cosciente’⁶. O meglio, per attivare una routine di programma che assegna il valore a una variabile che rappresenta lo stato di coscienza di B. Una variabile booleana: o sei cosciente o non lo sei, 0/1. 

La presa di coscienza, in questi termini, non può essere che una funzione a gradino, l’equivalente matematico della rivelazione: un attimo prima c’è il buio, un attimo dopo ding!, la luce si accende e si è pienamente coscienti. Niente sfumature. Bando ai vaghi livelli intermedi. Non è un caso che fra le immagini più stereotipiche della fantascienza ci siano robot che “diventano autocoscienti” in un preciso istante⁷. E che la famigerata «singolarità tecnologica⁸» sia il momento in cui «l’universo si sveglia». 

Enter Marx: denaro vs. dati 

Il coinvolgimento di Karl Marx in questa storia prende il via sotto specie di un esperimento di “letteratura potenziale” simile a quello di Raymond Queneau, che nei Fondamenti della Letteratura secondo David Hilbert riscrive la pietra miliare Fondamenti della Geometria sostituendo le parole “punto”, “retta” e “piano” rispettivamente con “parola”, “frase” e “paragrafo”, per assiomatizzare, tra il serio e il faceto, la teoria letteraria⁹. 

La mia intenzione sperimentale è riscrivere Marx, sempre sostituendo determinate parole chiave, per capire se se ne possa derivare una critica da par suo della nostra società dell’informazione, invece di quella borghese-industriale. 

Il punto di partenza è l’ipotesi seguente: 

l’informazione di Shannon è l’analogo odierno del denaro in Marx. 

Prendiamo in esame questo brano dei Lineamenti fondamentali della critica dell’economia politica (alias Grundrisse) in cui Marx indaga sul rapporto tra denaro e merci, molti anni prima che nel Capitale. 

Ogni merce particolare, nella misura in cui è un valore di scambio, ha un prezzo, esprime una determinata quantità di denaro solo in una forma incompiuta, giacché essa deve essere anzitutto posta in circolazione per venire realizzata – e che lo sia o meno è un fatto accidentale a causa della sua particolarità. Ma finché essa non esiste come prezzo, ma soltanto nella sua determinatezza naturale, allora è soltanto momento della ricchezza in virtù della sua relazione a un bisogno particolare che essa soddisfa, e in questa relazione esprime: 1) soltanto la ricchezza d’uso; 2) soltanto un lato del tutto particolare di questa ricchezza. 

Per contro il denaro, a prescindere dalla sua utilizzabilità come merce di valore è: 1) il prezzo realizzato; 2) ciò che soddisfa qualsiasi bisogno in quanto può essere scambiato con l’oggetto di qualsiasi bisogno, con assoluta indifferenza verso qualsiasi particolarità. La merce possiede questa proprietà soltanto grazie alla mediazione del denaro. Il denaro la possiede direttamente nei confronti di tutte le merci, e quindi nei confronti dell’intero mondo della ricchezza, della ricchezza in quanto tale. Nel denaro la ricchezza generale è non soltanto una forma, ma al contempo il contenuto stesso. Il concetto di ricchezza è per così dire realizzato, individualizzato in un oggetto particolare. [13] 

Cosa sta dicendo qui Marx? Che le merci, beni tangibili, esistono perché servono a qualcuno per soddisfare qualche suo bisogno. Le merci possono essere scambiate, e per questo assumono un «valore di scambio». Ma in origine, «nella sua determinatezza naturale», un bene ha un particolare e concreto «valore d’uso» per una persona che ne ha bisogno. Questo valore si realizza nella esperienza d’uso, nel godimento del bene. In tal caso il valore del bene ancora «non esiste come prezzo», cioè non è stato tradotto in una quantità di denaro, non ha ricevuto una forma di denaro. E nemmeno esiste un’idea astratta di “ricchezza”. Esistono solo usi personali. Quando una persona produce beni per soddisfare le proprie necessità – quando «la portata della sua produzione è misurata dal suo bisogno» [14] – la “ricchezza” tutt’al più può corrispondere al benessere che a costui deriva dalla soddisfazione del bisogno. 

Il denaro è l’opposto di questa particolarità. È una rappresentazione astratta dei beni, una specie di unità di misura universale per il valore di scambio di beni diversi tra diverse persone¹⁰. Trascende i valori d’uso di qualsiasi bene, e perciò qualunque bisogno che i beni possano soddisfare. Pur essendo una merce in sé¹¹ è la sostanza stessa del valore di scambio, «il prezzo realizzato». In più, dà al concetto di “ricchezza” un significato concreto: la ricchezza è (una quantità di) denaro. 

Essendo il veicolo di ogni scambio, scrive Marx, «il denaro è il mezzano tra il bisogno e l’oggetto, tra la vita e i mezzi di sussistenza dell’uomo. Ma ciò che media a me la mia vita, media per me anche l’esistenza degli altri uomini.» [12] 

È qui che l’analogia tra denaro e informazione prende spessore. L’informazione, i dati, sono oggi i mezzani tra noi e il mondo. Mediano a noi la nostra stessa vita, e anche l’esistenza degli altri uomini. 

Il flusso di dati si sostituisce al flusso di denaro. Ma il testo marxiano – ecco la logica peculiare del metodo d’indagine per riscrittura – impone un’attenzione ulteriore: ‘denaro’ e ‘dati’ sono legati a diversi scenari e la deissi non funziona più. Altre parole chiave vanno sostituite: quelle della vecchia economia di oggetti materiali devono tradursi in quelle di un’economia di oggetti immateriali, l’economia della conoscenza in cui i dati generano valore e costituiscono la circolazione principale. Al posto delle merci, insomma, abbiamo la conoscenza. Ma qui è necessario un approfondimento. 

Lo scienziato e filosofo Michael Polanyi analizzò i processi creativi che egli stesso e i suoi colleghi vivevano in prima persona [15] [16]. Ne dedusse che noi «sappiamo più di quanto possiamo esprimere» [17], che la conoscenza primaria è quella «tacita» e «personale» incarnata in un individuo, inscritta in forme biologiche nel suo organismo vivente, accumulata nel suo corpo con le esperienze che fa. Know-how, modelli, credenze che dànno forma alle azioni. Benché questo sapere sia inconscio e ineffabile, l’evoluzione ha plasmato la nostra neurobiologia per consentirci di scambiarla direttamente tramite rispecchiamento e imitazione diretta tra corpi, da individuo a individuo [9]: il corpo di A mostra a B come fare una cosa, e il corpo di B prova a riprodurla¹². Ciò è avvenuto molto prima che il linguaggio emergesse, dato che il linguaggio stesso viene appreso per questa via. Qui scorre l’istruzione nativa da genitori a figli, da maestri ad allievi¹³. 

Col tempo è fiorita l’abilità umana di catturare il sapere incarnato e oggettivarlo fuori dal corpo in quelle che Bernard Stiegler ha definito “ritenzioni terziarie” in [29]: sapere depositato in forme meccaniche, analogiche, digitali. Nell’ultimo e più recente stadio il sapere esplicitato è in gran parte quella “information” cui Harvey e Shannon hanno applicato il loro talento matematico e ingegneristico. 

Un individuo può apprendere una porzione di questo sapere esplicito e circolante come dati, analogamente a come usa una merce, un oggetto tangibile, per un proprio scopo. Ne fa un’esperienza che diventa parte del suo corpo, così come il sapere appreso. La differenza è che mentre un oggetto resta lo stesso se è un bene prodotto per sé stessi o una merce prodotta per altri, la conoscenza tacita nel corpo e la conoscenza scambiabile che circola sono materialmente due mondi a sé. 

Vediamo ora quali sostituzioni operare nel testo di Marx. 

Come il denaro, l’informazione ha due lati. Da una parte è un concetto, una forma degli eventi. Ma attualmente è una quantità espressa in bit, materialmente circolante come dati. Da cui la sostituzione zero: 

(S.0) ‘dati’ al posto di ‘denaro’. 

Poi, per quanto detto sopra, abbiamo: 

(S.1) ‘sapere’ al posto di ‘merce’; 

(S.2) ‘informazione’, che è la forma quantitativa di un sapere destinato allo scambio, prende il posto di ‘prezzo’, «cioè la forma di denaro delle merci» [20], una quantità che rappresenta il valore di scambio di una merce; 

(S.3) ‘ricchezza’, che è l’universo delle merci virtualmente disponibili grazie al possesso di grandi quantità di denaro, diventa ‘conoscenza’ nel senso più generale, cioè l’universo del sapere virtualmente disponibile grazie al possesso di grandi quantità di informazione. 

Vediamo cosa viene fuori con la riscrittura. 

Ogni sapere, nella misura in cui è un valore di scambio, è informazione, esprime una determinata quantità di dati solo in una forma incompiuta, giacché esso deve essere anzitutto posto in circolazione per venire realizzato – e che lo sia o meno è un fatto accidentale a causa della sua particolarità. Ma finché esso non esiste come informazione, ma soltanto nella sua determinatezza naturale, allora è soltanto un momento della conoscenza in virtù della sua relazione a un bisogno particolare che esso soddisfa, e in questa relazione esprime: 1) soltanto la conoscenza d’uso; 2) soltanto un lato del tutto particolare di questa conoscenza. 

Per contro i dati, a prescindere dalla loro utilizzabilità come sapere di valore, sono: 1) l’informazione realizzata; 2) ciò che soddisfa qualsiasi bisogno di sapere, in quanto possono essere convertiti nell’oggetto di qualsiasi bisogno di sapere, con assoluta indifferenza verso qualunque particolarità. Il sapere possiede questa proprietà soltanto per la mediazione dei dati. I dati la possiedono direttamente nei confronti di tutte le conoscenze particolari, e quindi nei confronti dell’intero mondo della conoscenza, della conoscenza in quanto tale. Nei dati la conoscenza generale è non soltanto una forma, ma al contempo il contenuto stesso. Il concetto di conoscenza è per così dire realizzato, individualizzato in un oggetto particolare. 

Cosa sta dicendo Marx adesso? 

Ci conferma che «nella sua determinatezza naturale», all’origine, la conoscenza è soggettiva. Che una conoscenza tacita è «un lato del tutto isolato della conoscenza», è un sapere incarnato in una persona che coincide con il “valore d’uso” che rappresenta per quella persona e basta. Questa conoscenza soggettiva può diventare informazione solo quando il sapere è esplicitato e posto in circolazione, trasmesso ad altri. Il che può accadere o no, e se non accade la conoscenza non è informazione. 

Ci conferma poi che i dati, al contrario, soddisfano qualunque bisogno di sapere perché rappresentano qualunque sapere e lo rendono trasmissibile a prescindere dai suoi caratteri originari, «con assoluta indifferenza verso qualunque particolarità». Nel mediare la conoscenza, i dati la astraggono rispetto agli usi e alle persone, e così realizzano l’idea della conoscenza stessa «nella sua totalità, nella sua astrazione dal proprio particolare modo di esistere», come scrive Marx poco più avanti. 

Ma non finisce qui: Marx suggerisce altri paralleli tra denaro e dati digitali 

Come lo scambio di merci prende l’aspetto imposto dal denaro, lo scambio di conoscenza prende l’aspetto imposto dall’informazione. In entrambi i casi lo scambio avviene in virtù della totale fungibilità che i dati condividono con il denaro. In realtà la fungibilità dei dati supera di gran lunga quella del denaro¹⁵, e la prova è che il denaro stesso oggi prende la forma di dati, i quali si trovano a un livello di astrazione superiore.¹⁶ 

I dati inoltre godono di una proprietà aggiuntiva: la calcolabilità automatica conferisce loro una incomparabile funzionalità, cioè la capacità di rappresentare funzioni e algoritmi e di esserne modificati, di elaborare e di essere elaborati nelle macchine informatiche. Grazie a Turing e Shannon, ogni cosa datificata è infinitamente riproducibile, processabile, trasmissibile. 

DATI E METADATI 

Questa riscrittura di Marx disegna un quadro coerente. Possiamo prenderlo come una prima proof of concept dell’ipotesi iniziale. Ma mettiamola ulteriormente alla prova. 

Stavolta prendiamo un passo tratto dal Capitale. Qui Marx confronta due circolazioni, due opposte dinamiche di relazione tra persone, denaro e merci, e spiega come il denaro si trasforma in capitale. 

La forma immediata della circolazione delle merci è M-D-M: trasformazione di merce in denaro e ritrasformazione di denaro in merce. Ma accanto a questa forma, ne troviamo una seconda, specificamente diversa, la forma D-M-D: trasformazione di denaro in merce e ritrasformazione di merce in denaro. […] Il processo D-M-D ha le sue premesse non in una distinzione qualitativa dei suoi estremi, poiché essi sono entrambi denaro, ma solo nella loro diversità quantitativa. Alla fine si preleva dalla circolazione più denaro di quanto ne fosse stato introdotto all’inizio. Il cotone comprato a 100 sterline, p.es., viene poi  venduto per 100 + 10 sterline. La forma compiuta di questo processo è quindi D-M-D’, dove D’ = D + ΔD = la somma di denaro originariamente anticipata, più un incremento. Chiamo plus-valore (surplus value) questo incremento, questa eccedenza sul valore originario. Quindi il valore originariamente anticipato non solo si conserva nella circolazione, ma in essa aumenta pure la sua grandezza di valore, aggiunge un plusvalore, cioè si valorizza. È questo movimento che lo trasforma in capitale. [20] 

Prima di tutto dobbiamo capire quali sono i nostri sostituti per le due circolazioni, con una breve genealogia comparata. In Marx lo scambio economico primordiale è M-M, merce per merce; analogamente possiamo dire che lo scambio primordiale di sapere è U-U, da umano a umano, per rispecchiamento diretto tra corpi in presenza fisica. Con i linguaggi e con le ritenzioni terziarie la conoscenza si fa esplicita, emergono mediatori tra i due U che li allontanano nello spazio e nel tempo, finché dopo Turing e Shannon la mediazione tende a essere svolta in esclusiva dai dati digitali D. 

Per noi i due circuiti sono quindi U-D-U e D-U-D. Con essi riscrivo subito il brano, rimandando a dopo gli altri chiarimenti. 

La forma più semplice di circolazione della conoscenza è U-D-U: trasformazione di sapere personale in dati, e ritrasformazione di dati in sapere personale. Ma accanto a questa forma ne troviamo una seconda specificamente diversa: D-U-D, trasformazione di dati in sapere personale, e ritrasformazione di sapere personale in dati. […] Il processo D-U-D ha le sue premesse non in una distinzione qualitativa dei suoi estremi, poiché essi sono entrambi denaro, ma solo nella loro diversità quantitativa. Alla fine si prelevano dalla circolazione più dati di quanti ne fossero stati introdotti all’inizio. Un contenuto di 1MB, p.es., si ripresenta come 1MB + 1KB. La forma compiuta di questo processo è quindi D-U-D’, dove D’ = D + ΔD = la quantità di dati originaria, più un incremento. Chiamo plusvalore (surplus value) questo incremento o eccedenza sul valore originario. Quindi il valore originariamente anticipato non solo si conserva nella circolazione, ma in essa aumenta pure la sua grandezza di valore, aggiunge un plusvalore, cioè si valorizza. È questo movimento che lo trasforma in capitale. 

Del circuito U-D-U abbiamo continue esperienze nella società dell’informazione. Ad esempio quando chattiamo con qualcuno attraverso un’app social, dove l’U iniziale e l’U finale sono persone diverse. O quando cerchiamo qualcosa online con un motore di ricerca, caso in cui l’U iniziale e l’U finale coincidono. 

La parte delicata è il circuito D-U-D, con U come human in the loop. Per comprenderlo correttamente si deve ricordare che nella società dell’informazione machine-biased ogni cosa va vista nell’ottica delle macchine informatiche. Ebbene, da questo punto di vista i dati sono solo sequenze di bit. Zero significato, qualunque sia il significato che noi diamo alla parola ‘significato’. Gli umani estraggono un “significato” dai fenomeni sensibili in quanto li valutano in rapporto alle proprie condizioni di viventi. Lo fanno per natura. E devono farlo anche coi dati, ragion per cui si servono di macchine informatiche. Le macchine invece non lo fanno. Allora il punto è resistere alla tentazione di leggere da umani la D finale del circuito D-U-D come se fosse un significante, un contenuto digitale destinato alla nostra fruizione. Se così fosse, il ciclo sarebbe in realtà D-U-D(-U), perciò sarebbe l’altro ciclo, U-D-U, “la circolazione semplice della conoscenza”. 

Marx affronta un problema analogo col suo D-M-D: anche qui la D finale non va vista come denaro con cui acquistare beni e soddisfare bisogni, altrimenti ricadremmo nella circolazione “sana” (D-)M-D-M. No, la D finale di D-M-D è denaro fine a sé stesso: un numero. Così pure nel nostro caso la D finale di D-U-D è dati fini a sé stessi: di nuovo un numero (la sequenza di bit). 

Come una somma di denaro, anche un insieme di dati «si può distinguere da un altro soltanto per la sua grandezza». Nel caso del denaro è il semplice importo; nel caso dei dati è il numero in base 2 che corrisponde a quella sequenza, oppure un numero calcolato a partire da quei dati: ad es. il “peso” in byte, una checksum, una funzione hash, ecc. 

Ma cos’è quel curioso 1KB che si somma all’1MB di partenza digerito dallo human in the loop? 

Si tratta di metadati, dati che descrivono altri dati. Nella circolazione D-U-D’ il mediatore umano viene usato per produrre quel ΔD di metadati che espande il valore iniziale dei dati aggiungendo ad essi qualcosa di umano, un quid di significato che ci compete in rapporto a loro. Questa espansione, tuttavia, avviene a un costo: il sapere soggettivo di U deve essere codificato all’origine per poter confluire subito nei dati. 

I metadati di ΔD possono essere generati dagli umani sia come tracce collaterali alle nostre interazioni con il mondo dei dati – chiavi di ricerca, trend topic, pattern di navigazione, reazioni sui social network, georeferenziazione, ecc. – sia intenzionalmente con l’input manuale di valori¹⁷. Fra questi ultimi metadati hanno un posto speciale le data labels o annotations, le etichette che associano significati ai data point dei dataset con cui si addestrano i modelli IA¹⁸. 

Benché eseguita da umani, spesso manodopera a basso costo¹⁹, la data annotation è una pura funzione informatica: associa permanentemente a un contenuto digitale un insieme definito di tag, che è una restrizione formale del linguaggio naturale²⁰. L’umano qui è necessario in quanto svolge una funzione impossibile per la macchina; tuttavia è costretto a svolgerla nei termini della macchina. Il setting dell’imitation game continua a dettar legge: anche qui l’umano si deve limitare a soli testi scritti. 

Questi metadati sono il risultato del lavoro cognitivo di qualcuno, perciò incorporano definitivamente la sua interpretazione e portano con sé la soggettività di quel qualcuno. Ma attraverso la filiera D-U-D’ questa soggettività è dissipata per sempre quando il contenuto interpretato è assorbito in D’ e così cristallizzato, reso “oggettivo”. Nelle parole di Marx: «il movimento mediatore scompare nel proprio risultato senza lasciar traccia». [20] 

Chiunque, ad esempio, utilizzi un dataset di training come ImageNet²¹, impiega quella conoscenza datificata as is, senza alcun riferimento alla provenienza sia delle immagini che delle etichette che dicono cosa c’è nelle immagini. 

Quelle etichette sono tutt’altro che accessorie. Formano la “ground truth” del modello IA, l’ordito di lillipuziani ormeggi referenziali che lo ancora al nostro mondo. Guidano il training fino al rilascio in produzione. Condizionano intimamente il suo comportamento futuro. Eppure alla fine tutto appare come se le etichette fossero proprietà native di dati grezzi, dati che si sono generati da sé. 

La crasi di dati e metadati è un nuovo punto di partenza per l’osservazione e la sperimentazione, come se fosse un fenomeno naturale. Dati da cui derivare altri dati. Gli operatori umani in D-U-D’ sono scomparsi e il processo è diventato D-D’. Il ΔD fornito dall’umano serve ad accrescere la funzionalità e l’efficienza dei dati, quindi il loro valore economico, inclusa una maggiore capacità di auto-riprodursi. 

Anche gli stessi ricercatori che progettano e addestrano un modello IA sono in un ciclo D-U-D’: una volta messo il sistema in produzione svaniscono perché questo è precisamente lo scopo della rete neurale: produrre dati da altri dati, eliminare U, abilitare D-D’. 

AUTO-ESPANSIONE E POTERE DEI DATI 

Per Marx l’evoluzione fatale del denaro-capitale è l’auto-riproduzione D-D’: denaro che cresce da sé indefinitamente, con un tasso d’interesse, senza più bisogno di convertirsi in merci utili o necessarie alle persone. È un «feticcio automatico»: “feticcio” per il valore simbolico e mistico di cui è carico, “automatico” per la sua capacità di auto-espandersi. Questa crescita infinita e indipendente dai bisogni umani porta nel cuore della società umana un principio alieno di destabilizzazione. 

Analogamente i dati tendono alla propria auto-riproduzione D-D’ senza più bisogno non solo di esserci realmente utili, ma perfino di significare qualcosa per noi. Come il denaro di Marx, i dati sono un «feticcio automatico» che porta nel cuore della società umana un principio alieno di destabilizzazione. Lo sono molto più del denaro, perché l’auto-riproduzione dei dati: 

• è massiva – i dati prodotti dai sistemi IA si moltiplicano in quantità e velocità che non hanno rapporto con le capacità cognitive umane; 

• è necessaria – perché più cresce il volume dei dati disponibili più siamo costretti ad affidare la loro elaborazione ai sistemi IA; 

• è credibile nel mimare comportamenti umani, può impersonare un interlocutore e trarci in inganno. 

L’onnipotenza del denaro D che può comprare tutto, raccontata da Marx, diventa nel nostro mondo l’onnipotenza dei dati D che possono dire tutto. Il potere dei dati non sta più nell’appropriazione materiale di cose e persone, come per il denaro, ma nella conoscenza. Soprattutto nella conoscenza delle persone come strumento di dominio. 

Pensiamo all’effetto del circuito D-D’ nel profiling ([23]): i dati che compongono il ritratto informatico di una persona fisica possono essere automaticamente rielaborati per derivarne altri dati aggiunti al profilo, e questo ΔD consiste di fatto in nuove presunte “verità” sull’identità di quella persona, considerate pari agli altri dati. Un esempio tipico: D è il mio punteggio di affidabilità creditizia e/o il mio codice di avviamento postale, il ΔD derivato è una mia “disposizione a delinquere” per cui l’autorità giudiziaria può prendere provvedimenti restrittivi a mio carico. Pur essendo solo montature calcolate, questi ΔD sul nostro conto possono sottrarre credito, lavoro, libertà, cambiare destini a seconda del potere a loro concesso. 

CONCLUSIONE 

Qui infatti si pone a noi la scelta tra due strade. 

α Dare a D’ un ruolo descrittivo ausiliario alle decisioni umane in un ambiente sociotecnico in cui le macchine sono concepite per collaborare con noi e aiutarci a generare senso²². D’ è subordinato ad U, i dati sono oggetto di interpretazioni e discussioni nel campo umano, le valutazioni non si basano sul «rendere i task stupidi» (L. Floridi) e non si limitano mai a ciò che è riducibile al «linguaggio primitivo» di dati e numeri. Il circuito della conoscenza è (D-)U-D’-U. 

ω Dare a D’ il ruolo performativo di una decisione automatica, con conseguenze reali sulla vita degli umani, come un sistema giudiziario imperscrutabile. Qui i criteri di valutazione hanno la forma dei dati stessi (semplici parametri numerici) e possono essere incorporati nei dati come metadati senza origine. Data l’universalità dell’informazione, idealmente il mondo diventa una chiusura operativa di D. Il circuito della conoscenza è D-(U-)D’. 

Com’era per Marx il ciclo M-D-M, per noi è la via α quella sana e auspicabile: 

• cerca una continuità antropologica e ci offre una chance di porre rimedio, per quanto possibile, alla discontinuità essenziale che separa l’informazione dal mondo fisico cui apparteniamo; 

• non lascia mano libera alla ristrettezza dei criteri numerici, ma li completa con ciò che è incalcolabile: sentimenti, immedesimazione, intuizione, dialogo, narrativa, mito, ecc.; 

• assume che qualsiasi processo artificiale che ci riguarda abbia come punto di fuga gli interessi fondamentali degli esseri umani come parte della natura. 

Al contrario, la via ω è un piano inclinato e scivoloso che si perde nell’astrusa apoteosi della cultura machine-biased, in cui i tratti tipici degli umani e dei viventi gradualmente svaniscono dai nostri disegni per la società presente e futura. 

Essenza di questa alienazione è il distacco fra gli esseri umani. Marx deplora che le persone finiscano per parlarsi tramite le cose; oggi quando ci guardiamo tramite le macchine siamo costretti a vederci l’un l’altro come le macchine ci vedono, cioè come cose immateriali fatte di proprietà e funzioni. Lo sguardo mediato dalle macchine riproduce e istituzionalizza l’empatia zero propria dei modelli di intelligenza e di comunicazione di Turing e Shannon, gli stessi in ogni tempo perseguiti dai promotori della “perfettibilità” umana mediante logica e macchine. 

Questa depressione empatica strutturale apre la strada a nuove oppressioni, e anche in questo il capitale-dati è più efficiente del capitale-denaro. La società data-driven del resto prosegue senza soluzione di continuità la società market-driven, e l’economia dei dati generalizza l’economia capitalista in una forma più astratta che offra il minore attrito possibile nelle condizioni attuali. 

BIBLIOGRAFIA 

[1] Turing, A. M. (1950). Computing machinery and intelligence, in Mind, 59, pp. 433-460. Trad: Macchine calcolatrici e intelligenza, in Somenzi V. (a cura di) (1965). La filosofia degli automi, Boringhieri. 

[2] Hartley, R. (1926). The Transmission of Information, Vol. 118, Part 2, December 18, 1926, page 874-875. 

[3] Gleick, J. (2015). L’informazione. Una storia, una teoria, un diluvio, Feltrinelli. (pos. Kindle 86-89) 

[4] Turing, A. M. (1936-7). On Computable Numbers, with an Application to the Entscheidungsproblem, in Proc. of the London Mathematical Society vol. 42 (1936-7), pp. 230-265. 

[5] Shannon, C. (1948). A Mathematical Theory of Communication. 

[6] Floridi, L. (2014). La quarta rivoluzione. Come l’infosfera sta trasformando il mondo, Raffaello Cortina. (pos. Kindle 1634-1635) 

[7] Heidegger, M. (1988), Filosofia e cibernetica, ETS. 

[8] Aaronson, S. (2011). Why Philosophers Should Care About Computational Complexity – arXiv:1108.1791 (trad. mia). 

[9] Rizzolatti, G., Sinigaglia, C. (2006). So quel che fai. Il cervello che agisce e i neuroni specchio, Raffaello Cortina Editore. 

[10] Wittgenstein, L. (2014). Ricerche filosofiche, Einaudi. 

[11] Kurzweil, R. (2008). La singolarità è vicina, Apogeo. 

[12] Marx, K. (1975). Manoscritti economico-filosofici del 1844, Einaudi. 

[13] Marx, K. (1968). Lineamenti fondamentali della critica dell’economia politica 1857-1858, vol. 1, La Nuova Italia. 

[14] Marx, K. (1844). Comments on James Mill, Éléments D’économie Politique (online) https://www.marxists.org/archive/marx/works/1844/james-mill/ (ultimo accesso 04/01/23); traduzione mia. 

[15] Polanyi, M. (1958). Personal Knowledge: Towards a Post-Critical Philosophy, Routledge & Kegan Paul Ltd. 

[16] Polanyi, M. (1966). The Tacit Dimension, Doubleday. 

[17] Polanyi, M. (1988). La conoscenza inespressa, Armando. 

[18] Jaynes, J. (2014). La natura diacronica della coscienza, Adelphi. 

[19] Zittrain, J. (2021). The internet is rotting (online) https://www.theatlantic.com/technology/archive/2021/06/the-internet-is-a-collective-hallucination/619320/ (ultimo accesso: 04/01/23) 

[20] Marx, K. (1980). Il capitale, I, Editori Riuniti. 

[21] Han, B.-C. (2022). Le non cose, Einaudi. 

[22] Murgia, M. (2019). AI’s New Workforce: The Data-Labelling Industry Spreads Globally (online) https://medium.com/financial-times/ais-new-workforce-the-data-labelling-industry-spreads-globally-f472cb1bac09 (ultimo accesso 04/01/24) 

[23] https://www.altalex.com/documents/altalexpedia/2018/05/28/profilazione (ultimo accesso: 04/01/23) 

[24] Cabitza, F., Campagner, A., Ciucci, D., Seveso, A. (2019). “Programmed Inefficiencies in DSS-Supported Human Decision Making.” In: Torra V., Narukawa Y., Pasi G., Viviani M. (eds) Modeling Decisions for Artificial Intelligence. MDAI 2019. Lecture Notes in Computer Science, vol 11676. Springer, Cham. https://doi.org/10.1007/978-3-030-26773-5_18 

[25] Turing, A.M. (1994). Intelligenza meccanica, Bollati Boringhieri. 

[26] Natal, J.; Ávila, I.; Tsukahara, V.B.; Pinheiro, M.; Maciel, C.D. (2021). Entropy: From Thermodynamics to Information Processing. Entropy 23(10):1340. https://doi.org/10.3390/e23101340 

[27] Galilei, G. (1632). Dialogo sopra i due massimi sistemi del mondo, Landini. 

[28] Meister, M. e Berry, M. J. (1999). The neural code of the retina. Neuron, 22(3):435–450. 

[29] Stiegler, B. (1994). La Technique et le Temps 1: La faute d’Épiméthée, Galilée. Trad. it. La colpa di Epimeteo. Vol. 1: La tecnica e il tempo, Luiss University Press (2023) 

[30] Perrigo, B. (2023). Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic (online) https://time.com/6247678/openai-chatgpt-kenya-workers/ 

[31] Ingram, D. (2023). ChatGPT is powered by these contractors making $15 an hour (online) https://www.nbcnews.com/tech/innovation/openai-chatgpt-ai-jobs-contractors-talk-shadow-workforce-powers-rcna81892 

1. Shannon lo dichiara in apertura, ibid.: «Spesso i messaggi hanno significati; vale a dire che si riferiscono a o sono correlati mediante qualche sistema con certe entità fisiche o concettuali. Questi aspetti semantici della comunicazione sono irrilevanti per il problema ingegneristico» (traduzione e corsivo miei).   ↩︎
2. Turing scrive esplicitamente in [1]: «Il nuovo problema ha il vantaggio di tirare una linea di separazione abbastanza netta tra le capacità fisiche e quelle intellettuali di un uomo» (pag. 118).   ↩︎
3. «Da tempo è stato riconosciuto che la sostanza essenziale trasmessa dai neuroni non è la carica elettrica o le sostanze neurochimiche, ma l’informazione. Nell’analisi di un sistema neurale, è essenziale misurare e seguire il flusso di questa sostanza, proprio come negli studi sul sistema vascolare si vuole misurare il flusso sanguigno». [28]   ↩︎
4. Heidegger le rilevava così nel 1968: «Il concetto guida della cibernetica, il concetto di informazione, è per giunta sufficientemente vasto da poter un giorno assoggettare alle pretese della cibernetica anche le scienze storiche dello spirito. Ciò riuscirà tanto più facilmente in quanto il rapporto dell’uomo di oggi con la tradizione storica si tramuta visibilmente in un mero bisogno d’informazione». [7]   ↩︎
5. In una nota nella stessa pagina: «Le persone che interagiscono in internet, via email o chat, di norma si giudicano l’un l’altro umani invece che spam-bot dopo aver scambiato un numero molto più piccolo di bit!». Ancora interazioni testuali e in absentia, quelle del test di Turing, in un ambiente relazionale modellato dall’informatica   ↩︎
6. Si tratta letteralmente di «attaccare a qualcosa un cartellino con un nome», nelle parole di Wittgenstein [10].   ↩︎
7. «Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell’Atlantico, del 29 agosto.» (dal film Terminator 2).   ↩︎
8. L’invenzione letteraria di Vinge e Kurzweil. Curiosamente il libro di Kurzweil [11] è classificato come non-fiction: una riprova della ampia flessibilità delle nostre categorie   ↩︎
9. Interessante notare, in margine, che nel far ciò Queneau accoglieva alla lettera l’esortazione di Hilbert stesso a vedere gli oggetti della sua trattazione non come le omonime entità della geometria euclidea ma come pure astrazioni, senza referenti nel mondo fisico.   ↩︎
10. In questo senso il mercato è come uno strumento di misura che converte tutto in numeri: i prezzi sui cartellini attaccati alle merci.   ↩︎
11. Al tempo di Marx si trattava di oro e argento, ma il denaro ha conservato la qualifica di merce scambiabile anche ridotto a valore nominale, dissociato dal materiale prezioso   ↩︎
12. Cfr. la critica ad Aaronson sopra   ↩︎
13. «Si può dimostrare che negli esseri umani tutti i tipi di apprendimento – il condizionamento, l’apprendimento di abilit¿ motorie e l’apprendimento strumentale o condizionamento operante – hanno luogo senza alcuna consapevolezza o contributo da parte della coscienza» [18].   ↩︎
14. «L’internet è marcia. (…) La colla che tiene insieme la conoscenza dell’umanità si sta disfacendo». [19]   ↩︎
15. Proprio in opposizione a questa estrema fungibilità è fiorito il mito dei Non-Fungible Tokens: prima che se ne impadronisse la furia speculativa sull’intangibile, manifesta l’insopprimibile necessità umana del rapporto con le cose materiali che cerca disperatamente di realizzarsi anche nel reame alieno del digitale. Cfr. [21]   ↩︎
16. Ciò indica che l’universo originale di Marx sia abbracciato e assorbito dalla mia trasposizione. I due discorsi non restano distinti in un parallelo passato vs. presente ma sono convoluti l’uno nell’altro: un intreccio assai interessante che spalanca alla ricerca un territorio vastissimo   ↩︎
17. La distinzione tra metadati intenzionali e non intenzionali non esiste nell’ottica della macchina, per la quale i commenti e le reazioni a un post su Facebook possono essere metadati di quel post, mentre dal nostro punto di vista sono parte di una conversazione. In realtà cosa sia o non sia metadati per la macchina dipende dalla struttura dei dati definita nel codice.   ↩︎
18. La domanda per l’etichettatura semantica di immagini e video dilaga nei più vari settori al seguito delle applicazioni IA: dalla ricerca pura si arriva ad es. a Netflix per classificare film e serie, o a Tesla per addestrare le auto a guida autonoma. Ma anche il feedback umano nel RLHF (Reinforced Learning with Human Feedback) usato per migliorare i Large Language Models si può considerare una forma di data annotation.   ↩︎
19. Vedi ad es. [22], [30], [31]. I casi emergono di pari passo con l’espansione dell’industria.   ↩︎
20. Ancora l’acutezza di Wittgenstein [10]: «si può anche dire che sia la rappresentazione di un linguaggio più primitivo del nostro».   ↩︎
21. Corpus di oltre 14 milioni di immagini etichettate, che viene utilizzato da ricercatori di tutto il mondo per addestrare e testare reti neurali per il riconoscimento visivo di immagini: https://image-net.org/   ↩︎
22. V. ad es. [24].   ↩︎