Project Syndicate » Selezione del Mese
La società dell’algoritmo e i suoi scontenti, di J. Bradford DeLong (da Project Syndicate, 6 marzo 2023)
Mar 6, 2023
The Algorithm Society and Its Discontents
BRADFORD DELONG
BERKELEY – In my view, the most profound and insightful work of political economy written in the 2010s was neither a journal article nor a monograph nor a book in the traditional sense. Rather, it was an online symposium. In Red Plenty: A Crooked Timber Book Event, scholars and intellectuals, convened by political scientist Henry Farrell, used a new mode of print-communication to react to Francis Spufford’s very interesting book Red Plenty.
Spufford had analyzed the Soviet Union’s stunningly unsuccessful attempt to use bureaucracy and mathematics to build a better society than could be achieved using markets. Yet every time I return to Red Plenty: A Crooked Timber Book Event, I am struck by its contributors’ insights into the insurmountable dilemmas generated by the modern market economy itself. I am also still struck by how successful the “book event” was in using new technologies to drive a qualitative shift in how we communicate and come to understand the world together.
I have been thinking about these issues because Farrell recently published a new article, “The Moral Economy of High-Tech Modernism.” He and the sociologist Marion Fourcade argue that the internet and its progeny (what they call “high-tech modernism”) are changing the world in ways that are as profound as the rise of the market economy and the bureaucratization of society under the modern state.
This argument concerns the very foundation of human society. As individuals, we humans are each weak and helpless. Only with the knowledge that we gain from life within a culture are we able to survive. But to have a culture or produce anything, we need to organize and coordinate ourselves in a collective intelligence and distributed entity. For thousands of years, we generally have had three different modes of maintaining such organization.
The first is redistribution: information, resources, and useful products flow into a centralized pool and then flow out again in the form of assigned tasks, tools, rewards, or social support. The second mode has been reciprocity: each household is linked to a few others in long-term gift-exchange relationships that tend toward a rough balance. And, because there are only six degrees of separation in most human societies, one unit’s needs will affect the actions of many others. Lastly, there is democracy: people use debate and discussion to reach a rough consensus and achieve broad-based support for an agreed-upon plan.
Of course, each mode of organization entails a mode of distribution and authorization, to answer the question of who should get more of the good things (who should be “more equal” than the others). With redistribution, power accrues to the one at the center of the system; with reciprocity, to those with the most resources and friends; and with democracy, to those with the silver tongues.
With the coming of modernity, we added two more modes: the market economy as engineered by the business class; and bureaucracy, as engineered by the modern state. The market is unmatched as a tool for crowdsourcing solutions to problems. But, in practice, its scope is limited to satisfying the demands of the rich, by ensuring the efficient use of those things that just so happen to command a market price.
Similarly, bureaucracy is uniquely powerful and capable in its ability to classify and standardize things, which allows it to see the bigger picture in ways that a reciprocity or redistribution system cannot. But, of course, it also can give rise to many inefficiencies.
Our mighty, but deeply flawed and unequal civilization was built by adding markets and bureaucracy to our three original modes of organization. But now, Farrell and Fourcade warn that we are adding a sixth mode: the algorithm.
According to techno-optimists, a society of algorithms would be much better than anything we can hope to create with markets and bureaucracy. Unlike a market, an algorithm is not restricted to seeing only the money demands of the rich and the money costs imposed by those who have managed to claim property rights. And unlike a bureaucracy, an algorithmic society will not force you, a square peg, into a round hole.
No longer will “experts” decide what category you should fall into. Instead, affinity groups will spring up spontaneously from the revealed preferences expressed by people’s words and actions. Resources will be mobilized to serve each individual by tapping into the unique power of economies of scale.
Is this a hope that we should all share? To be sure, when bureaucracy arrived as a new mode of organization, it erased tacit forms of knowledge, disrupted the messiness of people’s lives, and forced people into categories that were most useful to those holding the levers of power. Equally, markets introduced massive, costly new externalities by prioritizing the needs of the rich. But is there any good reason to think that an algorithmic society would fix these flaws, or that it would not introduce new, massive problems of its own?
The economics Nobel laureate Daniel Kahneman’s concept of thinking “fast” and “slow” can help us see what is at stake, here. An algorithmic society would serve only our “thinking fast” side, constantly seeking “engagement” – meaning fear and rage. Just as markets cater to the rich, algorithms cater to our worst impulses.
A clickbait society is no one’s vision of Utopia. Yet that, I fear, is where current trends are carrying us.
La società dell’algoritmo e i suoi scontenti,
di J. Bradford DeLong
BERKELEY – Secondo me, il lavoro di economia politica più profondo e acuto scritto nel secondo decennio degli anni 2000 non è stato un articolo su una rivista, una monografia e neanche un libro nel senso tradizionale. È stato, piuttosto, un seminario on-line. In “Abbondanza rossa”: incontro su un libro di [promosso dal gruppo di] ‘Legno Storto’ [1], studiosi e intellettuali convocati dal politologo Henry Farrell, utilizzarono un nuovo modo di comunicazione stampata in risposta al libro molto interessante di Francis Spufford “Abbondanza Rossa”.
Spufford aveva analizzato lo sbalorditivo tentativo fallito dell’Unione Sovietica di usare la burocrazia e la matematica per costruire una società migliore di quella che poteva essere realizzata utilizzando i mercati. Tuttavia, ogni volta che ritorno a “Abbondanza rossa”: incontro su un libro promosso da il ‘Legno Storto’, sono colpito dalle intuizioni dei suoi realizzatori sui dilemmi generati dalla stessa moderna economia di mercato. Sono anche stupito da quanto successo ebbe il ‘seminario sul libro’ nell’utilizzare nuove tecnologie per provocare uno spostamento di qualità nel modo in cui comunichiamo e arriviamo assieme a comprendere il mondo.
Sto ragionando su questi temi perché Farrell ha di recente pubblicato un nuovo articolo, “L’economia morale del modernismo dell’alta tecnologia”. Assieme al sociologo Marion Fourcade, essi sostengono che internet e la sua progenie (quello che essi chiamano “modernismo dell’alta tecnologia”) stanno cambiando il mondo in modi altrettanto profondi della ascesa dell’economia di mercato e della burocratizzazione della società sotto gli Stati moderni.
Questo argomento riguarda lo stesso fondamento della società umana. Come individui, noi umani siamo tutti deboli e vulnerabili. Siamo capaci di sopravvivere soltanto dalla conoscenza che otteniamo dal vivere entro una cultura. Ma per avere una cultura o per produrre qualcosa, abbiamo bisogno di organizzarci e coordinarci in una intelligenza collettiva e in un organismo distribuito. In migliaia di anni, generalmente abbiamo avuto tre modi diversi per mantenere una organizzazione simile.
Il primo è la redistribuzione: l’informazione, le risorse ed i prodotti utili affluiscono in un contenitore centralizzato e in seguito ancora fuoriescono nella forma di compiti stabiliti, di strumenti, di premi o di sostegno sociale. Il secondo modo è stato la reciprocità: ogni famiglia è collegata a poche altre in una relazione a lungo termine di scambio di doni che tende verso un equilibrio approssimativo. E, poiché ci sono soltanto sei gradi di separazione nella maggior parte delle società umane [2], i bisogni di una unità influenzeranno le iniziative di molte altre. Da ultimo, c’è la democrazia: le persone utilizzano il dibattito e la discussione per raggiungere un rudimentale consenso e realizzare un sostegno su ampie basi per un programma condiviso.
Naturalmente, ciascun modo di organizzazione implica un modo di distribuzione e di autorizzazione, che risponda alla domanda su chi dovrebbe ottenere un maggior numero di cose positive (chi dovrebbe essere “più uguale” degli altri). Con la redistribuzione, il potere si concentra su chi sta al centro del sistema; con la reciprocità, su quelli che hanno maggiori risorse ed amicizie; e con la democrazia, su quelli che hanno più parlantina.
Con l’arrivo della modernità, abbiamo aggiunto due modalità: l’economia di mercato come concepita dalla classe imprenditoriale; e la burocrazia come concepita dallo Stato moderno. Il mercato è inarrivabile come strumento per soluzioni ai problemi su basi collettive. Ma, in pratica, il suo scopo è limitato a soddisfare le richieste dei ricchi, garantendo l’uso efficiente di alcune cose purché producano un prezzo di mercato.
In modo simile, la burocrazia è potente e capace unicamente nella sua abilità nel classificare e standardizzare le cose, il che le permette di considerare il quadro più ampio in modi che il sistema della reciprocità o della redistribuzione non consente. Ma, naturalmente, anche essa può generare molte inefficienze.
La nostra civilizzazione, potente ma profondamente difettosa e ineguale, è stata costruita aggiungendo i mercati e la burocrazia ai nostri tre modi originali di organizzazione. Ma adesso, Farrell e Fourcade ci mettono in guardia che stiamo aggiungendo una sesta modalità: l’algoritmo.
Secondo gli ottimisti della tecnologia, una società di algoritmi sarebbe molto migliore di tutto quello che possiamo sperare di generare con i mercati e la burocrazia. Diversamente da un mercato, un algoritmo non è limitato a considerare soltanto la domanda di denaro dei ricchi ed i costi del denaro imposti da coloro che sono riusciti ad affermare diritti di proprietà. E diversamente da una burocrazia, una società algoritmica non vi costringerà a finire disadattati [3].
Gli “esperti” non decideranno più in quale categoria dovrete ricadere. Piuttosto, i gruppi di affinità spunteranno spontaneamente dalle preferenze rivali espresse delle parole e dalle azioni delle persone. Le risorse verranno mobilitate al servizio di ciascuna persona singola, sfruttando l’unico potere delle economie di scala.
È questa una speranza di qualcosa che dovremmo tutti condividere? Di sicuro, quando la burocrazia entrò in scena come unica modalità di organizzazione, essa cancellò tacite forme di conoscenza, arrestò il disordine nella esistenza delle persone, e le costrinse entro categorie che erano soprattutto utili per coloro che detenevano le leve del potere. Allo stesso modo, i mercati introdussero massicce e costose nuove esternalità, dando la priorità ai bisogni dei ricchi. Ma c’è qualche buona ragione per pensare che una società algoritmica riparerebbe questi difetti, o non introdurrebbe invece di per sé nuovi problemi su larga scala?
Il concetto del Premio Nobel per l’economia Daniel Kahneman di pensare “con rapidità” e al tempo stesso “con lentezza”, può aiutarci a vedere quale sia, in questo caso, la posta in gioco. Un società algoritmica servirebbe soltanto al lato del nostro “pensare veloce”, cercando in continuazione un “coinvolgimento” – che comporta paura e rabbia. Proprio come i mercati soddisfano i bisogni dei ricchi, gli algoritmi soddisfano i nostri impulsi peggiori.
Una società che attira soltanto la nostra adesione con un ‘click’ non è per nessuno un’idea di Utopia. Ciononostante, temo, è dove ci stanno portando le attuali tendenze.
[1] Spiegazione della traduzione:
“Abbondanza rossa” è il titolo del libro di Francis Spufford che fu oggetto dell’incontro – promosso dal politologo Henry Farrell – sul libro in questione. “Crooked timber” significa “Legno storto” ed è il nome del un blog promosso da intellettuali di sinistra di diverse nazioni (USA, Regno Unito, Australia, Irlanda, Singapore). L’espressione allude ad una frase famosa di Emmanuel Kant: “Non è mai stato realizzato niente di dritto col legno storto con cui è fatta l’umanità” (1784).
[2] Si tratta di una teoria del sociologo del sociologo americano Stanley Milgram, che la sperimentò in un modo assai strano: ad un gruppo di americani del Midwest venne consegnato un pacchetto che doveva essere consegnato ad un individuo del quale essi conoscevano il nome, la attività, la zona nella quale viveva (distante migliaia di chilometri), ma non l’indirizzo preciso. Essi dovevano trovare degli ‘intermediari’ capaci di realizzare la consegna. Si pensava di produrre in questo modo una catena di centinaia di mediatori, ma risultò che ne esistevano soltanto da cinque a sette per ogni risposta. Da qua la teoria dei “sei gradi di separazione”, che venne pubblicata nella rivista Psychology Today.
[3] Mi pare che letteralmente si tradurrebbe come qualcosa si simile a voler infilare “un piolo quadrato in un buco tondo”; a Napoli forse si direbbe: “Chi nasce quatro nun more tunno” (“chi nasce quadrato non muore tondo”). Ma fondamentalmente equivale al rischio di essere “disadattati”.
By mm
E' possibile commentare l'articolo nell'area "Commenti del Mese"