Project Syndicate » Selezione del Mese

Cosa c’è di sbagliato in ChatGPT? Di Daron Acemoglu e Simon Johnson (da Project Syndicate, 6 febbraio 2023)


Feb 6, 2023

What’s Wrong with ChatGPT?


zz 718   Johnson







CAMBRIDGE – Microsoft is reportedly delighted with OpenAI’s ChatGPT, a natural-language artificial-intelligence program capable of generating text that reads as if a human wrote it. Taking advantage of easy access to finance over the past decade, companies and venture-capital funds invested billions in an AI arms race, resulting in a technology that can now be used to replace humans across a wider range of tasks. This could be a disaster not only for workers, but also for consumers and even investors.

The problem for workers is obvious: there will be fewer jobs requiring strong communication skills, and thus fewer positions that pay well. Cleaners, drivers, and some other manual workers will keep their jobs, but everyone else should be afraid. Consider customer service. Instead of hiring people to interact with customers, companies will increasingly rely on generative AIs like ChatGPT to placate angry callers with clever and soothing words. Fewer entry-level jobs will mean fewer opportunities to start a career – continuing a trend established by earlier digital technologies.

Consumers, too, will suffer. Chatbots may be fine for handling entirely routine questions, but it is not routine questions that generally lead people to call customer service. When there is a real issue – like an airline grinding to a halt or a pipe bursting in your basement – you want to talk to a well-qualified, empathetic professional with the ability to marshal resources and organize timely solutions. You do not want to be put on hold for eight hours, but nor do you want to speak immediately to an eloquent but ultimately useless chatbot.

Of course, in an ideal world, new companies offering better customer service would emerge and seize market share. But in the real world, many barriers to entry make it difficult for new firms to expand quickly. You may love your local bakery or a friendly airline representative or a particular doctor, but think of what it takes to create a new grocery store chain, a new airline, or a new hospital. Existing firms have big advantages, including important forms of market power that allow them to choose which available technologies to adopt and to use them however they want.

More fundamentally, new companies offering better products and services generally require new technologies, such as digital tools that can make workers more effective and help create better customized services for the company’s clientele. But, since AI investments are putting automation first, these kinds of tools are not even being created.

Investors in publicly traded companies will also lose out in the age of ChatGPT. These companies could be improving the services they offer to consumers by investing in new technologies to make their workforces more productive and capable of performing new tasks, and by providing plenty of training for upgrading employees’ skills. But they are not doing so. Many executives remain obsessed with a strategy that ultimately will come to be remembered as self-defeating: paring back employment and keeping wages as low as possible. Executives pursue these cuts because it is what the smart kids (analysts, consultants, finance professors, other executives) say they should do, and because Wall Street judges their performance relative to other companies that are also squeezing workers as hard as they can.

AI is also poised to amplify the deleterious social effects of private equity. Already, vast fortunes can be made by buying up companies, loading them with debt while going private, and then hollowing out their workforces – all while paying high dividends to the new owners. Now, ChatGPT and other AI technologies will make it even easier to squeeze workers as much as possible through workplace surveillance, tougher working conditions, zero-hours contracts, and so forth.

These trends all have dire implications for Americans’ spending power – the engine of the US economy. But as we explain in our forthcoming book, Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperitya sputtering economic engine need not lie in our future. After all, the introduction of new machinery and technological breakthroughs has had very different consequences in the past.

Over a century ago, Henry Ford revolutionized car production by investing heavily in new electrical machinery and developing a more efficient assembly line. Yes, these new technologies brought some amount of automation, as centralized electricity sources enabled machines to perform more tasks more efficiently. But the reorganization of the factory that accompanied electrification also created new tasks for workers and thousands of new jobs with higher wages, bolstering shared prosperity. Ford led the way in demonstrating that creating human-complementary technology is good business.

Today, AI offers an opportunity to do likewise. AI-powered digital tools can be used to help nurses, teachers, and customer-service representatives understand what they are dealing with and what would help improve outcomes for patients, students, and consumers. The predictive power of algorithms could be harnessed to help people, rather than to replace them. If AIs are used to offer recommendations for human consideration, the ability to use such recommendations wisely will be recognized as a valuable human skill. Other AI applications can facilitate better allocation of workers to tasks, or even create completely new markets (think of Airbnb or rideshare apps).

Unfortunately, these opportunities are being neglected, because most US tech leaders continue to spend heavily to develop software that can do what humans already do just fine. They know that they can cash out easily by selling their products to corporations that have developed tunnel vision. Everyone is focused on leveraging AI to cut labor costs, with little concern not only for the immediate customer experience but also for the future of American spending power.

Ford understood that it made no sense to mass-produce cars if the masses couldn’t afford to buy them. Today’s corporate titans, by contrast, are using the new technologies in ways that will ruin our collective future.


Cosa c’è di sbagliato in ChatGPT?

Di Daron Acemoglu e Simon Johnson


CAMBRIDGE – A quanto si dice, Microsoft  è entusiasta del ChatGPT di OpenAI [1], un programma di intelligenza artificiale di linguaggio naturale capace di produrre testi formulati come se li avesse scritti un umano. Avvantaggiandosi nel decennio passato del facile accesso ai finanziamenti, le società e i fondi dei capitali di rischio hanno investito miliardi in una sorta di corsa agli armamenti dell’Intelligenza Artificiale, il cui risultato è stato una tecnologia che adesso può essere utilizzata per sostituire gli umani in una gamma più ampia di funzioni.  Questo potrebbe risolversi in un disastro non solo per i lavoratori, ma anche per i consumatori e gli investitori.

Il problema per i lavoratori è evidente: ci saranno minori posti di lavoro che richiedono forti competenze di comunicazione, e quindi minori posizioni con buoni salari. Gli addetti alle pulizie, gli autisti ed alcuni altri lavoratori manuali manterranno i loro posti di lavoro, ma tutti gli altri dovrebbero aver paura. Si considerino i servizi alla clientela. Invece di assumere persone per interloquire con i clienti, le società di baseranno sempre di più su forme produttive di Intelligenza Artificiale come ChatGPT per tranquillizzare interlocutori arrabbiati con parole intelligenti e rassicuranti. Minori posti di lavoro al livello di ingresso comporteranno minori opportunità di avviare carriere – proseguendo una tendenza stabilita dalle precedenti tecnologie digitali.

Anche i consumatori patiranno. I robot che conversano con esseri umani possono andar bene per gestire questioni di assoluta normalità, ma non sono le domande routinarie che in generale portano le persone a chiamare un servizio per i clienti. Quando c’è un problema reale – come un compagnia aerea che si è bloccata o una conduttura che è esplosa nella vostra cantina – volete parlare con un professionista ben qualificato, comprensivo, che ha la possibilità di indirizzare risorse ed organizzare soluzioni tempestive. Non volete essere messi in attesa per otto ore, ma non volete neppure parlare immediatamente con un robot eloquente ma in ultima analisi inutile.

Naturalmente, in un mondo ideale verrebbero fuori e si impadronirebbero di quote di mercato nuove società che offrono migliori servizi alla clientela. Ma nel mondo reale, molte barriere all’ingresso rendono difficile a nuove imprese di espandersi rapidamente. Potete essere affezionati al vostro panettiere locale o al rappresentante di una compagnia aerea amichevole o a un particolare dottore, ma pensate a quello che occorre per creare una nuova catena di negozi alimentari, una nuova compagnia aerea o un nuovo ospedale. Le imprese esistenti hanno grandi vantaggi, comprese forme importanti di potere di mercato che le permettono di scegliere quali tecnologie disponibili adottare e di utilizzarle nel modo che vogliono.

In modo più sostanziale, nuove società che offrono migliori prodotti e servizi richiedono in generale nuove tecnologie, come strumenti digitali che possono rendere più efficaci i lavoratori e contribuire a creare migliori servizi personalizzati per la clientela della società. Ma, dato che gli investimenti nella Intelligenza Artificiale stanno mettendo al primo posto l’automazione, questo genere di strumenti non vengono neppure prodotti.

Nell’epoca del ChatGPT anche gli investitori in società quotate in Borsa ci rimetteranno. Queste società potrebbero migliorare i servizi che offrono ai consumatori investendo in nuove tecnologie per rendere le loro forze di lavoro più produttive e più capaci di nuove prestazioni, e fornendo abbondante formazione per l’aggiornamento delle competenze degli occupati. Ma non lo stanno facendo. Molti dirigenti continuano ad essere fissati con una strategia che in ultima analisi è destinata ad essere ricordata come autodistruttiva: diminuire l’occupazione e rendere i salari più bassi possibile. I dirigenti perseguono questi tagli perché è quello che dicono loro di fare giovanotti intelligenti (analisti, consulenti, docenti di finanza, altri dirigenti), e perché Wall Street giudica le loro prestazioni in rapporto ad altre società che stanno anch’esse spremendo i lavoratori più che possono.

L’Intelligenza Artificiale è anche in procinto di estendere gli effetti sociali deleteri dei capitali privati. Grandi fortune possono già essere realizzate acquistando società, caricandole di debiti nel mentre si privatizzano e poi svuotandole della forza lavoro – il tutto mentre pagano alti dividendi ai nuovi proprietari. Adesso, ChatGPT ed altre tecnologie dell’Intelligenza Artificiale renderanno anche più facile spremere i lavoratori quanto possibile attraverso la sorveglianza nei posti di lavoro, condizioni lavorative più dure, contratti a zero ore, e via dicendo.

Tutte queste tendenze hanno terribili implicazioni per il potere di spesa degli americani – il motore dell’economia statunitense. Ma come noi spieghiamo nel nostro prossimo libro, “Potere e progresso: la nostra battaglia secolare sulla tecnologia e sulla prosperità”, nel nostro futuro non abbiamo bisogno di basarci su un motore economico che farfuglia. Dopo tutto, l’introduzione di nuovo macchinario e di svolte tecnologiche ha avuto nel passato conseguenze molto diverse.

Più di un secolo fa, Henry Ford rivoluzionò la produzione di automobili investendo pesantemente in nuovi macchinari elettrici e in una linea di assemblaggio più efficiente. È vero, queste nuove tecnologie comportarono una certa quantità di automazione, al momento in cui fonti di elettricità centralizzate consentirono alle macchine di realizzare più funzioni con più efficienza. Ma la riorganizzazione delle fabbriche che accompagnò l’elettrificazione creò anche nuove funzioni per i lavoratori e migliaia di nuovi posti di lavoro con salari più alti, supportando una prosperità condivisa. Ford guidò la strada nel dimostrare che creare una tecnologia complementare agli esseri umani è un buon affare.

Oggi, l’Intelligenza Artificiale offre una opportunità di farlo in modo analogo. Gli strumenti digitali attivati dall’Intelligenza Artificiale possono essere usati per aiutare gli infermieri, gli insegnanti e gli addetti alla assistenza ai clienti a comprendere ciò di cui si stanno occupando e quanto  essi contribuirebbero a migliorare i risultati per i pazienti, gli studenti ed i consumatori. La potenza predittiva degli algoritmi può essere sfruttata per aiutare le persone, piuttosto che per rimpiazzarle. Se l’Intelligenza Artificiale viene usata per offrire raccomandazioni alle valutazioni umane, la capacità di usare tali raccomandazioni saggiamente sarà riconosciuta come un apprezzabile competenza umana. Altre applicazioni dell’Intelligenza Artificiale, possono facilitare una migliore allocazione dei lavoratori nelle loro funzioni, o persino creare mercati completamente nuovi (si pensi alle applicazioni per Airbnb o per il ridesharing [2]).

Sfortunatamente, queste possibilità vengono trascurate, perché la maggior parte dei leader della tecnologia statunitense continua a spendere pesantemente per sviluppare software che può fare quello che gli umani già fanno bene. Essi sanno che possono incassare facilmente vendendo i loro prodotti alle grandi società che hanno sviluppato paraocchi. Tutti sono concentrati sul far leva sulla Intelligenza Artificiale per tagliare i costi del lavoro, con poca preoccupazione non solo per l’immediata esperienza del cliente ma anche per il futuro del potere di spesa degli americani.

Ford comprendeva che non aveva senso fare produzione di massa di automobili se le masse non potevano permettersi di comprarle. I magnati delle società odierne, al contrario, stanno usando le nuove tecnologie in modi che manderanno in rovina il nostro futuro collettivo.







[1] ChatGPT (Chat Generative Pre-trained Transformer, traducibile in “trasformatore pre-istruito generatore di programmi di dialogo”) è un prototipo di chatbot – ovvero di un software progettato per simulare una conversazione con un essere umano – basato su intelligenza artificiale e machine learning (apprendimento automatico) sviluppato da OpenAI specializzato nella conversazione con un utente umano … ChatGPT è stato lanciato il 3 novembre 2022 e ha attirato l’attenzione per le sue risposte dettagliate e articolate, sebbene la sua accuratezza sia stata criticata. Sia l’apprendimento supervisionato che l’apprendimento per rinforzo hanno utilizzato istruttori umani per migliorare le prestazioni del modello. Nel primo caso il modello è stato alimentato con conversazioni nelle quali gli istruttori interpretavano entrambe le parti: l’utente e l’assistente basato su intelligenza artificiale. Nella fase di rinforzo, gli istruttori umani hanno prima valutato le risposte che il modello aveva creato nella conversazione precedente. Queste valutazioni sono state utilizzate per creare “modelli di ricompensa” sui quali il modello è stato ulteriormente perfezionato … Wikipedia

OpenAI è un’organizzazione a scopo di lucro[1][2][3] di ricerca sull’intelligenza artificiale con lo scopo di promuovere e sviluppare un’intelligenza artificiale amichevole (friendly AI) in modo che l’umanità possa trarne beneficio. Fondata nel tardo 2015, l’organizzazione, con sede a San Francisco, ha lo scopo di “collaborare liberamente” con altre istituzioni e ricercatori rendendo i suoi brevetti e ricerche aperti al pubblico. Tra i fondatori, Elon Musk e Sam Altman. Wikipedia

[2] In sostanza, il ‘taxismo’ privato sul tipo di Uber; andrebbe tradotto con la “condivisione dei tragitti” e probabilmente non risulterebbe comprensibile.





Commenti dei Lettori (0)

E' possibile commentare l'articolo nell'area "Commenti del Mese"