Martin Wolf I hope you’ve been enjoying these, by the way.
Paul Krugman Oh, it’s been fun.
Martin Wolf I don’t think I’ve ever met anyone, certainly not in his seventies, who sustained the work output that you have in the past few months.
Paul Krugman It’s partly just, you know, what should I be doing? It’s true that there were a few periods when I kind of now regret spending quite so much time on the newsletter and less time drinking Aperol Spritzes in the piazza when we were in Italy.
Martin Wolf Yeah.
Martin Wolf So, let’s go and talk about artificial intelligence, which is a nice change. This is the fourth in our series, The Wolf-Krugman Exchange. I’m Martin Wolf, chief economics commentator at the Financial Times.
Paul Krugman And I’m Paul Krugman, professor at the City University of New York, author of an independent Substack newsletter. Today’s episode is being recorded on Friday, June 20th at 10.30 in Massachusetts, because I’m actually not in New York right now, which is 3.30 in the afternoon over in London.
Martin Wolf And we’re recording it on Friday because next week I’m going to be in India and the only rational explanation for this, I’m gonna be in Delhi, is that the 30 degrees centigrade plus temperatures that we’re experiencing here in London will there instead I’ll get a properly hot day, I imagine around about 45.
Paul Krugman Yeah. I think I’ll keep busy and I am someplace which is marginally cooler.
Martin Wolf So we decided that this week we would look at artificial intelligence, partly because it allows us not to spend a whole time talking about what’s going on in the US right now. And so we will look at artificial intelligence itself, but also how its impact is beginning to spread through our economies and our lives, and what its longer-term implications might possibly be. It’s certainly the most interesting technological change we can see right now. So Paul, when you think of what is now being called artificial intelligence, or as I read today in the FT, as one expert refers to these technologies not as artificial intelligence but stochastic parrots, which I think is a lovely description. Anyway, whichever description you want, what excites you, what disturbs you about this phenomenon?
Paul Krugman What we’re calling artificial intelligence really isn’t, at this point, intelligence. There’s an endless dispute about whether it may be about to become something that you might really call that. But really, this is an evolution of large language models of basically taking in tonnes and tonnes of data, applying very clever algorithms, so clever we don’t quite understand how they work, to be able to answer in natural language, questions posed in natural languages. And it’s not a minor thing. There’s a bunch of areas where we used to joke about how bad attempts to automate thinking or something that looked like thinking really were. Translation was a joke. I don’t know if they did the old anecdote about the supposed Russian-English translation programme. That took “The spirit was strong, but the flesh was weak” and it came back as “The vodka was good, but the meat was spoiled”. So, you know, it used to be the translation was a joke. Now it’s actually quite good. You can actually, I can read foreign language news articles and they may be slightly stilted, but they’re really very, very good. Recognition of speech is quite good, so we certainly have achieved something major, but whether it is truly revolutionary, what it’s going to do — that’s up in the air.
Martin Wolf So, a couple of reactions to that. I remember one very much supporting you that there’s this famous notion of the Turing test. Obviously from Alan Turing, the great theoretician of computing from the 1930s, with John von Neumann, a sort of father of computing. And he argued, we think that computing was intelligent if we could have an exchange with that computer. And it sounds like a human being, it feels like a human being so that people are fooled into thinking it’s a human being. And as far as I can see, they passed that test. So that’s something quite significant. But I would also say it’s quite interesting this question of how we define intelligence. To me the most exciting use — and I get this very much from somebody I’ve got to know quite well in this area, Demis Hassabis, who’s at Google DeepMind. What he is excited about is the capacity of computer programmes now to do really deep scientific work and they got the Nobel Prize for the ability, which is a computational problem, but obviously fantastically complex one, to work out all the different ways proteins could be folded. I don’t know whether that’s intelligent, but at least it’s very, very easy to see it’s very, very powerful and useful, and human beings just couldn’t do it on their own.
Paul Krugman Yeah. There’s a lot of tasks that we have regarded as being tasks that required very smart people, that were very highly paid, you know, and they were really difficult, that can now be done by whatever it is we’re calling this thing, generative AI or whatever, stochastic parrots, but they’re stochastic parrots that kind of produce really useful stuff. And this is significant. Now, whether it’s the same thing as what we . . . it’s clear that the Turing test, Turing’s screwed up. Hard to say that, but Alan Turing was kind of wrong about what would be involved because we clearly now have programmes that pass the Turing test quite easily, and yet we don’t think that they’re people. Nobody really thinks that they are people yet. But on the other hand . . . well, I’m not sure how many hands I’ve already used here, but radical improvements in productivity in(s) something. That’s an old story. That’s happened repeatedly in many parts of the economy. And is this one really different or is this just hitting an area that has not previously been much touched by technology?
Martin Wolf Well this is obviously the big question. I think it’s an interesting question of whether Turing got it wrong or whether he actually had a perfectly plausible view but we don’t actually feel that the machines that can do this are in fact people so we’re even more suspicious of machines than he thought we would be. But anyway let’s leave that to side. Let’s go back to this history you talked about because as you said, going back to the Luddites in the early 19th century. The Luddites were a movement of workers against the introduction of machines, and their skill was weaving using power looms, and they were seeing that replaced by new machines. And pretty well every major technological revolution, in that case, machinery really was dramatic, what it could do, and how many jobs it got rid of. And if you think of the history of machinery and other innovations, every time people have said, well, all the jobs will be destroyed, we’ll have mass unemployment, and after a while, we’ve had an adjustment processes. We found new ways to spend our incomes in different areas, and it ends up with just a whole new set of jobs which nobody imagined. So if you told anyone in 1800 that nobody would work on farms essentially when that was overwhelmingly the biggest industry of the world, they would have said, “What? So what do you all do?” Well, if we listed all the jobs we now do they wouldn’t have no idea what they were.
Paul Krugman That’s right. Or there are things that people did but that were marginal. But as you get richer and as you can do the old stuff very efficiently, you discover that, well, OK, let’s do more of those other things. We have an awful lot of people employed in healthcare now. I don’t actually know what the numbers are, but we may very well have more yoga instructors than coal miners at this point in America. So, we do different things and the history of predicting mass unemployment from technology is very, very long. I’ve been, even personally, watched repeated episodes. There was a whole stretch in the ‘90s when everyone was sure that mass unemployment was just around the corner because we were deindustrialising. There was a lot of predictions of mass unemployment in the early 2010s and constant disbelief that periods of high unemployment could actually be, just because we have insufficient aggregate demand. Macroeconomics just sort of doesn’t appeal to people intuitively, and technological unemployment does, and yet it never really seems to happen, except on a sort of very localised basis.
Martin Wolf I think this is clearly right, I mean, in the ‘50s, roughly 40 per cent of the British labour force was employed in industry, overwhelmingly manufacturing, and now it’s about 10. And if you told them that, and this is not so long ago, that that could happen, and they would actually be employing a higher proportion of the overall population because all the women are working too, they wouldn’t have believed it. Let me however play devil’s advocate just to see how this works out. If these new programmes are able, and that’s a very big question, to do a huge proportion of the analytical thinking work that we now do, which one might also think is sort of the core activity of human beings, at least human beings like ourselves, but thinking, creating launches so much of our activities. If machines do all this basic analysis, maybe we’ll decide that actually it would really be much better to have a computer as a judge in a court because computers are completely reliable. They’re not going to be emotional. There’s not going to the famous effect which is explored in social science that judges in the morning behave quite differently from judges in the afternoon. So one could imagine a world in which we decide well really wouldn’t we rather our president were a computer. I mean so many mistakes will avoided. We are, in addition, having clearly a very significant robotic revolution under way. Isn’t it possible that what we’re going to lose here, first of all, there’s really going to be a vast amount of employment that’s going to affected. So even if we do find jobs, they’re sort of unimaginably different. And isn’t it all possible also that we’re gonna find the marginal product of a very large part of the labour force isn’t much above subsistence because we don’t really want them for anything.
Paul Krugman All of that is possible. History would say probably not because it just hasn’t happened before. And again, this stuff goes back forever and ever. Ricardo, in the third edition of his Principles of Political Economy, worried about unemployment due to machinery. And this is, you know, 1819 or thereabouts. So …
Martin Wolf Famously.
Paul Krugman Right now we think of the important stuff, the stuff that the really good jobs is analytical thinking judgment. Maybe we won’t think that in the future. Maybe I could be wrong, but I think we’re quite a ways from robot plumbers, that we’re quite away from having a lot of what we think of right now as being relatively mundane things that require no more than common sense. But common sense is actually one of the things that AI appears to be quite bad at. And it’s something that people are quite good at. So I can argue this either way. I mean, one version of what we’re calling AI is it’s just a souped-up version of autocorrect. It’s sort of filling things in based upon what other people have done. And then you can say, yeah, but aren’t an awful lot of jobs that real people do and earn fairly high salaries doing basically souped-up autocorrect, which is also true. I mean, history always says that we find other stuff to do. And so far, the successful applications of AI are fairly limited. So far, we’re certainly not seeing a productivity surge commensurate with what people are saying.
Martin Wolf I just want to focus on what we know from past experience about the adjustment process. So there’s very, very famous work, which I think you’ve cited frequently, and others have going back to the introduction of electricity, which was obviously one of the great general purpose technologies of the Second Industrial Revolution, changed everything, really everything. And the case turned out to be that it was transformative. It did change everything, but it took about 40 years to do so before it got into the factories, they redesigned factories, they started developing all the clever motors you could put in everything that would refrigerate the houses and do the washing and all the rest of it. It’s just a long, slow process in which the adjustment in the labour force and the new jobs come along. And the fact that we’re seeing this implemented quite slowly but it’s still very early stages might suggest we’re going through a similar process and the effects will be very large but they will be bigger than we think as it were the many think but they also take longer than we think. Do you think that’s a plausible way of thinking about the future?
Paul Krugman In principle, that should be my view. There’s a wonderful paper, old paper by Paul David …
Martin Wolf Yeah, indeed.
Paul Krugman . . . about why was information technology not showing up in the productivity numbers when I think it was called The Computer and The Dynamo. And his point was that it actually did take around 40 years for businesses to figure out what to do with electricity. Because it requires, it’s not just . . . it’s not just understanding, but you actually have to redesign the way you do work. You know, an old-style factory is a six-storey tall mill with a steam engine in the basement and very cramped corridors because you’re trying to minimise power loss, and it’s actually very awkward to work in, and you replace that with electric motors with a big sprawling one-story building with wide aisles, but, you know, you have to change everything. You have to change where you locate, how you organise work, everything gets affected. So this is the story. And many of us have invoked that story to explain why technologies don’t transform things as fast as you think they’re going to. I have to say that my personal impression is that what we’re actually seeing on AI is not that story. What we’re seeing is a rush to implement AI before that it’s been proved that it’s useful. That there’s this enormous fashionability of putting AI. I mean, I’m finding that stuff that I use routinely, you know, search engines have actually been degraded because the companies involved are so eager to be there on the AI and that I have to put in extra work to turn the damn stuff off. So I can just get a plain ordinary search result. So I wonder whether this time around we’re not seeing instead something like a kind of rushed to be part of the wave of the future before we’re actually even sure that it really is the wave of the future.
Martin Wolf You might argue that in the cases you mention electricity, but even with the computer, originally, initially, it was a work tool. Businesses reorganised themselves. It’s a bit closer to AI, but it involved a lot of reorganisation, quite deep reorganisation to make the mainframe replace all your clocks, for example. You had to think about work processes in a profound way, and that may happen here. And with electricity, as you point out, it meant changing every factory. But here, people I think are thinking, it’s cheap from our point of view. It’s there, it seems to be able to answer the sorts of questions we used to ask our law clerks or consultants of a medium grade. So why not ask them these questions? They do quite well. So we are rushing into it, but it doesn’t seem yet, maybe it’s just very early days, that we are seeing mass unemployment. I don’t know whether this is different in the US, I haven’t looked so closely, of the sort of people who are working in these sorts of activities. Though I do hear, and I have read, that there’s a very significant reduction in quite a number of economies in graduate recruitment, which might be affected by this. I don’t know.
Paul Krugman I actually have just written about it just before we had this conversation. There has been a dramatic fall-off in job opportunities for new college graduates in the United States.
Martin Wolf Seems to be happening in China too, but I don’t know whether it has anything to do with this.
Paul Krugman Yeah, and the trouble is, it is so sudden. This is really, I mean, there’s been a downward trend in this sort of employment advantage of having a college degree that’s been going on for some years. But this abrupt surge in unemployment among recent college graduates and this apparent virtual collapse of jobs. This here makes you wonder: is that really the technology or is it something else? And unfortunately, there are a few other things going on in the world, like the US going wild on tariff policy, that are also probably affecting this. So we don’t know. But for there to be significant dislocations and even quite quick dislocations is certainly possible. That doesn’t tell you very much about what the long-term effects are, but the idea that we could be seeing a really rapid change in elimination of whole categories of jobs on a fairly short timeframe, maybe. Although again, I read the news stories and I never know quite how much is hype and how much is reality.
Martin Wolf I think that’s right and the processes of this kind, I mean AI is after all really quite new. The businesses are very excited about it as you rightly said but I think most of them don’t really know what to do with it and how far they should trust it. So there seem to be two sorts of views out there. One is that it’s going to end up as a complement to skilled people. It may remove some of the sort of middle-grade analysts and so forth that we’ve had, but AI plus highly skilled humans will still be the best way of operating. It will change the structure of employment, but human beings will be very actively involved in most of the tasks they still do. Or actually we will find over time that if you’re going to be treated by a doctor, well, the principal analyst of what’s going on and a diagnostician and all the rest of it is actually going to be one of these AI programmes and that would reduce or at least profoundly change the relationship of us to the people in charge as it were. My impression at the moment is there’s quite a lot of very different views among experts on how it will play out.
Paul Krugman Yeah, and this has been one of those subjects where, you know, I’ve tried to talk to people, people who really do pay attention in a way that I can’t, and have come to the conclusion that anything that I want to believe about the prospects of AI and its economic effects, all I need to do is do a little searching, and I can find some expert who will tell me whatever it is I want believe. It’s one of the situations where there’s just such a range of possible interpretations. And I’m not saying that these people are dishonest or anything. It’s just that it’s really, really unknown at this point and there’s so little actual experience.
Martin Wolf One of the problems that I do have some connection with, partly because I have grandchildren, and partly because of what my wife does, she’s an expert on skills policy and universities, academic expert on these things, is sort of question: OK, we don’t know what’s going to happen, but should we be already thinking about how we should teach people? Or is it the case — I think, we obviously don’t know — but is it the case that actually, the sorts of things people learned how to do because it’s just a way of developing the mind, writing essays, doing analytical work, doing equations, all the rest of it, is still the best way of training human beings, then we’ll see what happens when it comes along.
Paul Krugman Yeah. I mean, a few years ago, the sort of slogan for young people was learn to code because that was clearly the future.
Martin Wolf That’s not very good advice anymore, is it?
Paul Krugman No, it turns out that one of the things that AI is pretty good at is writing code. Not presumably the highest end, most sophisticated, but sort of basic code that sort of gets stuff done is one of those things that you can kind of turn over to the software. And so that was a really bad advice. Other things we don’t know. I mean, it’s kind of wild. I actually, let me give you an idea of the kinds of things that make me sceptical. So there was a big announcement by Amazon that it expects to get rid of a lot of workers thanks to AI, which sounds fine, except that I have actually done a little bit of work on Amazon as a business. And you know, Amazon is one of those things, there’s an illusion that it’s untouched by human hands. You just click on something and stuff magically appears at your door. And what it really has is it has a million, 1.1mn workers mostly in distribution centres and warehouses moving stuff around. And how is AI going to replay? I mean, eventually, maybe if we have robots who can do that, maybe. But at the moment, it’s not at all clear how ChatGPT or something like that is going to replace those. So is this just hype? Is this like? There was a period a few years ago when everybody out there was putting blockchain in their name as a way of making them seem cutting edge. And is this comparable sort of just hype rather than reality?
Martin Wolf I think that’s a really, really interesting question. I was always intensely suspicious of blockchain and cryptocurrencies and all those things. I wrote about it. So I’m very cheered up that it doesn’t seem to have amounted to much, though it does seem to play a big part in buying the US presidency. But anyway, we should leave that for the moment. Let’s think of some of the more concrete aspects. Let’s suppose there is a sizeable labour market adjustment. One of the points that David Autor made in the podcast I had with him, which I thought was a very good one, is that unlike what he called the “China shock”, which is basically just the rapid collapse of quite a number of manufacturing businesses and therefore factories, located at very specific locations across industrial countries. Which obviously created a big adjustment problem because it tended to create a big shock to very specific locations and they lost the tradables output and we discussed that already. The good thing about AI is it looks as though it’s sort of the sort of technology like the use of computers, which mostly will have a broad effect but not a very concentrated effect. So it should be one in principle we can adjust to relatively easily.
Paul Krugman Yeah. I would . . . You know, it is difficult to come up with examples of highly concentrated, geographically concentrated industries where AI will take away the jobs. You might worry a little bit about actually, of all things, New York and London. You know how many of the jobs being done by people in the finance industry can be automated. So the localities at risk might actually not be some small town producing furniture, but some major financial centre that really doesn’t need all of these guys poring over spreadsheets anymore. But it’s probably, this is much more kind of a general-purpose technology. Although even there, you know, going back, we were talking about electricity, one of the effects of electrification was that factories, when you shifted to sprawling one-storey factories, they moved out of city centres. And that was actually quite disruptive. It did eliminate a lot of the blue-collar jobs that used to serve people in the inner city. But yeah, this is probably, and we’re all speculating, everything’s speculation, but it’s probably not something where you say, oh, everybody who works in Bradford, Yorkshire is going to lose their jobs to AI.
Martin Wolf I think you’ve got there something quite important, because if you do think about it and if you think who might be most affected plausibly, and I leave aside the robotic side, so I mean I’ve sort of convinced myself that the safest job in the world is probably gardener. But assume that we really do displace a lot of white-collar jobs, a lot of the sorts of jobs that young graduates do. The sorts of jobs done by legal assistants, even junior lawyers. This is broadly the group of people whose jobs have expanded enormously in the last three or four decades. And that’s partly why we’ve had this enormous expansion in universities, less so in the US because you already had such a huge university system. But in Britain, I often mention this, I mean, when I went to university, 5 per cent of the generation went to university. Now it’s 40, and it’s because these jobs have expanded so much. So, if you have a lot of very, very unhappy, educated people expecting a better life than they’re going to have, and many of them already pretty unhappy, it does seem to me this could have quite, if it happens, really quite difficult social and political effects in societies that are already suffering from those effects.
Paul Krugman Yeah. I mean, it’s, you know, the Luddites, always worth remembering. The Luddites are not unskilled day labourers.
Martin Wolf They were elite. They were the skilled elite. Absolutely.
Paul Krugman Although, can I say there . . . give a slightly, maybe a slightly optimistic take? Well, yes, we’re going to have a lot of unhappy people. On the other hand, in some ways, AI may be an equalising force. You know, I grew up in the US of the ‘60s where skilled blue-collar workers earned incomes. It seems like they earned incomes not very different from, say, middle managers. In fact, I grew up literally on a street where some of the people on the street were plumbers and my father was a middle manager. And that completely changed. Maybe we go back to that. Maybe we go to a situation where people who can actually deal with the material world become appropriately valued again and people who push symbols around find that, well, yeah, computers can also push symbols around.
Martin Wolf Let’s talk about just the social and political dimensions. How plausible is it? I’ve just been writing about copyright and AI, but this is a broader question. You’ve written quite a few pieces recently about inequality. We’re seeing enormous concentrations of wealth and income in our societies, in the US particularly. Some people have referred to this as technofeudalism. Do you think that if this AI revolution continues, and that’s clearly what the companies that dominate hope, and you mentioned some of them, we’re going to find this sort of extreme concentration of power and influence and money in the tech elite that are driving this relatively small number of companies proceed even further? And how worried should we be about that? Because it doesn’t look very healthy to me.
Paul Krugman Yeah, I’m actually not quite sure how AI plays into this. And I’m, actually, as we speak, working on this. And it seems to me that the defining feature of a lot of the technology, that the reason that we have these immense fortunes, and that really is true at this point, the top ranks of wealth are very much dominated by tech bros. It really is. Basically, there’s Warren Buffett, who actually seems to have a genuine unreproducible skill and everybody else. We try to understand why do we have these giant fortunes? Why are there a handful of tech bros with this enormous amount of money? It really is very much about network externalities, which is an economics jargon, but it basically means that you do something or you use something because everybody else does. Everybody uses Amazon because everybody else uses Amazon and it’s very much easier to get regular stuff. Or for that matter, I’m still doing a lot of work in Excel, which is crazy, but Excel is universal and everybody knows how to use it. And these things are these kind of self-reinforcing, self-locking in advantages are the basis really of a different kind of monopoly power, very different from the kind of monopoly power you had in the gilded age, but it’s monopoly power all the same. And it gives rise to a handful of incredibly large fortunes that’s just very difficult to break into that. Does AI reinforce that tendency? Possibly does it, on the other hand, make it easier? I don’t know, maybe an AI model will make it easier to get stuff quickly on demand from some smaller . . . I actually have no idea. It really . . . I don’t think people have actually tried to work out that consequence. I think people tend to say, well, it displaces workers, therefore, it must enhance the power of the corporate bosses, which it might, but we don’t know that. I think the corporations like the idea of not having to actually deal with workers, but that may be, again, part of the hype.
Martin Wolf Yes. It’s a very interesting question of how that plays out. First, within the AI sector itself, I was very interested, because it happened very recently, in this sudden emergence of this Chinese company DeepSeek. And that seemed to suggest that the idea that there were infinite economies of scale and scope in the AI industry itself might not be right. Obviously, we’ll see whether that’s true. And then, of course, there’s the question of what effect it has on the users, the industries that use it. It’s pretty clear, at this stage, we have no idea. But right now, the firms that have the resources to do the colossal investments that at least the Americans are pursuing are relatively limited because the investments are so stupendous.
Paul Krugman Yeah. AI, what we’re calling AI, certainly doesn’t function anything like human intelligence. What it does is it scoops up vast quantities of data and does very, very complex calculations on that data, which is a big, big upfront investment. In a peculiar way, it’s information, but it actually seems to require a lot of physical capital, giant server farms, huge amounts of power consumption. So this may actually be something that favours not so much technological dominance as it favours, you know, basically people with lots of money to invest in largely physical capital.
Martin Wolf But at the moment, for the reasons of history, the people who know how to invest it and the money are already established players in the tech industry. Relatively limited, very limited number of major firms, which interestingly doesn’t include some of them. The most valuable of the tech companies for quite a while was Apple, but it doesn’t seem to be a significant player in this at all. And some of them, OpenAI is obviously a new player. But it’s got Microsoft linked to it. But it does look at this as one of those things in which incumbents or some incumbents seem to be incredibly well positioned to expand their reach further. And that’s why people are concerned about this notion that there will be a sort of feudal lords over us all. And they did certainly play some part or some of them in this election, in the recent election. So it sort of links up with this idea that at least in the US, politics is becoming a plutocratic sport. And so it links up with also future democracy.
Paul Krugman Although we should say that the really big money, apparently accounting for something like 40 per cent of corporate spending on the election was crypto. And I’m highly uncertain about what the economic pay-off to AI is, but I’m quite certain about what the pay-off to crypto is, which is nothing. But unfortunately, it turns out to be able to buy a government.
Martin Wolf Extraordinary bubbles do can all of themselves have remarkable distorting effects for a while.
Paul Krugman Yeah, and it’s going to be an interesting question, actually. How much, though, coming back to this technofeudalism, how much is the power of incumbency versus just being able to deploy very large amounts of capital? And I think we’re going to find that out.
Martin Wolf So let’s do the Cultural Coda.
Paul Krugman OK. So I think I’m the lead off on the cultural coda, and it is some music. It’s Loretta Lynn singing Coal Miner’s Daughter, which was also the basis of a wonderful old film, which I think is why on earth does this have to do with it. But in fact, there are basically no coal miners’ daughters anymore. Coal mining was more than half a million workers in the United States in the immediate aftermath of world war two. By 2000, coal production was actually higher in 2000 than it had been in the 1940s, but 85 per cent of the workers were gone. And what was that about? It was all about technology. First, strip mining and then blowing the tops off mountains to get at the coal, which meant that you didn’t need a whole lot of workers, which is showing that you can get massive displacements of particular kinds of workers by technology. We did not suffer mass unemployment because of the disappearance of the coal industry. We did suffer a lot of changes. Some places were hurt, but also ways of life disappeared. So I think in some ways, I like coal as an example of just how, first of all of how much technology really can change things. But also that you know, the latest, fanciest technology is not the first time we’ve seen this movie or the second or the third or the fourth. This has been happening again and again over the past couple of centuries.
Martin Wolf My memory is that in Britain, the coal mining industry at its peak employed about a million, which is an extraordinary number for a much smaller country. And my view of the disappearance of coal mining was set by the very famous description of George Orwell of what it’s actually like to be a miner. And I decided we should be very happy. Now my cultural coda, I’m gonna do my second text thing then I’ll come back to music. This week it’s a novel, and I think it, to me, it’s the most important novel of the 20th century, at least the most revealing. It’s Thomas Mann’s The Magic Mountain, which was published in 1924. And the ‘20s and ‘30s are a period I think more and more about. And the core of the book was the intellectual ferment going on in the first half of the 20th century, between old fashioned, stayed civilised liberal humanism embodied in this case in the figure of a man called Settembrini, putting forward the sort of views I hold and I’m beginning to feel are equally old-fashioned. And on the other hand, Naphta, who is a Marxist revolutionary, but actually when you push him, turns out to be very similar to the far-right revolutionaries, and really the difference between Hitler and Stalin turned out to pretty small when all things are done. And it gets you this sense of profound conflict. And Mann puts forward the idea that the first world war was the beginning of the destruction that followed from this. It was written during the war and published shortly afterwards. So it’s extraordinary how a book novel published 100 years ago can be so brilliant at describing the sort of things we are seeing right now and the sort of challenges we’re now seeing between pretty feeble, liberal, humanist type people and passionate authoritarians. So thank you very much for joining us for part four of The Wolf-Krugman Exchange, something very different, on AI. We’ll be back with you again next week when we’ll be discussing the ways in which the economic system has changed as a result of recent events, possibly forever. Is this time perhaps really different?
Martin Wolf Per inciso, spero che questi colloqui ti facciano piacere.
Paul Krugman Oh, è stato divertente.
Martin Wolf Non penso di aver mai incontrato qualcuno, certamente non nei suoi settant’anni, che abbia mantenuto la produzione di lavoro che hai avuto negli ultimi mesi.
Paul Krugman Sai, è così solo in parte, cosa dovrei fare? È vero che ci sono stati periodi nei quali un po’ mi pento di spendere così tanto tempo nelle newsletter e meno tempo nel bere AperolSpritz in piazza come quando eravamo in Italia.
Martin Wolf Sì. Dunque, andiamo a discutere dell’intelligenza artificiale, che è un cambiamento piacevole. Questo è il quarto nella nostra serie, le conversazioni Wolf-Krugman. Io sono Martin Wolf, capo commentatore di economia al Financial Times.
Paul Krugman E io sono Paul Krugman, professore alla City University di New York, autore di un notiziario su una piattaforma online a pagamento. Il colloquio di oggi viene registrato nel Massachusetts il venerdì 20 giugno alle ore 10,30 che corrisponde alle 15,30 del pomeriggio a Londra, giacché in questo momento non sono a New York.
Martin Wolf E lo stiamo registrando di venerdì perché la prossima settimana andrò in India, sarò a Delhi, e la sola spiegazione razionale è che rispetto ai 30 gradi centigradi di temperatura che abbiamo qua a Londra, là invece avrò giornate davvero afose, mi immagino di circa 45 gradi.
Paul Krugman Proprio così. Io penso che sarò indaffarato in qualche luogo leggermente più fresco.
Martin Wolf Così abbiamo deciso che questa settimana ci occuperemo di Intelligenza Artificiale, perché questo ci permette di non spendere tutto il tempo a parlare di quello che sta avvenendo adesso negli Stati Uniti. E dunque ci occuperemo della intelligenza artificiale in sé, ma anche di come il suo impatto stia cominciando a diffondersi nelle nostre economie e nelle nostre vite, e anche di quali potrebbero essere le probabili implicazioni a più lungo termine. Si tratta certamente del cambiamento tecnologico più interessante che possiamo osservare in questo momento. Dunque Paul, cosa pensi sia adesso quella che viene chiamata intelligenza artificiale, oppure, come leggo oggi sul Financial Times, dove un esperto definisce queste tecnologie non come intelligenza artificiale ma come ‘pappagalli stocastici’ [1], che io penso sia una descrizione carina. In ogni modo, qualsiasi definizione tu preferisca, cosa ti eccita e cosa di disturba in questo fenomeno?
Paul Krugman Quella che stiamo chiamando intelligenza artificiale in realtà, a questo punto, non è intelligenza. C’è un disputa infinita sul fatto se essa possa essere prossima a divenire qualcosa che si potrebbe davvero chiamare in quel modo. Ma in realtà, si tratta di una evoluzione di grandi modelli linguistici che assorbono tonnellate e tonnellate di dati, applicando algoritmi molto intelligenti, talmente intelligenti che quasi non sappiamo come funzionano, sino ad essere capaci di dare risposte in un linguaggio naturale a domande poste in linguaggi naturali. E questa non è una cosa da poco. Ci sono un mucchio di aree nelle quali siamo abituati a scherzare su come siano stati negativi i tentativi di automatizzare il pensiero o qualcosa che assomiglia al pensiero. Il tradurre era una barzelletta. Non so chi sia stato a riferire il vecchio aneddoto sul presunto programma di traduzione russo-inglese. Il programma riceveva “Lo spirito era forte, ma la carne era debole” e lo restituiva con “La vodka era buona, ma la carne era avariata”. Dunque, come sai, di solito la traduzione era una burla. Adesso è in effetti abbastanza buona. Si può effettivamente leggere, io posso farlo, notiziari in lingua straniera ed essi possono essere leggermente forzati, ma sono davvero proprio buoni. Il riconoscimento delle parole è abbastanza buono, cosicché certamente abbiamo realizzato qualcosa di importante, ma se sia effettivamente rivoluzionario, è qualcosa da vedere – è qualcosa che resta nell’aria.
Martin Wolf Dunque, un paio di impressioni su questo. Ricordo qualcuno che ti dava molta ragione dicendo che c’era quel famoso concetto del test di Turing [2]. Ovviamente, di Alan Turing, il grande teorico della informatica degli anni ‘930, assieme a John von Neumann, una sorta di padre dei computer. E lui sosteneva che noi pensiamo che l’informatica sia intelligente se possiamo avere uno scambio con quel computer. Esso sembra un essere umano, percepisce come un essere umano in modo tale che la gente è indotta a pensare sia un essere umano. E per quanto posso osservare, hanno superato quel test. Dunque, quello è qualcosa di abbastanza significativo. Ma direi anche che è abbastanza importante la questione di come definiamo l’intelligenza. Secondo me l’utilizzo più interessante – e questo lo derivo in buona parte da qualcuno che, in questa disciplina, mi è capitato di conoscere abbastanza bene, Demis Hassabis, che lavora a Google DeepMind – … e quello che lo entusiasma adesso è la capacità dei programmi dei computer di fare un lavoro scientifico davvero approfondito, al punto da ricevere il premio Nobel [3] per la capacità di elaborare tutti i diversi modi nei quali le proteine potrebbero essere spiegate; che è un problema computazionale, ma ovviamente di un genere fantasticamente complesso. Non so se ciò sia intelligente, ma è molto, molto facile constatare che è davvero potente e utile, e che gli esseri umani semplicemente non potrebbero fare tutto questo per loro conto.
Paul Krugman Proprio così. C‘è una gran quantità di funzioni che consideravamo funzioni che richiedevano persone molto intelligenti, che come sai, venivano pagate lautamente, ed erano davvero difficili, che adesso possono essere svolte, comunque la si definisca, o Intelligenza Artificiale generativa o, se vuoi, pappagalli stocastici, ma sono pappagalli stocastici di un genere che produce roba davvero utile. E questo è significativo. Ora, se essa sia la stessa cosa come quella che noi … è chiaro che il test di Turing, fu una cavolata di Turing. E’ difficile a dirsi, ma Alan Turing si sbagliava un po’ su quello che ne sarebbe derivato perché adesso abbiamo programmi che superano il test di Turing abbastanza facilmente, e tuttavia non pensiamo che essi siano persone. Nessuno pensa ancora realmente che essi siano persone. Ma d’altra parte … beh, non sono sicuro di quante mani ho già utilizzato in questo caso, ma i radicali miglioramenti nella produttività sono qualcosa. Si tratta di una vecchia storia. È avvenuta ripetutamente in molti settori dell’economia. E questo è un caso realmente diverso oppure sta interessando un’area che non era stata in precedenza molto toccata dalla tecnologia?
Martin Wolf Ebbene, questo è ovviamente il grande tema. Penso che sia una questione interessante se Turing sbagliasse o se effettivamente egli aveva una visione perfettamente plausibile, ma noi di fatto non ci capacitiamo che le macchine possano fare questo e, in sostanza, le persone sono persino più sospettose verso le macchine di quello che lui pensava sarebbero state. Ma in ogni modo mettiamo tutto questo da parte. Torniamo a questa storia della quale hai parlato perché, come hai detto, è come ritornare ai Luddisti degli inizi del 19° secolo. I luddisti furono un movimento di lavoratori contrari alla introduzione delle macchine, la loro abilità era tessere utilizzando telai meccanici ed essi osservavano che erano sostituiti da nuove macchine. E praticamente come ogni importante rivoluzione tecnologica, in quel caso le macchine erano davvero spettacolari, nel senso di cosa potevano fare e di quanti posti di lavoro poterono liberarsi. E se si pensa alla storia del macchinario e di altre innovazioni, in ogni occasione la gente ha detto, ebbene, tutti i posti di lavoro verranno distrutti, avremo la disoccupazione di massa, e dopo un po’ avremo un processo di correzione. Abbiamo trovato nuovi modi per spendere i nostri redditi in aree diverse, e ciò si risolverà proprio in un intero complesso di nuovi posti di lavoro che nessuno si immaginava. Dunque, se aveste detto a chiunque nel 1800 che nessuno avrebbe lavorato nelle aziende agricole, quando in sostanza erano il settore più grande del mondo in modo schiacciante, avrebbero detto: “Cosa? E dunque cosa farete voi tutti?”. Ebbene, se elenchiamo tutti i posti di lavoro che ora fanno, essi non avevano alcuna idea della situazione in cui erano.
Paul Krugman Questo è giusto. Oppure c’erano cose che la gente faceva ma erano marginali. Ma se diventi più ricco e puoi fare le vecchie cose in modo molto efficiente, tu ti rendi conto che, beh, va bene, andiamo a fare di più quelle altre cose. Adesso, noi abbiamo una gran quantità di persone occupate nella assistenza sanitaria. Effettivamente non so quali siano i numeri, ma in questo momento in America potremmo ben avere più istruttori di yoga che minatori del carbone. Dunque, abbiamo situazioni diverse e la storia delle previsioni della disoccupazione di massa per effetto della tecnologia è davvero lunghissima. Ho constatato, anche personalmente, ripetuti episodi. C’è stato negli anni ‘990 un intero periodo nel quale erano tutti sicuri che la disoccupazione di massa fosse proprio dietro l’angolo perché stavamo deindustrializzando. C’era una gran quantità di previsioni sulla disoccupazione di massa negli anni 2010 assieme ad un costante scetticismo sul fatto che periodi di elevata disoccupazione potessero effettivamente verificarsi, solo perché abbiamo una insufficiente domanda aggregata. La macroeconomia non attrae le persone intuitivamente, mentre la disoccupazione tecnologica lo fa, e tuttavia essa non sembra mai avvenire realmente, se non su una sorta di basi molto localizzate.
Martin Wolf Penso che questo sia evidentemente giusto; voglio dire, negli anni ‘950, grosso modo il 40 per cento della forza lavoro britannica era occupata nell’industria, in modo predominante nel manifatturiero, e adesso è circa al 10 per cento. E se tu avessi detto, e questo non molto tempo fa, che ciò poteva accadere, nel mentre si stava occupando una percentuale più elevata della popolazione complessiva perché stavano lavorando anche tutte le donne, non ci avrebbero creduto. Tuttavia, fammi giocare il ruolo dell’avvocato del diavolo solo per osservare come questo funziona. Se questi nuovi programmi fossero capaci, ed è una domanda molto seria, di fare una vasta quota del lavoro analitico che stiamo facendo oggi, quando possiamo ritenerla una sorta di attività centrale degli esseri umani, almeno degli esseri umani come noi, ma il pensare creando dà il via a tanta parte delle nostre attività. Se tutta questa analisi di base viene fatta dalle macchine, forse decideremo che in effetti sarebbe molto meglio avere un computer come giudice in un tribunale, giacché i computer sono completamente affidabili. Essi non sono destinati ad essere emotivi. Non è prevedibile che subiscano il famoso effetto che è stato esaminato nella scienza sociale, secondo il quale i giudici si comportano in modo diverso la mattina dal pomeriggio. Dunque si potrebbe immaginare un mondo nel quale arriviamo alla conclusione: “Ebbene, perché non preferire che il nostro presidente sia un computer?” Voglio dire, molti errori sarebbero evitati. In aggiunta, stiamo chiaramente sperimentando una rivoluzione robotica molto significativa. Dunque, persino se trovassimo i posti di lavoro, ci sarebbe una differenza inimmaginabile. E non è forse possibile che scopriremo che il prodotto marginale di una parte molto ampia della forza lavoro non è molto sopra il livello della sussistenza, perché in realtà non ne abbiamo affatto bisogno?
Paul Krugman Tutto questo è possibile. La storia probabilmente non ce lo dice, solo perché non è mai successo prima. E ancora, tutta questa storia si ripresenta sempre e in continuazione. Ricardo, nella terza edizione dei suoi Principi di Economia Politica, si preoccupava della disoccupazione in conseguenza delle macchine. E questo, come sai, più o meno nel 1819. Dunque …
Martin Wolf Notoriamente.
Paul Krugman In questo momento stiamo ragionando delle cose importanti, secondo le quali i posti di lavoro davvero buoni sono il pensiero analitico ed i giudizio. Forse non penseremo a tutto questo nel futuro. Forse posso sbagliare, ma io penso che siamo molto lontani dall’avere robot idraulici, che siamo abbastanza lontani in questo momento dall’avere quelle cose relativamente banali che non richiedono niente di più che il senso comune. Ma il senso comune è una delle cose nelle quali l’IA sembra abbastanza inadatta. Ed è qualcosa in cui le persone sono abbastanza capaci. Posso sostenere tutto questo in questo altro modo. Voglio dire, una versione di quella che stiamo definendo Intelligenza Artificiale è solo une versione potenziata della correzione automatica. In un certo senso, si tratta di riempire cose che altre persone hanno fatto. E allora si può dire, è vero, ma non ci sono molte altre cose che le persone reali fanno e per le quali guadagnano alti salari, fondamentalmente facendo una correzione potenziata? Il che è anche vero. E sinora, le applicazioni di successo dell’IA sono abbastanza limitate. Sinora, non stiamo certamente osservando una crescita della produttività commensurata a quello che si sta dicendo.
Martin Wolf Voglio precisamente concentrarmi su quello che sappiamo dall’esperienza passata sul processo di correzione. C’è dunque un lavoro famosissimo, che penso tu abbia citato frequentemente, con altri che sono tornati all’introduzione dell’elettricità, che fu notoriamente una delle tecnologie di grande proposito generale della Seconda Rivoluzione Industriale, che cambiò ogni cosa, davvero tutto. E il caso si rivelò avere un effetto di trasformazione. Cambiò tutto, ma ci vollero circa 40 anni perché essa arrivasse nelle fabbriche, riprogettarono le fabbriche, cominciarono a sviluppare tutti i motori intelligenti che si possono inserire dappertutto, che avrebbero rinfrescato le case e fatto i lavaggi e tutto il resto. È stato davvero un processo lungo, lento, nel quale la correzione nella forza lavoro ed i nuovi posti di lavoro hanno proceduto assieme. E il fatto che stiamo osservando tutto questo procedere abbastanza lentamente, ma siamo ancora in uno stadio molto iniziale, potrebbe suggerire che stiamo passando da un processo simile e gli effetti saranno molto ampi, saranno più grandi di quello che pensiamo e di quello che pensano in tanti, ma ci vorrà più tempo di quello che pensiamo. Pensi che sia un modo plausibile per ragionare del futuro?
Paul Krugman In linea di principio, questa sarebbe la mia opinione. C’è una magnifico saggio, un vecchio saggio di Paul David [4] …
Martin Wolf Sì, infatti.
Paul Krugman … sulla ragione per la quale la tecnologia dell’informazione non si sta rivelando nei numeri della produttività, quando penso che era stata definita il computer e la dinamo. E il suo argomento era che effettivamente ci vollero circa quaranta anni perché le imprese si immaginassero cosa fare con l’elettricità. Perché essa ha bisogno, non è soltanto …. non è soltanto conoscenza, ma effettivamente si deve reimpostare il modo in cui si lavora. Come sai, una fabbrica dei tempi andati era uno stabilimento alto sei piani con un motore a vapore alla base e corridoi molto angusti perché si cercava di minimizzare la perdita di energia, ed effettivamente era molto arduo lavorarci, e tu lo sostituisci con motori elettrici con un grande edificio tentacolare con ampi corridoi, ma come sai devi cambiare ogni cosa. Devi cambiare dove lo collochi, come organizzi il lavoro, ha conseguenze su tutto. Dunque, la storia è questa. E molti di noi si sono riferiti a quella storia per spiegare perché le tecnologie non trasformano le cose così velocemente come si pensava potessero fare … Devo dire che la mia impressione personale è che quello a cui stiamo assistendo con l’IA non sia quella storia. Quello cui stiamo assistendo è un precipitarsi a mettere in atto la IA prima che si sia dimostrato che essa è utile. C’è questa enorme attrazione a piazzare la IA. Voglio dire, sto scoprendo che cose che uso ordinariamente, sai, i motori di ricerca, sono stati derubricati perché le società coinvolte sono così ansiose di essere pronte con l’IA che io devo fare un lavoro in più per disattivare quella dannata roba. Solo così posso ottenere il risultato di una semplice ricerca ordinaria. Dunque mi chiedo se questa volta non stiamo assistendo piuttosto a qualcosa di simile ad una corsa ad essere parte dell’ondata del futuro, prima ancora che si sia sicuri che essa sia realmente l’ondata del futuro.
Martin Wolf Si potrebbe sostenere, nei casi che tu menzioni, che l’elettricità, ma anche i computer, originariamente, agli inizi, erano uno strumento di lavoro. Le imprese si riorganizzavano. Ciò era piuttosto vicino all’IA, ma richiedeva molta riorganizzazione, una riorganizzazione abbastanza profonda per far sì che il sistema centrale sostituisse tutti gli orologi, ad esempio. Dovevi pensare profondamente ai processi del lavoro, e ciò potrebbe accadere in questo caso. E l’elettricità, come tu metti in evidenza, comportava cambiare ogni stabilimento. Ma in questo caso, suppongo che le persone pensino sia conveniente, dal nostro punto di vista. È lì, sembra in grado di rispondere alle domande che eravamo soliti porre ai nostri assistenti legali o consulenti di medio livello. Dunque, perché non porre ai computer queste domande? Lo fanno abbastanza bene. Dunque ci stiamo precipitando in quella direzione, ma non sembra ancora, forse siamo proprio soltanto ai primi giorni, che stiamo assistendo alla disoccupazione di massa. Non so se questo è diverso negli Stati Uniti, non ho osservato così da vicino le persone di questo tipo che stanno lavorando in attività di questo genere. Per quanto sento dire, e ho letto, di una riduzione molto significativa in un bel numero di economie nel reclutamento di laureati, che potrebbe essere influenzata da questo. Non lo so.
Paul Krugman In effetti, ho appena scritto su questo, prima che avessimo questa conversazione. C’è stata una spettacolare diminuzione nelle opportunità di posti di lavoro per i nuovi laureati negli Stati Uniti.
Martin Wolf Sembra che stia accadendo anche in Cina, ma non so se sia qualcosa che ha a che fare con questo.
Paul Krugman Sì, e il guaio è che è così improvviso. Voglio dire che è realmente così, c’è stata una tendenza al regresso in questa specie di vantaggio occupazionale di avere una laurea che stava andando avanti da qualche anno. Ma a proposito di questo improvviso aumento della disoccupazione tra i neolaureati e di questo apparente collasso virtuale dei posti di lavoro, questo ti porta a chiederti: è realmente la tecnologia o è qualcosa d’altro? E sfortunatamente, ci sono un po’ di altre cose che stanno avvenendo nel mondo, come gli Stati Uniti che si scatenano sulla politica tariffaria, che probabilmente stanno influenzando tutto ciò. Dunque, non lo sappiamo. Ma è certamente possibile che si verifichino dislocazioni significative e persino piuttosto rapide. Questo non ci dice moltissimo su quali siano gli effetti a lungo termine, se non l’idea che forse potremmo osservare un cambiamento realmente rapido nella eliminazione di intere categorie di posti di lavoro in un periodo abbastanza breve. Sebbene anche qua, io leggo le notizie e non so mai quanto sia battage pubblicitario e quanto realtà.
Martin Wolf Penso che sia giustificato per i processi di questo genere, voglio dire che la IA è dopo tutto davvero piuttosto nuova. Le imprese sono molto eccitate da essa, come hai detto giustamente, e penso che la maggior parte di loro realmente non sappiano cosa farci e sino a qual punto dovrebbero avere fiducia in essa. Dunque, sembra che ci siano due tipi di visioni in circolazione. Uno è che essa finirà per essere un complemento delle persone qualificate. Potrebbe rimuovere quegli analisti di medio livello e via dicendo che abbiamo avuto, ma gli esseri umani più altamente qualificati nella IA saranno ancora il modo migliore di operare. Cambierà la struttura dell’occupazione, ma gli esseri umani saranno ancora coinvolti molto attivamente nelle funzioni che ancora faranno. Oppure effettivamente ci ritroveremo col tempo che se hai intenzione di essere visitato da un dottore, diciamo, l’analista principale di quanto sta procedendo, il diagnostico e tutto il resto; essi saranno in realtà uno di questi programmi di intelligenza artificiale, e ciò, per così dire, ridurrebbe o almeno cambierebbe profondamente la nostra relazione con gli specialisti. La mia impressione è che al momento ci siano un bel po’ di diverse visioni tra gli esperti su cosa accadrà.
Paul Krugman E’ così, e questo è stato uno di quei temi nei quali, sai, ho cercato di parlare con le persone, persone che davvero prestano attenzione in un modo che per me è impossibile, e sono arrivato alla conclusione che per ogni cosa che voglio credere sulle prospettive della IA e sui suoi effetti economici, tutto quello di cui ho bisogno è di fare una piccola ricerca, e posso trovare qualche esperto che mi dirà qualsiasi cosa io voglia credere. È una delle situazioni nelle quali c’è proprio una tale ampiezza di interpretazioni possibili. E non sto dicendo che queste persone siano disoneste o qualcosa del genere. Si tratta solo del fatto che, a questo punto, ciò è per davvero sconosciuto e c’è così poca esperienza effettiva.
Martin Wolf Uno dei problemi in qualche modo connessi, in parte perché ho nipoti e in parte per quello che fa mia moglie, che è esperta nella politiche delle competenze e nelle università, esperta accademica di queste cose, è una specie di domanda: va bene, non sappiamo cosa sta per succedere, ma non dovremmo già pensare su come insegnare alle persone? Oppure si tratta del caso – io penso che ovviamente non lo sappiamo – ma si tratta del caso che in effetti il genere di cose che le persone hanno appreso come fare (giacché si tratta solo di sviluppare la mente, di scrivere saggi, di fare il lavoro analitico, di fare equazioni e tutto il resto) sono ancora il modo migliore di addestrate gli esseri umani, e poi vedremo quello che accade quando arriva.
Paul Krugman E’ vero. Voglio dire, pochi anni fa, una specie di slogan per i giovani era imparare a programmare, perché quello era il futuro.
Martin Wolf E quello non è ancora un buon consiglio?
Paul Krugman No, quella si scopre essere una delle cose nelle quali la IA funziona abbastanza bene. Probabilmente, non il settore più elevato, più sofisticato, ma una sorta di codice di base che in qualche modo fa le cose è uno di quegli aspetti che in qualche modo puoi affidare al software. E dunque quello era un consiglio davvero sbagliato. Per altre cose non lo sappiamo. Voglio dire, è un po’ folle. In realtà, lascia che ti dia un’idea del genere di cose che mi rendono scettico. Dunque, c’è stato un importante annuncio da Amazon per il quale, grazie all’IA, essa si aspetta di liberarsi di un sacco di lavoratori, che non sembra una cosa sbagliata, sennonché io ho fatto un po’ di lavoro su Amazon come impresa. E sai, Amazon è una di quelle cose per le quali c’è l’illusione che non sia toccata da mani umane. Tu semplicemente clicchi su qualcosa ed essa appare magicamente alla tua porta. E ciò che essa ha realmente sono 1,1 milioni di lavoratori soprattutto nei centri di distribuzione e nei magazzini che spostano le cose in giro. E come l’IA lo replicherà? Voglio dire, alla fine forse avremo dei robot che possono farlo, forse. Ma al momento, non è affatto chiaro come ChatGPT o qualcosa del genere sia destinata a sostituirli. Dunque, è solo una montatura? È così? Pochi anni fa c’è stato un periodo nel quale tutti mettevano la parola blockchain [5] nel loro nome per sembrare all’avanguardia. E questa è solo una sorta di paragonabile montatura, e non la realtà?
Martin Wolf Penso che questa sia per davvero una questione interessante. Sono sempre stato molto sospettoso del blockchain, delle criptovalute e di tutte quelle cose. Ho scritto su tutto ciò. Sono dunque rimasto molto sollevato che essa non si sia risolta in molto, per quanto sembra giochi una parte importante nell’acquistare la presidenza statunitense. Ma in ogni modo, per il momento dovremmo lasciar da parte quell’aspetto. Pensiamo ad alcuni degli aspetti più concreti. Supponiamo che ci sia un aggiustamento considerevole del mercato del lavoro. Uno degli argomenti che avanzava David Autor nella trasmissione che ho avuto con lui, che penso sia stata davvero buona, è che a differenza dello “shock cinese”, come lui l’ha chiamato, che fondamentalmente è solo il rapido crollo di un certo numero di aziende manifatturiere e quindi di fabbriche, situate in luoghi molto specifici in tutti i paesi industriali – il che ovviamente ha creato un grande problema di correzione perché tendeva a determinare un grande trauma in località molto specifiche, ed esse hanno perso la produzione commerciabile (come abbiamo già discusso) – la cosa positiva con l’IA è che essa sembra sia una sorta di tecnologia simile all’uso dei computer, per la quale avremo soprattutto un effetto generale ma non un effetto molto concentrato. Dunque dovrebbe essere qualcosa che, in linea di principio, possiamo correggere in modo relativamente facile.
Paul Krugman E’ così. Come sai, è difficile mettere insieme esempi di industrie altamente concentrate, geograficamente concentrate, dove l’IA sottrarrà i posti di lavoro. Ci si potrebbe un po’ preoccupare in effetti, tra tutte le cose, di New York e di Londra. Tu sai quanti posti di lavoro che vengono fatti dalle persone nel settore finanziario possano essere automatizzati. Dunque, le località a rischio potrebbero non essere alcune piccole città che producono arredamenti, ma alcuni centri finanziari che davvero non hanno bisogno di tutti questi ragazzi che si concentrano sui fogli di calcolo. Ma essa è probabilmente molto di più una tecnologia di scopo generale. Sebbene anche qua, come sai, tornando indietro, stavamo parlando di elettricità, uno degli effetti dell’elettrificazione fu che le fabbriche, quando si è passati a fabbriche tentacolari di un solo piano, si sono spostate dai centri cittadini. E ciò fu effettivamente piuttosto dirompente. Eliminò molti posti di lavoro dei colletti blu che di solito erano al servizio delle persone nei quartieri più poveri. Ma sì, questo è probabile, e noi tutti stiamo speculando, speculando su ogni cosa, ma probabilmente non si tratta di qualcosa dove si possa dire, guarda, tutti quelli che lavorano a Bradford, Yorkshire, sono destinati a perdere i loro posti di lavoro per l’IA.
Martin Wolf Penso che tu abbia espresso qualcosa di abbastanza importante, perché se ci pensi e se pensi a chi plausibilmente potrebbe esserne più influenzato, e lascio da parte il settore della robotica, dunque voglio dire che finisco per convincermi che il lavoro più sicuro nel mondo sarà probabilmente il giardiniere. Ma ipotizziamo davvero di rimuovere un bel po’ di posti di lavoro dei collari bianchi, un bel po’ di quella specie di lavori che fanno i giovani laureati. Quella specie di lavori fatti dagli assistenti legali, anche dai giovani avvocati. In generale, questo è il gruppo di persone i cui posti di lavoro sono enormemente aumentati negli ultimi tre o quattro decenni. E quella è in parte la ragione per la quale abbiamo avuto un’enorme espansione nelle università, un po’ meno negli Stati Uniti perché avevate già un sistema universitario talmente ampio. Ma in Gran Bretagna, io lo ricordo spesso, quando andavo all’università, il 5 per cento della mia generazione andava all’università. Adesso è il 40 per cento, ed è così perché questi posti di lavoro sono aumentati così tanto. Così, se abbiamo una gran quantità di persone istruite avvilite perché si aspettavano una vita migliore di quella che stanno avendo, e molti di loro sono già scontenti, mi sembra che potremmo avere, se ciò accade, effetti sociali e politici davvero abbastanza difficili in società che già soffrono per quegli effetti.
Paul Krugman Sì. Voglio dire, è così, come sai, i Luddisti vale sempre la pena di tenerli a mente. I Luddisti non erano lavoratori privi di competenze.
Martin Wolf Erano l’élite. Erano l’élite specializzata. Senza dubbio.
Paul Krugman Sebbene, posso dire che … posso dare una interpretazione leggermente, forse leggermente ottimistica? Ebbene sì, avremo un bel po’ di persone scontente. D’altra parte, in alcuni modi, l’IA potrebbe essere un fattore di maggiore equaglianza. Sai, io sono cresciuto negli Stati Uniti degli anni ‘960, dove i lavoratori coi colletti blu guadagnavano buoni redditi. Pare che essi guadagnassero redditi non molto diversi, ad esempio, dai piccoli dirigenti. Di fatto, io crebbi precisamente su una strada dove alcuni dei residenti erano idraulici e mio padre era un piccolo dirigente. E ciò è cambiato completamente. Puoi darsi che torneremo a quello. Forse andiamo verso una situazione nella quale le persone che sanno effettivamente misurarsi col mondo materiale verranno opportunamente di nuovo apprezzate e le persone che spostano i simboli scopriranno che, beh, sì, anche i computer possono spostare i simboli.
Martin Wolf Parliamo appunto delle dimensioni sociali e politiche. Quanto sono plausibili? Stavo appena scrivendo sui diritti di proprietà intellettuale e sull’IA, ma questo è un tema più vasto. Tu hai scritto di recente un bel po’ di articoli sull’ineguaglianza. Nelle nostre società, particolarmente negli Stati Uniti, assistiamo ad enormi concentrazioni di ricchezza e di reddito. Alcune persone si sono riferite a tutto questo come tecnofeudalesimo. Tu pensi che se questa rivoluzione continua, e quello è chiaramente quanto le imprese dominanti sperano, siamo destinati ad imbatterci in questa sorta di enorme concentrazione del potere, dell’influenza e del denaro nelle élite tecnologiche, che stanno guidando questo numero relativamente piccolo di società ad andare persino oltre?
Paul Krugman Sì, in realtà non sono abbastanza sicuro di come la IA operi in questo. E sto, effettivamente, mentre stiamo parlandone, lavorando su questo. E mi sembra che la caratteristica distintiva di una gran parte della tecnologia, la ragione per la quale abbiamo queste immense fortune, che a questo punto è effettivamente nei fatti, è che i ranghi più elevati della ricchezza sono effettivamente dominati dai confratelli della tecnologia. È realmente così. Fondamentalmente, c’è Warren Buffet, che in effetti sembra possedere una genuina competenza irriproducibile, e ci sono tutti gli altri. Cerchiamo di capire perché abbiamo queste gigantesche fortune? Perché c’è una manciata di confratelli tecnologici con questa enorme quantità di denaro? In realtà ciò riguarda molto le esternalità di rete, che è un termine economico gergale, ma che fondamentalmente significa che si fa qualcosa o si usa qualcosa perché lo fanno tutti gli altri. Ognuno usa Amazon perché tutti gli altri usano Amazon ed è molto più facile ottenere oggetti con semplicità. Oppure, del resto, sto ancora facendo una gran quantità di lavoro con Excel, il che è folle, ma Excel è universale e tutti sanno come usarlo. E queste cose che consistono in questo tipo di vantaggi che si auto rafforzano e si auto bloccano, sono in realtà la base di una diverso potere monopolistico, molto diverso dal genere di potere monopolistico che avevamo nell’Epoca Dorata, ma è un potere monopolistico allo stesso modo. E questo provoca una manciata di fortune incredibilmente grandi che è proprio molto difficile interrompere. L’Intelligenza Artificiale rafforza questa tendenza? Forse, d’altro canto la rende più semplice? Non lo so, forse un modello di IA renderà più semplice ottenere rapidamente cose su richiesta da aziende più piccole … in realtà non ne ho idea. Realmente … non penso che la gente abbia effettivamente cercato di capire quella conseguenza. Le persone tendono a dire, bene, tutto ciò rimuove lavoratori, di conseguenza deve incoraggiare il potere dei capi delle società, il che potrebbe essere, ma noi non lo sappiamo. Penso che alle società piaccia l’idea di non doversi effettivamente misurarsi con i lavoratori, ma quello potrebbe essere, ancora una volta, parte del battage pubblicitario.
Martin Wolf Sì. È una questione molto interessante come ciò avviene. Anzitutto, all’interno dello stesso settore dell’IA, io sono rimasto molto interessato, perché questo è avvenuto molto recentemente, dalla improvvisa ascesa di questa società cinese, DeepSeek. E quella sembrava suggerire che l’idea che ci fossero infinite economie di scala e propositi nello stesso settore dell’IA, poteva non essere giusta. Ovviamente, vedremo se ciò è vero. E poi, ovviamente, c’è la questione di quali effetti essa ha sugli utilizzatori, sulle industrie che la usano. È abbastanza chiaro che, a questo stadio, non ne abbiamo alcuna idea. Ma in questo momento, le imprese che hanno le risorse per fare gli investimenti colossali che almeno gli americani stanno attuando sono relativamente limitate, giacché gli investimenti sono così eccezionali.
Paul Krugman Sì. L’intelligenza Artificiale, quella che definiamo IA, certamente non funziona per niente come l’intelligenza umana. Quello che essa fa è raccogliere grandi quantità di dati e fare calcoli davvero complicati su quei dati, il che richiede un investimento anticipato davvero grande. In un modo peculiare, si tratta di informazione, ma effettivamente sembra richiedere una grande quantità di capitale fisico, gigantesche fattorie di server [6], grandi quantità di consumo di energia. Dunque, questo potrebbe effettivamente essere qualcosa che non favorisce tanto il dominio tecnologico, quanto favorisce, come sai, fondamentalmente persone con grandi quantità di denaro da investire in capitale in buona parte fisico.
Martin Wolf Ma al momento, per le ragioni della storia, le persone che sanno come investire e il denaro sono già protagonisti affermati nell’industria tecnologica. Un numero limitato, molto limitato, che in modo interessante non include alcuni di loro. Per un certo periodo, sembrava che l’impresa di maggior valore delle società tecnologiche fosse Apple, ma essa non sembra essere affatto un protagonista significativo in tutto questo. E tra alcune di loro, OpenAI è ovviamente un nuovo attore. Ma è collegata a Microsoft. Ma questa si considera come una di quelle situazioni nelle quali i titolari, o alcuni titolari, sembrano essere incredibilmente ben collocati per espandere ulteriormente le loro capacità. E questa è la ragione per la quale le persone sono preoccupate dall’idea che sopra noi tutti ci saranno una sorta di signori feudali. Ed essi, o alcuni di loro, hanno certamente giocato una qualche parte in queste elezioni nelle recenti elezioni. Quindi in un certo senso si collega a questa idea il fatto che, negli Stati Uniti, la politica stia diventando uno sport plutocratico. E ciò si collega anche con la democrazia futura.
Paul Krugman Sebbene dovremmo dire che in realtà il grande denaro, che in apparenza pesa come il 40 per cento della spesa delle società nelle elezioni, sono state le criptovalute. E io sono molto incerto su quale sia il vantaggio economico dell’IA, ma sono abbastanza certo su quale sia il vantaggio delle criptovalute, che è pari a niente. Ma sfortunatamente si scopre che possono comprarsi un governo.
Martin Wolf Bolle straordinarie possono di per sé avere effetti considerevolmente distorcenti per un certo periodo.
Paul Krugman Certo, e in effetti si porrà una interessante questione. Quanto sarà, però, in questo ritorno al feudalesimo della tecnologia, il potere dell’essere titolari rispetto al solo essere capaci di dispiegare grandi quantità di capitale? E penso che lo scopriremo.
Martin Wolf Dunque andiamo ai titoli di coda culturali.
Paul Krugman Bene. Quindi penso di esser io a cominciare la coda culturale, con un po’ di musica. È Loretta Lynn che canta La figlia del minatore di carbone, che fu anche la base di un magnifico vecchio film, che penso sia il motivo per cui ha a che fare con tutto questo. Ma, di fatto, fondamentalmente non ci sono più figlie di minatori di carbone. Negli Stati Uniti, l’estrazione del carbone erano più di un milione di lavoratori nell’immediato indomani della seconda guerra mondiale. Col 2000 – la produzione di carbone era effettivamente più alta nel 2000 che negli anni ‘940, ma l’85 per cento dei lavoratori se ne erano andati. E da cosa era dipeso? Era tutto dipeso dalla tecnologia. Anzitutto, l’estrazione a cielo aperto e poi il far saltare in aria la cima delle montagne, il che comportava non aver bisogno di grandi quantità di lavoratori, il che dimostra come si può non aver bisogno di avere massicce espulsioni di certi tipi di lavoratori per effetto della tecnologia. Non patimmo una disoccupazione di massa a causa della scomparsa dell’industria del carbone. Patimmo una gran quantità di cambiamenti. Alcuni luoghi vennero colpiti, ma scomparvero anche i modi di vivere. Dunque penso che per varie ragioni, l’esempio del carbone mi interessi proprio per quanto la tecnologia può davvero cambiare le cose. Ma penso anche che, sai, quanto all’ultimissima, raffinatissima tecnologia, che non è la prima volta che vediamo questo film, ma la seconda, la terza o la quarta. Questo è accaduto in continuazione nel corso dei passati due secoli.
Martin Wolf A mia memoria, l’industria della estrazione del carbone in Gran Bretagna al suo picco occupava circa un milione di lavoratori, che era un dato straordinario per un paese molto più piccolo. E la mia idea sulla scomparsa dell’estrazione del carbone è stata fissata dalla famoso descrizione di George Orwell di cosa effettivamente assomiglia all’essere un minatore. E ho stabilito che dovremmo essere molto contenti. Adesso la mia coda culturale, proporrò il mio secondo testo e poi passerò alla musica. Questa settimana è un romanzo, e penso, secondo me, sia il più importante romanzo del 20° secolo, almeno il più rivelatore. Si tratta de La montagna incantata di Thomas Mann, che venne pubblicato nel 1924. E gli anni ‘920 e ‘930 sono un periodo al quale penso sempre di più. Il cuore del libro era il fermento culturale che si sviluppò nella prima metà del 20° secolo, tra l’umanesimo liberale vecchio stile che si manteneva civilizzato, incarnato in questo caso dalla figura di un uomo chiamato Settembrini, che proponeva il tipo di visioni che io sostengo e che comincio a sentire come egualmente antiquate. E dall’altra parte Naphta, che è un marxista rivoluzionario, ma in effetti quando insisti un po’ su di lui, si scopre essere molto simile ai rivoluzionari della destra estrema, e in effetti a conti fatti le differenze tra Hitler e Stalin si sono scoperte piuttosto piccole. E ciò di dà questo senso di un conflitto profondo. E Mann avanza l’idea che la prima guerra mondiale fu l’inizio della distruzione che poi seguì. Il libro fu scritto durante la guerra e venne pubblicato poco tempo dopo. Dunque è straordinario come un romanzo pubblicato cento anni fa possa essere così brillante nel descrivere il genere di cose alle quali stiamo assistendo in questo momento, tra le persone abbastanza fragili, liberali, di tipo umanistico e gli autoritari esagitati. Dunque grazie molte per esservi uniti a noi nella quarta parte delle Conversazioni Wolf-Krugman, qualcosa di molto diverso, sull’Intelligenza Artificiale. Torneremo ancora con voi la prossima settimana quando discuteremo i modi nei quali il sistema economico è cambiato in conseguenza degli eventi recenti, forse per sempre. Forse questa volta è davvero diverso?
[1] I sinonimi di “stocastico” sono aleatorio, probabilistico e casuale. Il termine si riferisce a processi o sistemi il cui comportamento è governato da leggi probabilistiche e quindi è influenzato da fattori casuali.
Quindi, suppongo, definire l’Intelligenza Artificiale come un sistema di ‘pappagalli stocastici’ significa mettere l’accento sulla sua natura caratterizzata soprattutto dalla velocissima imitativa raccolta di tutte le informazioni possibili relative ad un quesito, ma anche influenzata dalla relativa casualità che deriva da quella enorme riserva di informazioni pregresse. In fondo, un sistema che attinge da un infinità di notizie con modalità sostanzialmente ripetitive, e dipende dalla probabilità della loro attinenza al tema. Molto elevata ma, in fondo, garantita semplicemente dalla loro quantità.
[2] Il test di Turing è un criterio per valutare se una macchina è in grado di esibire un comportamento intelligente e indistinguibile da quello umano. È stato proposto da Alan Turing nel 1950 e si basa su un “gioco dell’imitazione” in cui un intervistatore deve determinare quale dei due interlocutori (uno umano e uno artificiale) è la macchina, basandosi solo su una conversazione scritta. Se l’intervistatore non è in grado di distinguere la macchina dall’umano, il test è superato.
[3] Il Premio Nobel non è, ovviamente, stato attribuito ai programmi dei computer, anche se non vedo altra traduzione letterale.
Provo a darmi una spiegazione. Forse il significato deriva dal fatto che John Clarke, Michel Devoret e John Martinis hanno ottenuto il premio Nobel per la Fisica 2025 per la «scoperta dell’effetto tunnel quantistico macroscopico e della quantizzazione dell’energia in un circuito elettrico». I tre accademici americani, tutti professori in importanti università californiane, sono giunti a ricreare l’effetto quantistico del tunnel in un chip sufficientemente grande da poter essere tenuto in mano.
L’effetto tunnel è un concetto fondamentale per la fisica quantistica. Permette una transizione a uno stato non consentito dalla meccanica classica. In questa, infatti, la legge di conservazione dell’energia impone che una particella non possa superare una barriera di energia se non dispone di un’energia pari o superiore. Si pensi a una palla che deve superare un muro: non potrà scavalcarlo (o sfondarlo) se non ha un’energia sufficientemente grande. La meccanica quantistica, invece, prevede che una particella abbia una probabilità diversa da zero di attraversare spontaneamente una barriera di energia. Per dimostrarlo i tre avevano costruito già nel 1985 un circuito elettrico dotato di un “buco” on e uno off, da pressare con una sorta di leva. Fisicamente non era dunque possibile «abbassare» la leva, essendo due cavità distinte, eppure grazie alla meccanica quantistica il circuito si accendeva e si spegneva. «Il sistema elettrico superconduttore potrebbe passare da uno stato all’altro con l’effetto tunnel, come se attraversasse direttamente un muro», hanno scritto.
Ricreare l’effetto tunnel in un chip, potrebbe essere la ragione per la quale si afferma un po’ scherzosamente che con il Nobel è stata premiata la macchina che sui chip si basa.
[4] Paul Allan David era un economista accademico americano, noto per il suo lavoro sull’economia del progresso scientifico e del cambiamento tecnico. Era anche noto per il suo lavoro nella storia economica americana e nell’economia demografica.
[5] Si può tradurre con “blocchi concatenati” ed è la tecnologia distintiva delle criptovalute.
[6] Server farm (in italiano “fattoria di server”, chiamata anche webfarm) è una espressione usata in informatica per indicare una serie di server collocati in un unico ambiente in modo da poterne centralizzare la gestione, la manutenzione e la sicurezza.
By mm
E' possibile commentare l'articolo nell'area "Commenti del Mese"