In English further down.

Ett forskningslandskap i snabb förändring

Vi nås nästan dagligen av nyheter som understryker att forskning är ett fenomen som just nu befinner sig i en hastig och i vissa avseenden disruptiv förändring. Vi kan se hur vissa mångmiljardärer skapar nya strukturer för forskning och det är givetvis svårt att bortse från den politisering av forskning som äger rum i vissa delar av världen. Även om fri forskning kanske är en chimär så kan vi konstatera att en del förändringar är lite oroväckande för att forskningen ska kunna fortsätta vara en ändamålsenlig arena för kritiskt och fritt sanningssökande.

Frågetecknen hopar sig också vad gäller den effekt AI kommer att ha på forskningen, och då i synnerhet på det vetenskapliga publikationssystemet. Jag noterade nyligen att några journaler i mitt eget forskningsfält nu har infört avgifter när man skickar in manuskript och strömmen av förfrågningar rörande artikelgranskning har gått från att vara oroväckande strid till att bli deprimerande då man knappt ens hinner svara på förfrågningarna, än mindre granska så många artiklar. På min hemmakonferens var det också tydligt att journalen som drivs av det närmaste forskarnätverket upplever en exponentiell ökning av antalet inskickade manuskript och att en mycket stor andel av dessa bär spår av väl tilltagen AI-användning. Tyvärr är kvaliteten i många fall också bristfällig och arbetet med att sköta journalen och dess artiklar har i ännu högre grad än tidigare kommit att fokusera på att rensa ut ogräs snarare än att odla och kultivera de intellektuella plantor som ska blomma ut i publicerade artiklar.

Exakt vart AI-utvecklingen är på väg är givetvis helt omöjligt att säga, men det är enkelt att konstatera att vi under väldigt lång tid inte upplevt något så omstörtande för vår verksamhet, och förändringen går oerhört snabbt. Det är i detta sammanhang viktigt att understryka att det med all sannolikhet inte går att ta steg tillbaka eller ens bromsa hastigheten på utvecklingen. Anden är ute ur flaskan och vi måste omfamna den förändring som sker. En konsekvens är att vi alla behöver lära oss att använda AI på ett fruktbart och etiskt korrekt sätt, samtidigt som vi måste stävja missbruk och oegentligheter. En del av detta är att gemensamt diskutera hur AI bör användas i de olika stegen i vår forskning och på vilket sätt AI-användning ska integreras i vår forskarutbildning. Efter många diskussioner i skolans forskarutbildningsutskott och vid handledarseminarier står det exempelvis klart att det finns en betydande gråzon där vi ännu inte är överens om vad som utgör lämplig AI-användning inom ramen för avhandlingsarbete. Några saker finns det dock konsensus om och dessa har vi nu försökt slå fast i en uppsättning riktlinjer för AI-användning i forskarutbildningen på ITM. Läs dem gärna och kom också med synpunkter.

På längre sikt kommer vi möjligen att se omvälvande effekter av AI på hela det vetenskapliga publikationssystemet. Kanske är AI rentav den faktor som ger dödsstöten åt ett system som många av oss upplevt som orimligt och som tillsammans med våra system för att mäta prestationer inom forskning ibland lätt till tveksamma prioriteringar. Ibland behöver vissa saker brinna ned till grunden för att något bättre ska kunna resa sig upp ur askan. Det kan vara så att vi i akademin just nu står inför ett sådant ögonblick. Oavsett vilket är det en sällsynt spännande tid att vara forskare.

/Mats Magnusson, vice skolchef och forskarutbildningsansvarig på ITM

Research in a Rapidly Changing Landscape

Almost every day, we are confronted with news that highlights how research is currently undergoing rapid and, in some respects, disruptive change. We see how certain billionaires are creating new structures for research, and it is, of course, difficult to ignore the politicisation of research taking place in some parts of the world. Even if truly independent research may be an ideal rather than a reality, some of these developments are nevertheless concerning if research is to continue serving as a meaningful arena for critical and independent inquiry.

There are also growing questions about the impact that AI will have on research, particularly on the scientific publishing system. I recently noted that several journals within my own research field have introduced manuscript submission fees. At the same time, the flow of requests to review articles has gone from being worryingly frequent to becoming almost overwhelming. It is difficult to find time even to respond to the requests, let alone review the growing number of submissions.

At my principal academic conference, it was also clear that the journal associated with the closest research network is experiencing exponential growth in the number of submitted manuscripts. A very large proportion of these submissions show clear signs of extensive AI use. Unfortunately, the quality is often lacking, and the work involved in managing the journal has increasingly shifted from cultivating promising intellectual contributions to filtering out weeds. More than ever before, the focus is on eliminating poor-quality submissions rather than nurturing the ideas that may eventually flourish into published articles.

Exactly where AI development is heading is, of course, impossible to predict. However, it is easy to conclude that we have not experienced anything this transformative for our profession in a very long time, and the pace of change is extraordinary. In this context, it is important to emphasise that it is unlikely we can reverse or even significantly slow this development. The genie is out of the bottle, and we must embrace the change that is taking place.

One consequence is that all of us need to learn how to use AI in a productive and ethically responsible manner, while also working to prevent misuse and misconduct. Part of this involves discussing collectively how AI should be used throughout the various stages of research and how AI literacy should be integrated into doctoral education. Following extensive discussions within the School’s doctoral education committee and at supervisor seminars, it has become clear that there remains a significant grey area where consensus has not yet been reached regarding what constitutes appropriate AI use in doctoral work.

There are, however, some areas where agreement does exist, and we have therefore sought to establish these principles in a new set of guidelines for AI use in third-cycle education at ITM. I encourage you to read them and share your feedback.

In the longer term, we may witness profound changes to the entire scientific publishing system as a result of AI. Perhaps AI will even become the factor that delivers the final blow to a system that many of us have regarded as unreasonable, and which, together with our methods for measuring research performance, has sometimes led to questionable priorities.

At times, certain structures need to burn down completely before something better can emerge from the ashes. It may be that academia is currently facing such a moment. Whatever the outcome, it is undoubtedly a remarkably exciting time to be a researcher.

/Mats Magnusson, Deputy Head and Director of Third Cycle Education at the ITM School