Projekt: Hvordan former AI videnskabelig viden?

På få år er kunstig intelligens (AI) blevet et etableret redskab i videnskabelig forskning og produktion.

Men hvordan vil AI transformere videnskaben i fremtiden, ikke kun i forhold til den videnskabelige viden, men også i måden, som forskere kommunikerer, opfatter og formidler videnskab på? De spørgsmål er kernen i et stort EU-finansieret projekt, der har til formål at lægge fundamentet for en kvantitativ undersøgelse af såkaldt ’AI-infused science’.

Med et Consolidator Grant på 2 mio. euro fra Det Europæiske Forskningsråd (ERC) vil projektleder professor Roberta Sinatra og hendes fremtidige projektteam undersøge den voksende indflydelse af kunstig intelligens på videnskaben ved at kombinere samfundsvidenskabelige metoder med en række eksperimenter.

Projektet, der har fået overskriften 'Quantifying AI-infused Science', bliver forankret på Copenhagen Centre for Social Data Science (SODAS), hvor det vil supplere et andet nyt SODAS-projekt om AI. Men mens sidstnævnte måler, hvordan brugen af AI spreder sig blandt forskere, fokuserer det nye og større projekt på, hvordan AI transformerer og former videnskabelig viden som sådan:

"Vi vil undersøge, hvordan artikler og andre videnskabelige publikationer produceret af AI adskiller sig fra menneskelig videnskabelig produktion. Hvilke ligheder, forskelle og skævheder er der på tværs af AI-produceret og menneskelig produceret videnskab? Og i hvilken grad skaber brugen af AI i videnskaben nye udfordringer eller i visse tilfælde forbedringer," siger Roberta Sinatra.

Hvor god er AI til videnskab?

Projektet undersøger disse spørgsmål ved hjælp af en række forskellige metodiske tilgange.

En hjørnesten vil være at træne AI til at skrive tusindvis af videnskabelige litteraturgennemgange og abstracts ved at fodre AI-modeller med emner og nøgleord fra eksisterende videnskabelige artikler skrevet af mennesker og offentliggjort mellem 2021 og 2022. Artiklerne er derfor hverken 'forurenet' af AI-genereret tekst eller endnu blevet fodret ind i AI-modellerne. De rent ’menneskeproducerede’ artikler vil herefter blive sammenlignet med deres AI-genererede modstykker.

Denne tilgang gør det muligt for forskere at vurdere, hvordan AI-modeller behandler en bred vifte af aktuelle videnskabelige emner og spørgsmål sammenlignet med os mennesker. Det vil også give indsigt i, hvordan AI håndterer de sociale aspekter af videnskabelig skrivning.

Ifølge Roberta Sinatra spiller sociale faktorer nemlig en vigtig rolle, når forskere beslutter, hvilken eksisterende viden de vil betone og inddrage i deres videnskabelige produktion:

"Et eksempel er aktualitet. Pilotstudier tyder på, at mennesker lægger mere vægt på nyere studier end AI-modeller, som har en tendens til at 'udjævne' betydningen af gammel og ny viden, hvilket er problematisk. På den anden side kan AI udvide det videnskabelige perspektiv på andre måder. Projektet vil give et mere nøjagtigt billede af sådanne forskelle, som kan omfatte uligheder eller bias relateret til køn, sprog og andre faktorer," siger hun.

Et 'window of opportunity'

Ved hjælp af avancerede beregningsmetoder vil projektet endda forsøge at måle sådanne systemiske bias ved at udvikle nye måder at kvantificere forskellene.

Udviklingen går så hurtigt i øjeblikket. Men vi har netop nu et ’window of opportunity’, hvor vi kan sammenligne den viden, som mennesker producerer, med det arbejde, som AI udfører. 

Derudover skal kontrollerede eksperimenter undersøge menneskets opfattelse af kunstig intelligens. En idé er at teste, hvor godt AI-producerede konferenceabstracts klarer sig i peer-reviews. Et andet vil være at præsentere fagfolk for to tematisk ens abstracts – et skrevet af AI, et af et menneske – og se, om de kan afgøre, hvad der er hvad.

"Udviklingen går så hurtigt i øjeblikket. Men vi har netop nu et ’window of opportunity’, hvor vi kan sammenligne den viden, som mennesker producerer, med det arbejde, som AI udfører. I sidste ende er målet med projektet at give os alle et meget klarere billede af de nye og uventede konsekvenser af den AI-påvirkede videnskab."