autori:
Barend Mons, Prufessore Emeritu di l'Università di Leiden, Membru di u Cunsigliu di a fundazione GO FAIR è Direttore di LIFES, l'Iniziativa di Leiden per una scienza ghjusta è equa.
Arie Baak, Membru di u Cunsigliu di l'Associazione LIFES per una scienza ghjusta è equa
Koen Jonkers, Cummissione Europea, Centru Cumunu di Ricerca (JRC), Bruxelles, Belgio
L'Intelligenza Artificiale trasforma u modu in cui a scienza hè cundutta, cumunicata è validata. Hà una vera prumessa, permettendu u ricunniscimentu di mudelli à scale chì nisun ricercatore umanu pò eguaglià, accelerendu i flussi di travagliu è aprendu novi vie per a scuperta. Ma l'IA hè ancu veloce, micca senza errori è indiscriminata, mentre chì a scienza richiede tempu è hè meticulosa per design. A tensione trà queste duie realtà genera digià una seria disfunzione: un'inondazione di publicazioni è dati generati da l'IA, revisioni paritarie degradate, scuperte allucinate è fiducia erosa in u documentu scientificu. E cumpetenze richieste à i futuri scientifichi stanu cambiendu fundamentalmente è a pulitica scientifica ùn hà micca seguitu u passu. Affruntà sta lacuna hè urgente.
A scienza hè passata da un ambiente sparsu di dati à un ambiente riccu di dati cù una velocità rimarchevule. Mentre i circadori una volta generavanu insemi di dati modesti è cumunicavanu i risultati principalmente per mezu di articuli leggibili da l'omu, operanu avà in un'era di generazione esponenziale di dati. Gran parte di elli sò ad alta dimensione, distribuiti è trattabili solu da e macchine. Tuttavia, sta tendenza ùn si riflette micca in u riutilizazione reale di i dati. Per cambià questu, i dati stessi devenu esse trattati avà cum'è una pruduzzione scientifica di prima classe, micca un sottoproduttu di l'articuli.
E macchine eccellenu à truvà mudelli in insemi di dati grandi è cumplessi. Ma e macchine ùn anu micca un mudellu cuncettuale inerente di a realtà pertinente per l'omu. U risultatu hè una pruvista guasi illimitata di mudelli, assai spurii, alcuni ingannevuli. Una sfida cintrale per a prossima generazione di scienziati serà di navigà in questa giungla di mudelli: distingue u signale significativu da u rumore statisticu. A supervisione umana ùn hè micca facultativa; hè strutturalmente necessaria.
I decisori pulitichi devenu ancu esse cuscenti chì l'IA in scienza si stende ben oltre i Grandi Modelli di Lingue, chì attualmente dominanu u discorsu publicu. U paisaghju più largu include l'apprendimentu automaticu per a generazione d'ipotesi, i flussi di travagliu sperimentali automatizati è u ragiunamentu basatu annantu à i grafichi di cunniscenza, ognunu cù rischi è opportunità distinti chì richiedenu risposte di guvernanza persunalizate.
A qualità di a pruduzzione di l'IA in scienza hè direttamente determinata da a qualità di i dati IngressuI dati FAIR (Truvabili, Accessibili, Interoperabili è Riutilizzabili, è sempre più capiti cum'è Fully AI Ready) sò u prerequisitu fundamentale per una scienza responsabile guidata da l'IA. Senza questu, i mudelli di IA sò furmati nantu à cuntenutu grezzu, micca curatu, potenzialmente distorto, o ancu fabricatu, producendu allucinazioni chì ponu esse periculose per a vita in cuntesti clinichi è chì minanu sistematicamente a fiducia in a scienza. In particulare induve u riutilizazione di dati facilmente truvabili hè principalmente da attori micca basati nantu à a scienza cum'è l'attuali cumpagnie LLM.
Altrettantu impurtante hè l'usu di mudelli cuncettuali FAIR per limità l'IA. OutputsFurnendu quadri semantichi strutturati, induve ogni cuncettu hè ben definitu, cumu si riferiscenu è ciò chì conta cum'è inferenza valida, sti mudelli riducenu significativamente u risicu di allucinazioni è aiutanu à assicurà chì i risultati generati da l'IA restanu spiegabili, interpretabili è verificabili da l'omu.
A crisa d'integrità in a publicazione scientifica aggrava questi risichi. I sistemi di IA ponu avà generà articuli, dati è recensioni chì parenu plausibili guasi istantaneamente. Una cunferenza di punta nantu à l'IA hà ricevutu più di 20,000 presentazioni solu in u 2025. A risposta (i scientifichi chì utilizanu l'IA per rivedere i documenti generati da l'IA) rischia di creà un ciclu di feedback di rumore chjusu in u quale i sistemi difettosi si valutanu l'uni à l'altri senza una verifica esterna significativa. I dati FAIR publicati à a fonte, induve a pruvenienza pò esse verificata, sò trà l'arnesi più robusti dispunibili per cuntrastà sta tendenza.
À a basa di tuttu què ci hè un fallimentu strutturale di l'incentivi. I circadori sò sempre principalmente ricumpensati per u numeru d'articuli è i tassi di citazione, una metrica cuncipita per un'era di scarsità di dati. A publicazione di dati FAIR di alta qualità porta pocu ricunniscenza prufessiunale è nisuna copertura di finanziamentu garantita. Questu deve cambià.
U paisaghju di a guvernanza tecnica di i dati in scienza hè in crisa. Decennii di dipendenza da un picculu numeru di grandi fornitori di cloud, cumminati cù strumenti ghjuridichi cum'è u US Cloud Act, anu creatu un prublema di suvranità di i dati chì hè avà acutu, in particulare à a luce di a recente instabilità pulitica di i Stati Uniti è di i so effetti nantu à l'infrastrutture di ricerca spartute à livellu internaziunale. Parechje di e risorse di dati scientifici fundamentali di u mondu sò effettivamente fora di u cuntrollu ghjurisdizionale di l'istituzioni è di e cumunità chì l'anu generate.
I Principii FAIR, cumplementati da i Principii CARE (chì trattanu i diritti è l'interessi di i Populi Indigeni in a guvernanza di i dati), furniscenu un quadru coerente per una gestione responsabile. Inseme, definiscenu e cundizioni in cui i dati devenu esse aperti o ristretti, riutilizzabili è sovrani. U cuncettu di un Internet di Dati è Servizii FAIR (IFDS), in u quale i dati restanu à a so fonte è sò visitati da algoritmi autorizati invece di esse copiati è centralizzati, offre una risposta architettonica pratica. In questu mudellu, e dumande computazionali viaghjanu versu nodi di dati distribuiti; i dati ùn viaghjanu micca versu archivi centralizzati, salvu chì ùn sia inevitabile.
Una participazione equa à a scienza basata nantu à l'IA richiede ancu chì sta infrastruttura sia veramente accessibile. L'istituzioni è e cumunità in u Sud Globale ùn ponu esse sughjetti passivi di u riutilizazione di i dati. À l'altra estremità di u spettru di a cunnessione, l'industria à alta intensità di dati ùn deve esse esclusa. L'infrastruttura FAIR distribuita, cuncipita per evità u lock-in di u venditore è i punti unichi di fallimentu, hè u mecanismu per mezu di u quale una participazione significativa diventa pussibule.
Una risposta pulitica coerente richiede azzione nantu à parechji fronti:
A scienza hè un bè publicu mundiale. A so integrità, equità è apertura ùn ponu esse presunte; richiedenu scelte pulitiche attive. A finestra per stabilisce una bona guvernanza per l'IA in a pruduzzione scientifica hè aperta, ma ùn resterà micca cusì indefinitamente. E decisioni prese avà nantu à i standard di dati, l'infrastrutture, l'incentivi è a supervisione determineranu se l'IA accelera a scienza affidabile o a mina sistematicamente.
Foto di Getty Images per Unsplash+
Ospitatu in partenariatu trà u Cunsigliu Internaziunale di a Scienza (ISC) è Frontiers Policy Labs, stu blog face parte di una Una nova guvernanza per a scienza in u XXI seculu' Una seria chì serve da foru di discussione dinamicu per a dirigenza di u pensamentu nantu à l'avvene di a guvernanza scientifica. Alluntanendu si da studii accademichi rigidi, l'iniziativa riunisce e principali voci mundiali per furnisce articuli d'opinione acuti, pruvucatori ma basati nantu à l'evidenza è lungimiranti. Cusì, vole cuntribuisce à definisce un mudellu di guvernanza resiliente, inclusivu è trasparente, equipatu per e sfide di dumane.
Vede u postu uriginale ccà.
Légales
L'infurmazioni, l'opinioni è e raccomandazioni presentate in i nostri blog invitati sò quelle di i cuntributori individuali è ùn riflettenu micca necessariamente i valori è e credenze di u Cunsigliu Internaziunale di a Scienza.
Leghjite più nantu à e tecnulugie emergenti è e trasfurmazioni Leghjite più nantu à a scienza muderna: i mutori geostrategichi, tecnologichi è suciali di u cambiamentu Leghjite più nantu à a scienza urganizata in l'era di l'IA: Dormimu à u volante? 
Leghjite più nantu à u lanciu di a prima piattaforma di ricerca basata nantu à l'IA è di u rapportu regiunale di valutazione di R&S 