Forskerskolen: Regler for bruk av ChatGPT og andre store språkmodeller (LLM) i forskning

Teams-link kommer!

Generative KI-systemer forventes å føre til store endringer i måten forskning utføres på. Disse er basert på store språkmodeller (Large Language Models – LLM). Den mest kjente språkmodellen er GPT (generative pre-trained transformer, eller generativ forhåndstrent transformator på norsk), utviklet av firmaet OpenAI. Modellene gir ofte klare svar på kompliserte spørsmål og har allerede blitt svært populære innen flere bransjer. 

Men bruk av slike systemer er ikke utelukkende positivt. Smith m.fl. forteller at: «Ved siden av store potensielle fordeler står store potensielle farer, og innenfor begge disse kategoriene er det sikkert bruk av generativ AI som vi (og andre) ikke har forutsett. Når vi utforsker disse nye verktøyene, må vi faktisk ikke miste av syne de uløste dilemmaene som fortsatt omgir generativ AI-teknologi. Noen av utfordringene som er relevante for forskning inkluderer bruk av uspesifiserte, potensielt partiske treningsdatasett for kommersielle modeller, en implisitt tilknytning til eksisterende vitenskapelige paradigmer, og et betydelig karbonavtrykk.»

Smith m.fl. har med utgangspunkt i egne erfaringer foreslått 10 enkle regler for bruk av LLM-er i forskning:

1. Følg reglene til tidsskriftet som artikkelen skal publiseres i.
2. Skisser relevante risikoer før LLM-bruk.
3. Unngå plagiering.
4. Respekter konfidensialitet.
5. Bekreft sannheten til innhold generert av en LLM.
6. Bruk en LLM for å utføre et mer inkluderende datasøk.
7. Bruk en LLM for å oppsummere innhold. 
8. Bruk en LLM til å avgrense skriftlig engelsk i formell og uformell kommunikasjon.
9. Bruk en LLM for å forbedre vitenskapelig koding.
10. Bruk en LLM for å starte din vitenskapelige skriveprosess.

I foredraget gjennomgås bl.a. Smith m.fl. sine ti regler for bruk av store språkmodeller i forskning. 

Referanse: Smith GR, Bello C, Bialic-Murphy L, Clark E, Delavaux CS, Fournier de Lauriere C, et al. (2024) Ten simple rules for using large language models in science, version 1.0. PLoS Comput Biol 20(1): e1011767. 

https://doi.org/10.1371/journal.pcbi.1011767

___________________________________________________________

Foreleser er professor Gunnar Hartvigsen som gjennom flere tiår har forsket, undervist og jobbet med prosjekter innenfor telemedisin og e-helse ved Universitet i Tromsø og Universitetssykehuset Nord-Norge. I 2023 begynte han å jobbe i Helgelandssykehuset i en 20 prosents stilling.