It is a misconception to assume that AI models are objective simply because they are data-driven. As they are statistical probability machines trained on vast quantities of data, primarily sourced from the internet, language models inevitably contain both the best and the worst aspects of human thinking.

Consequently, they will tend to:

• Follow the majority view: AI systems generally select the statistically most dominant outcome, meaning that minority perspectives, alternative theories, and linguistic nuances are systematically underrepresented. It is worth noting that, in the context of language models, Danish cultural concepts, for example, may effectively constitute a minority perspective when compared with American ones. This is simply because the volume of American data vastly exceeds the volume of Danish data.
• Reproduce and reinforce stereotypes: Because training data reflects historical biases and social inequalities, AI systems are likely to reproduce them. Image generators, for instance, frequently depict doctors as white men and nurses as young women because this pattern remains prevalent online. In a similar way, language models may reproduce associations between particular genders or minority groups and specific social roles or lower levels of professional competence.

What can I do myself?

Actively steer away from mainstream perspectives: Explicitly ask the model to examine an issue through the lens of specific alternative theories, minority perspectives, or non-Western contexts (for example, "Analyse this issue from a postcolonial perspective rather than within a traditional Western paradigm").

Contextualise the response within a Danish or Nordic framework: Remember that a model's default responses are often grounded in American social, legal, and cultural assumptions. Always specify if the analysis should take account of particular Danish institutional structures, legislation, or cultural characteristics.

Always verify academic claims against primary sources: Never use a language model as a primary source for empirical facts or historical information. Use it as a source of ideas and inspiration, and then verify its claims through academic library databases and scholarly literature. 

Future AI models risk being trained on an increasingly skewed and low-quality knowledge base, with a disproportionate amount of misinformation. Recent research points to a significant asymmetry in the material available online to AI chatbots, both for retrieval and as training data. While many reputable news organisations and politically neutral sources actively block AI crawlers in order to protect their content, misinformation websites and highly polarised sources often leave unrestricted access in place. This already has practical consequences today. For example, Copilot, Google, and ChatGPT cannot retrieve content directly from DR's website because access for such systems is blocked.

Det er ofte dig selv, der er den største kilde til bias i chatten. Vores egne blinde vinkler og fordomme påvirker dialogen og bliver dermed en central udfordringer i samspillet mellem menneske og kunstig intelligens.

Vi har alle en biologisk indbygget tendens til confirmation bias: vi søger og husker ubevidst information, der bekræfter vores eksisterende antagelser. Det kan afspejle sig direkte i, hvordan vi prompter:

• Ledende prompts: Hvis du prompter: "Beskriv sammenhængen mellem X og Y", fortæller du implicit maskinen, at der findes en sammenhæng. Da sprogmodeller er kodet til være samarbejdsvillig, vil den hurtigt og overbevisende beskrive denne sammenhæng. Også selvom den faglige virkelighed kan være langt mere nuanceret, eller sammenhængen måske slet ikke findes.
• Det lukkede feedback-loop: Interaktionen med AI er ikke et ensidigt input/output-forhold, men et dynamisk samspil, hvor du påvirker AI'en, og AI'en påvirker dig. Dine forventninger og dit sprog styrer, hvordan AI'en svarer, og den spejler dermed din tænkning. Sker der samtidig det, at du rammes af automation bias (at du ukritisk overvurderer systemets svar) og anchoring bias (at du hænger fast i den første information, du modtog fra AI'en), kan du lande i et uhensigtsmæssigt feedback-loop. Maskinen bekræfter dine antagelser, og du låses fast i dit eget kognitive ekkokammer.

Disse mekanismer påvirker ikke kun kvaliteten af de svar, du modtager. De kan også gøre det sværere at fastholde en aktiv og undersøgende læreproces. Når egne antagelser bekræftes automatisk, eller når AI's svar accepteres ukritisk, øges risikoen for, at teknologien gradvist overtager dele af det analyse- og refleksionsarbejde, som ellers bidrager til din læring.

Hvad kan jeg selv gøre?

For at modvirke din egen bias skal du være adaptiv og eksplorativ i din studieteknik og frem for alt være opmærksom på din egen påvirkning:

Stil åbne spørgsmål: Spørg altid undersøgende: "Findes der en sammenhæng mellem X og Y, og hvad taler eventuelt imod den?".

Søg aktivt modargumenter: Modvirk din confirmation bias ved eksplicit at prompte modellen til at udforske argumenter både for og imod dine egne faglige antagelser.

Forskning viser, at AI-værktøjer paradoksalt nok primært gavner de studerende, som i forvejen er fagligt stærke. De har nemlig den faglige ballast, der skal til for at gennemskue maskinens fejl og bruge den som en kritisk sparringspartner. For studerende, der kæmper med det faglige, er der en langt større risiko for ureflekteret kognitiv udlicitering (cognitive offloading), hvilket kan føre til en stagnation i læringen, hvor man producerer hurtigere, men reelt lærer mindre.

Hvad kan jeg selv gøre?

Brug AI som sokratisk sparringspartner: Undgå at bede modellen om at levere løsninger eller formuleringer. Bed den i stedet om at guide dig fremad gennem spørgsmål; f.eks.: "Stil mig tre uddybende spørgsmål til mit emnevalg, som tvinger mig til at præcisere min problemstilling.".

Hvis du gerne vil prøve kræfter med en chatbot, der helt selv forsøger at være en kritisk sparringspartner, der udfordrer dine valg og forsøger at understøtte din faglige udvikling, kan du prøve vores sokratiske PBL-agent i Copilot.

Definér dine egne faglige succeskriterier først: Inden du prompter modellen, kan du formulere, hvad et godt fagligt svar overhovedet skal indeholde (f.eks. hvilke teorier, begreber eller metodiske krav opgaven fordrer). På den måde bevarer du procesejerskabet og lader ikke modellens tilfældige fokus diktere din faglige retning. Se også forslaget om at lave en "hjernestart" før du åbner din chatbot.

Gør bearbejdning til en læreproces: Hvis du bruger AI til at opsummere en kompleks tekst, så brug opsummeringen som en læsevejledning frem for en erstatning for selve teksten; læs stadig nøgleafsnittene selv for at forstå nuancerne.

AI føles immateriel, men sprogmodeller slider voldsomt på planetens ressourcer i form af et massivt strømforbrug og enorme mængder vand til køling af datacentre. Over en tredjedel af studerende på AAU udtrykker, at klima- og miljøkonsekvenserne ved generativ AI bekymrer dem i deres studiehverdag. Derfor bør du vurdere, hvornår AI er det rette værktøj til opgaven, og hvornår du kan løse opgaven med mere energieffektive redskaber som f.eks. en almindelig søgemaskine eller et opslag i din pensumlitteratur.

Hvad kan jeg selv gøre?

Vælg det rette værktøj til opgaven: Overvej, om du behøver en energitung sprogmodel til simple informationssøgninger, som en traditionel søgemaskine eller et databaseopslag klarer mere præcist og til en brøkdel af ressourceforbruget.

Minimer unødvendige prompt-iterationer: Vær præcis og velovervejet i dine prompts fra start, så du undgår lange, ustrukturerede samtaler med mange overflødige genereringer.

Genbrug prompts og strukturer i studiegruppen: Del velfungerende arbejdsgange og opsummeringer internt i gruppen i stedet for, at alle gruppemedlemmer genererer parallelle svar på de samme spørgsmål.