To KI-modellar var einige. Difor måtte det vere rett.

Ser du feilen?

Dette er del 2 i ein liten serie eg kallar “Mennesket i loopen” – om kvar grensa går mellom KI og menneskeleg dømmekraft i Microsoft 365. I del 1 skreiv eg om Agent Mode og redaktørrolla. No vil eg til noko som er endo lettare å gå i fella med: konsensus.

Microsoft 365 Copilot Researcher har fått ein funksjon som heiter Council – fleire modellar køyrer parallelt, og du ser kvar dei er einige og kvar dei skil lag. GPT skriv, Claude vurderer, ein tredje modell summerer. Det er imponerande teknologi, og det løftar kvaliteten målbart.

Men det skaper ein ny, subtil fallgruve.

Når to modellar er einige, les vi det som sanning. Hjernen vår er bygd slik – samstemmer fleire kjelder, slappar vi av. Det er ein god heuristikk i ei verd med uavhengige kjelder.

Problemet er at to KI-modellar ikkje alltid er uavhengige kjelder. Dei kan vere trena på overlappande data, dele same blindsoner, og gjere same feil med stor sjølvtillit. To modellar som er einige, kan vere einige om noko som er gale.

Tre ting eg meiner er verdt å hugse:

🔹 Council viser variasjon, ikkje korrektheit. At modellane er ueinige, fortel deg at her er det usikkerheit. At dei er einige, fortel deg ikkje at her er det sanning. Det er to heilt ulike signal, og berre det eine er påliteleg.

🔹 Ueinigheit er faktisk den mest nyttige outputen. Når modellane skil lag, har du fått eit gratis varsel om kvar du bør grave sjølv. Det er der den menneskelege dømmekrafta har størst verdi.

🔹 Konsensus krev framleis verifikasjon på det som betyr noko. For låg-risiko-oppgaver kan du stole på samstemte modellar. For avgjerder med konsekvensar – juridiske, medisinske, økonomiske – er to einige modellar eit utgangspunkt, ikkje ein konklusjon.

Det praktiske rådet: lag ein intern norm for korleis folk skal lese Council. Utan rettleiing blir “modellane var einige” til eit trumløfte. Med rettleiing blir det eit nyttig, men avgrensa signal.

Den djupare innsikta er kanskje denne: KI gjev oss fleire stemmer, men ikkje nødvendigvis fleire perspektiv. Eit ekte mangfald av syn kjem framleis frå menneske med ulik erfaring, ikkje frå modellar med overlappande treningsdata.

Mennesket i loopen er ikkje der for å telje stemmer. Det er der for å vurdere om stemmene faktisk veit kva dei snakkar om.

Neste gong KI-en din er heilt sikker – og samstemt – kva gjer det med din eigen vilje til å dobbeltsjekke?

#Microsoft365 #Copilot #Researcher #ResponsibleAI #MennesketILoopen #KI #AIGovernance #Digitalisering