Når KI-genererte klager og tilbud skaper nye utfordringer

Kunstig intelligens (KI) har på kort tid endret arbeidet med offentlige anskaffelser, både for oppdragsgivere og leverandører. KI gjør det enklere å utforme konkurransegrunnlag, utarbeide tilbud og formulere klager, og medfører et stort mulighetsrom for effektivisering og kostnadsbesparelser i offentlige anskaffelser. Samtidig avhenger en slik effektivisering av at KI benyttes på en god måte som ikke skaper nye utfordringer som gir økt tidsbruk. I flere tilfeller erfarer vi at KI benyttes på en måte som skaper merarbeid og økt ressursbruk, både for leverandører og oppdragsgiver. I dette innlegget deler vi derfor noen refleksjoner om KIs rolle i anskaffelsesprosessen så langt, og belyser noen fallgruver og tips for å unngå disse.

Når medfører KI effektivisering?

Offentlige anskaffelser kan for mange fremstå som en komplisert og ressurskrevende prosess, som krever betydelige ressurser for å kartlegge markedet, utforme konkurransegrunnlag, analysere konkurransegrunnlag, skrive tilbud, følge opp anbudsprosessen og eventuelle klageprosesser. Gjennom KI har flere deler av dette arbeidet blitt enklere. Lett tilgjengelige KI-tjenester som eksempelvis Gemini, ChatGPT og Copilot, samt mer spesialiserte KI-tjenester mot anskaffelser kan benyttes til å både utforme og analysere et konkurransegrunnlag, bistå med utforming av tilbudsdokumenter og utforme klager. Alt dette skjer på en brøkdel av tiden det tidligere tok. KI muliggjør dermed betydelig effektivisering og kostnadsbesparelser i anskaffelsesprosessen for både oppdragsgivere og leverandører.

Forutsetningen for en slik effektivisering er imidlertid at KI benyttes på en god måte og sammen med menneskelig kompetanse. I motsatt fall kan KI skape nye utfordringer som kan lede til merarbeid og reduserte effektivitets- og kostnadsbesparelser.

Vår erfaring er at spesielt KI-genererte vurderinger og klager kan ha en del mangler. Klagene er gjerne lange, og tar med alle anførsler uten å identifisere og fremheve de sterkeste rettslige argumentene. Dette kan lett være utfallet dersom man laster opp alle anbudsdokumenter i KI og instruerer om at KI skal "finne alle feil". I flere tilfeller gir KI også en upresis eller direkte feilaktig fremstilling av rettsreglene, og usikre områder kamufleres i vag og generell tekst. I tillegg ser vi at KI-baserte klager og vurderinger i flere tilfeller bygger på oppkonstruerte KOFA- og domstolsavgjørelser som ikke eksisterer, men som tilsynelatende virker ekte ut fra henvisninger og presise sitater.

 Til illustrasjon har vi sett lignende typer sitater som "det følger av ensrettet KOFA- og domstolpraksis at dokumenter som inngår i kvalifikasjonsvurderingen ikke kan brukes i evaluering av tildelingskriteriene.", og "feil som gjelder konkurransens strukturelle forutsetninger kan ikke rettes opp – dette medfører avlysningsplikt". Sammen med henvisning til saksnummer kan sitatene tilsynelatende virke overbevisende i argumentasjonen, men ved et søk ser man at uttalelsene ikke eksisterer og er i strid med forskriftens egne bestemmelser.

Disse svakhetene kan slå uheldig ut på flere måter. For oppdragsgivere medfører slike klager betydelig merarbeid med å sortere, vurdere og svare ut alle anførsler, når det for det første er klart at flere av anførslene ikke kan føre frem og heller ikke har reell rettslig forankring. For det andre må all rettspraksis som det henvises til gjennomgås nøye, da det ikke er gitt at praksisen faktisk finnes. Dette medfører dermed både økt ressursbruk og en ulempe for oppdragsgiver, samt en ulempe for leverandører ved at også velbegrunnede klager over tid kan møtes med større skepsis.

For leverandøren er konsekvensen at de gode anførslene som faktisk kan føre frem, forsvinner i støyen av øvrige argumenter og taper slagkraft, i tillegg til at hele prosessen forsinkes som følge av at oppdragsgiver må rydde i anførslene. KI-baserte klager kan derfor i praksis svekke leverandørens sjanse til å vinne frem, snarere enn å styrke den.

En annen konsekvens av å inngi en KI-basert klage uten tilstrekkelig kvalitetssikring, er at handlingsrommet i karensperioden brukes opp og det gjenstår for kort tid når man eventuelt ser behovet for juridisk bistand. Leverandøren risikerer dermed å tape en sak som med riktig fokus og kvalitetssikring fra starten kunne gitt et annet utfall.

Videre ser vi også at KI benyttes til å gjøre en innledende vurdering av en sak. I slike tilfeller er det sentralt at KI-vurderingen kvalitetssikres tilstrekkelig for at vi som advokater skal kunne gi klienten en kvalifisert tilbakemelding. I tillegg krever disse vurderingene ofte en oppryddingsjobb, der fiktive rettskilder må lukes ut, anførslene må vurderes opp mot faktiske og rettslige grunnlag, og argumentasjonen må spisses mot det som reelt sett kan føre frem. I praksis innebærer dette et dobbeltarbeid som kan medføre mer tids- og ressursbruk, som fører til at den forventede kostnadsbesparelsen blir illusorisk.

Avslutningsvis nevnes et par andre fallgruver ved bruk av KI i anskaffelser.

KI kan i økende grad brukes til å utforme konkurransegrunnlag. Det er ikke noe nytt at det hefter feil i konkurransegrunnlag som gjenbrukes, men ved bruk av KI ser vi en økt risiko for at oppdragsgivere tar mindre eierskap til konkurransens innhold og spesifikasjoner, og dermed lettere overser feil, selvmotsigelser eller uklarheter før publisering. Konsekvensene kan bli merarbeid i form av spørsmål og oppklaringer, via klager som følge av uklarheter, til avlysning av konkurransen i ytterste konsekvens. Oppdragsgivere må derfor gjennomgå konkurransegrunnlaget nøye og aktivt verifisere at innholdet er korrekt og konsistent.

Til sist nevner vi også at det sannsynligvis blir vanligere fremover at leverandører benytter KI til tilbudsutforming, og da også besvarelser knyttet til oppdragsforståelse. Dette vil selvsagt medføre at tiden som benyttes på slikt tidkrevende tilbudsarbeid går ned. Nedsiden ved dette er imidlertid at det kan medføre generiske tilbud som gjør det vanskelig å skille tilbyderne, og at tilbud som tidligere skilte seg ut drukner i en masse av tilsvarende tekst. Dette blir tilsvarende som arbeidsgivere ser i ansettelsesprosesser der arbeidssøkerne har benyttet KI til utforming av CV og søknad. Risikoen for at tilbudene inneholder påstander leverandøren ikke kan innfri øker også, ettersom KI kan overdrive leverandørens kompetanse eller beskrive metodikk som ikke samsvarer med leverandørens reelle kapasitet.

Konsekvensen blir at oppdragsgivere bør vurdere å benytte andre tildelingskriterier som ikke innebærer skriftlige besvarelser, og i alle tilfeller bør oppdragsgivere sørge for å verifisere tilbudenes innhold i størst mulig grad. Man kan tenke seg at en enkel løsning er å gå over til rene priskonkurranser, der tildelingskriteriet kvalitet blir erstattet med minstekrav og/eller kontraktkrav. I mange anskaffelser er det imidlertid helt sentralt å kunne skille leverandørenes ytelse på kvalitet for å sikre den beste ytelsen til best pris, særlig for kritiske funksjoner. Miljø skal som hovedregel uansett vektes med 30%. Mulige løsninger for å sikre kvalitet er å benytte kvalitetskriterier slik som oppdragsforståelse, men i stedet evaluere basert på muntlige møter der leverandørene presenterer og spørres ut om sin oppdragsforståelse og samarbeidsformer. Dette kan medføre økt ressursbruk sammenlignet med tradisjonelle skriftlige anbudsprosesser, men i det større bildet kan man tenke seg at tiden brukt på å skrive oppdragsforståelse heller brukes på en muntlig presentasjon, og at ressursbruken samlet sett ikke øker.

Mennesker og KI i samarbeid

Oppsummert mener vi at KI er et verdifullt hjelpemiddel som allerede endrer og vil fortsette å endre måten man jobber med offentlige anskaffelser. For at denne endringen skal være positiv, herunder effektiviserende og kostnadsbesparende, må KI imidlertid brukes riktig. Etter vårt syn innebærer dette at KI, slik teknologien er i dag, må benyttes i kombinasjon med menneskelige ressurser og spisskompetanse i hvert enkelt ledd. I enkelte tilfeller vil det også være mer hensiktsmessig å avstå fra bruk av KI, og heller la menneskelige ressurser utgjøre startpunktet. Gevinsten av KI-drevet effektivisering vil sannsynligvis være størst når mennesker med spisskompetanse benytter spesialiserte KI-verktøy som en integrert del av sitt arbeid.

Vår oppfatning er derfor at selv om KI endrer spillereglene i offentlige anskaffelser, fjerner det ikke behovet for menneskelige vurderinger og faglig og teknisk kompetanse. Tvert imot mener vi at den menneskelige innsatsen er vel så viktig, og helt sentral for å sikre at kvaliteten ivaretas i takt med at offentlige anskaffelser effektiviseres gjennom bruk av KI.