Det europeiske systemrisikorådet (ESRB) advarer mot avanserte KI-modeller

Nyheter

ESRB advarer om at avanserte KI-modeller har økt den systemiske cyberrisikoen og utfordrer motstandsdyktigheten i det finansielle systemet. Norges Bank og Finanstilsynet stiller seg bak advarselen.

Avanserte språkmodeller gir økt risiko for cyberangrep

Nye avanserte KI-modeller, ofte omtalt som Frontier AI Models (FAIMs), har stor kapasitet til å identifisere og utnytte svakheter i operativsystemer og programvare, som er sentrale for dagens IKT-infrastruktur og finansielle systemer.

I en pressemelding skriver ESRB at

  • de avanserte KI-modellene endrer det digitale trusselbildet for det finansielle systemet i EU
  • modellene kan gjøre cyberangrep raskere, mer omfattende og mer sofistikerte
  • relevante myndigheter bør ta hensyn til disse risikoene i sitt tilsyns- og overvåkingsarbeid

ESRB trekker fram at de avanserte KI-modellene på lengre sikt kan styrke den digitale motstandsdyktigheten, men at de på kortere sikt kan de innebære en fordel for trusselaktører, siden de gir mulighet til å oppdage sårbarheter raskere.

Trusselbildet gjelder også for det norske finansielle systemet

Norges Bank og Finanstilsynet stiller seg bak advarselen fra ESRB. Ny teknologi og løsninger med bruk av kunstig intelligens kan benyttes av foretakene i forsvar mot digitale trusler, men også i ondsinnede angrep.

Den raske teknologiske utviklingen stiller høye krav til foretakenes digitale forsvarsverk og krever at foretakene har oppdaterte systemer og tilstrekkelig kapasitet til å utvikle og gjennomføre et stort antall rettelser og sikkerhetsoppdateringer. Norske finansforetak må følge nøye med på utviklingen i det digitale trusselbildet og ha god styring og kontroll både med egne løsninger og der IKT‑virksomheten helt eller delvis er satt ut til en tredjepart.

Norges Bank og Finanstilsynet følger opp foretakenes beredskap mot ondsinnede cyberangrep i sitt løpende overvåkings- og tilsynsarbeid innenfor sine respektive ansvarsområder.

ESRBs pressemelding

Uoffisiell norsk oversettelse av ESRBs pressemelding: 

Annen relevant informasjon 

Om ESRB

ESRB overvåker makroøkonomien i det europeiske finansielle systemet og skal forebygge og redusere systemrisiko. Norges Bank og Finanstilsynet deltar fra Norge i ESRB.