Agentisk AI og rollebaseret adgang: den nye sikkerhedsmodel

Afbrydelsen af Agenturbaseret AI i virksomheder Det nedbryder mange antagelser, vi tog for givet inden for cybersikkerhed og adgangsstyring. Indtil nu har næsten alt været organiseret omkring organisationsdiagrammet: en rolle, et mere eller mindre stabilt sæt tilladelser, og det er det. Men i en verden, hvor brugerne ikke længere bare er mennesker, men også AI-agenter, der handler på egen hånd, begynder den model at falde fra hinanden på alle sider.

I mellemtiden, den klassiske Rollebaseret adgang (RBAC) Det er fortsat essentielt for at beskytte følsomme data og anvende princippet om mindst mulig privilegium, men det kommer til kort, når autonome agenter kommer i spil og skifter opgaver, systemer og kontekster på få sekunder. Udfordringen er ikke længere kun, hvem du er i organisationsdiagrammet, men hvad du skal gøre lige nu, hvor længe og under hvilke risikable forhold.

Hvad er agentisk AI, og hvorfor ændrer det spillets regler?

Når vi taler om agentisk AI, refererer vi til kunstige intelligenssystemer, der er i stand til at fungere som autonome agenter De fortolker mål, designer planer og udfører opgaver i den virkelige verden på vegne af mennesker, applikationer eller processer. De forbliver ikke bare i samtalen; de træffer beslutninger, kalder API'er, ændrer data, integrerer information og lukker end-to-end-arbejdsgange.

I modsætning til mere traditionelle AI-systemer, som fokuserer på meget begrænsede opgaver, er agentisk AI målorienteret driftBrugeren angiver, hvad de ønsker at opnå (for eksempel lancere en kampagne, opdatere en hjemmeside eller løse et problem), og agenterne er ansvarlige for at opdele problemet i delopgaver, koordinere med hinanden og udføre det med minimal menneskelig indgriben.

Denne tilgang er afhængig af avancerede sprogmodeller (LLM), planlægningsmekanismer, hukommelse til at bevare kontekst og forbindelser med virksomhedens værktøjer og dataFra den cocktail kommer noget meget kraftfuldt: systemer, der ikke kun reagerer, men også agerer inden for dine forretningsprocesser og dine kritiske systemer.

Den direkte konsekvens er, at begrebet "bruger" udvides: vi taler ikke længere kun om medarbejdere og leverandører, men om snesevis eller hundredvis af AI-agenter med deres egne identiteter, som kræver tilladelser for at få adgang til produktionssystemer, kodelagre, ERP'er, CRM'er, analyseplatforme eller hybride cloud-miljøer.

Fra generativ AI til agentisk AI: fra at reagere til at udføre

De fleste mennesker har lært om AI gennem generative værktøjer De producerer tekst, billeder, kode eller lyd som svar på en prompt. De er meget nyttige til at skrive e-mails, opsummere dokumenter eller generere idéer, men de er afhængige af, at en person eksplicit beder dem om at udføre hver opgave.

Agentic AI går et skridt videre og ændre interaktionsmodellenI stedet for altid at "vente på en prompt", fungerer den baseret på mål og arbejdsgange. Den kan opdele en opgave i trin, vælge hvilket værktøj der skal bruges i hvert trin, udføre handlinger og evaluere, om resultatet lever op til forventningerne. Forskellen opsummeres ofte i én sætning: generativ AI reagerer; agentiv AI handler.

I praksis betyder det, at agenter ikke kun genererer indhold, men også De orkestrerer hele processerDe indsamler information fra forskellige kilder, analyserer den, træffer betingede beslutninger og skriver til virksomhedens systemer. Derudover kan de koordinere med hinanden i multi-agent-arkitekturer, hvor hver især påtager sig en specialiseret rolle.

Dette spring er muligt takket være tre centrale fremskridt: modenheden hos LLM'er med ræsonnementsevner, fremkomsten af rammer for agenter såsom LangChain, CrewAI, Semantic Kernel og OpenAI Agents, samt dyb integration med virksomhedens API'er, interne data og SaaS-værktøjer. Alt dette gør agenter centrale for virksomhedens nye "operativsystem".

Sådan fungerer AI-agenter: operationel cyklus og samarbejde

Bag enhver agent ligger en relativt stabil operationel cyklus, der forklarer, hvordan de bevæger sig fra et vagt mål til en fuldført opgave. Denne cyklus kan typisk opsummeres i fem faser, hvor kombination af ræsonnement og handling Det er sagens nøgle.

Først, den fortolkning af måletAgenten modtager en anmodning i naturligt sprog eller gennem et andet system: om at udarbejde en rapport, løse en hændelse, analysere konkurrencen eller koordinere en softwareopdatering. Ud fra dette input genererer den en struktureret repræsentation af, hvad den skal opnå.

Så kommer den planlægningAgenten opdeler målet i delopgaver, etablerer en udførelsesrækkefølge og bestemmer, hvilke værktøjer, data og systemer der er brug for i hvert trin. Dette fremhæver forskellen i forhold til rent generative modeller, som er begrænset til at producere output, mens agenter konstruerer en arbejdsgangssekvens.

I tredje fase bruger agenten eksterne værktøjer og API'erDu kan forespørge på databaser, ringe til interne tjenester, søge efter dokumenter i arkiver, interagere med samarbejdsplatforme eller køre scripts på IT-infrastruktur. Denne del er følsom fra et sikkerhedsmæssigt synspunkt, fordi det er der, hvor agenter rent faktisk udøver deres adgangsrettigheder.

Den fjerde fase er udførelse af handlingerAgenten konsulterer ikke kun, men opretter eller ændrer også information, opdaterer systemer, starter driftsprocesser, åbner eller lukker tickets, implementerer ændringer eller aktiverer automatiserede arbejdsgange. Det er her, at AI ophører med at være en passiv co-pilot og bliver en udførende aktør i virksomhedsmiljøet.

Endelig en evaluering af resultatetAgenten gennemgår sit arbejde, sammenligner det med det oprindelige mål, registrerer fejl eller uoverensstemmelser og beslutter, om der skal gentages trin, anmodes om menneskelig validering eller opgaven afsluttes. Denne cyklus gentages kontinuerligt, indtil agenten fastslår, at det forventede kvalitetsniveau er nået.

I arkitekturer med flere agenter replikeres denne cyklus på tværs af flere specialiserede agenter, der samarbejde med hinandenFor eksempel kan én person være ansvarlig for at undersøge information, en anden for at analysere data, en anden for at generere dokumentation og en anden for at koordinere udrulningen af ​​ændringer. Et orkestreringssystem fordeler opgaver, administrerer afhængigheder og sikrer, at hele arbejdsgangen giver forretningsmæssig mening.

Autonomi, agenttyper og multiagentsystemer

Ikke alle agenter er ens, og de kræver heller ikke det samme niveau af autonomi. På et overordnet niveau kan vi skelne mellem forskellige typer af agenter til kunstig intelligens afhængigt af deres adfærd og kompleksitet, hvilket har en direkte indflydelse på, hvordan vi skal designe deres tilladelser og kontroller.

I den enkleste ende er reaktive stofferDisse systemer reagerer på specifikke miljømæssige stimuli uden omfattende planlægning. De er hurtige og pålidelige i meget begrænsede sammenhænge, ​​for eksempel til at automatisere reaktioner på veldefinerede tekniske hændelser eller til at udføre simple handlinger, når en alarm udløses.

Et trin ovenfor finder vi deliberative agenterDisse agenter inkorporerer ræsonnement og planlægning. De analyserer forskellige muligheder, evaluerer alternativer og vælger den mest passende strategi for at nå målet. Denne type agent er bedre egnet til scenarier med usikkerhed og mere komplekse processer, typiske for forretningsmiljøet.

Der er også multiagentsystemerhvor flere specialiserede agenter samarbejder om den samme arbejdsgang. Hver enkelt påtager sig en rolle – research, analyse, resultatgenerering, validering, implementering osv. – og de kommunikerer med hinanden for at løse opgaver, der isoleret set ville være for komplekse eller langsomme.

Endelig har fremskridt inden for sprogmodeller gjort det muligt at forme LLM-baserede selvstændige agenteri stand til at ræsonnere, planlægge og handle med betydelig fleksibilitet. Frameworks som LangChain, CrewAI, Semantic Kernel og OpenAI Agents letter konstruktionen af ​​disse systemer, selvom begrænset autonomi med klare regler, observerbarhed og menneskeligt tilsyn normalt foretrækkes i forretningspraksis.

Agent AI og RBAC: hvorfor rollebaseret adgang ikke længere er nok

Den traditionelle model af rollebaseret adgangskontrol (RBAC) Den blev designet til relativt statiske organisationer: stabile teams, definerede stillinger og forudsigelige adgangsbehov. Hver rolle tilføjede et sæt tilladelser svarende til de typiske ansvarsområder for den pågældende profil i organisationsdiagrammet.

Den tilgang fungerer rimelig godt, når der er et en-til-en-forhold mellem identitet og person, men i et agentisk AI-miljø er balancen brudt. Nu har vi flere identiteter for tekniske agenter som påtager sig skiftende opgaver, hopper fra én arbejdsgang til en anden og har brug for at røre ved data og systemer, der ikke svarer til en enkelt traditionel jobrolle.

Derudover ændrer den måde, systemer angribes på, sig også. Misbruget af gyldige konti og problemerne med Adgangskoder i AI'ens tidsalder Dette er nogle af de hyppigste angrebsvektorer: cyberkriminelle udnytter legitime identiteter med overdrevne tilladelser til at udvide deres rækkevidde lateralt på tværs af netværket. I denne sammenhæng er det praktisk talt en invitation til en massiv påvirkning i tilfælde af et brud at tildele en agent en bred og statisk rolle.

RBAC er fortsat nyttig til at anvende princippet om mindste privilegium (PoLP), hvilket betyder, at Hver identitet bør kun have de nødvendige tilladelser at udføre deres arbejde. Men når vi taler om agenter, der skifter kontekst med få sekunders mellemrum, er "jobbet" ikke længere en stabil position, men en række dynamiske opgaver med forskellige niveauer af følsomhed og risiko.

For virksomheder tvinger dette dem til at gentænke adgang fra et mere detaljeret og dynamisk perspektiv, hvor rollen blot er én del af beslutningen. Spørgsmålet er ikke længere blot "hvilken rolle har denne agent", men snarere "hvad har de til hensigt at gøre nu, med hvilke data, fra hvilket miljø og under hvilke risikoforhold opererer de?"

Fra statisk rolle til nul og dynamisk adgang

Stillet over for dette nye scenarie vinder en radikalt anderledes model styrke: start hver session med nul adgang og give tilladelser fra sag til sag, i realtid og i henhold til risiko. Ingen "standard"-privilegier eller adgang, der opretholdes i årevis, fordi "det måske kan blive nyttigt en dag".

Med denne tilgang har hverken individer eller agenter permanente tilladelser. I starten af ​​dagen starter identiteter fra nul aktive privilegierHver adgang anmodes om og gives præcis, når den er nødvendig for at udføre en specifik opgave, og tilbagekaldes automatisk, når den ikke længere er nødvendig.

For at denne model kan fungere, skal der være adgang Just-in-time (JIT)Den aktiveres kun, når en opgave er i gang, og udløber ved afslutning, hvilket reducerer muligheden for potentielle angreb. Dette kombineres ofte med yderligere betingelser, såsom eksistensen af ​​en åben sag eller eksplicit godkendelse fra supervisor til følsomme operationer.

Beslutningen om adgang træffes i en kontinuerlig og risikobaseretDenne proces evaluerer identitet, enhedsstatus, nylig adfærd, placering, agentaktivitet, aktuelle politikker og sikkerhedssignaler. Det er ikke en statisk autorisation, der gives én gang og derefter glemmes, men en dynamisk proces, der kan ændre sig på et øjeblik, hvis risikoniveauet ændrer sig.

Resultatet er, at når noget går galt – en forkert konfigureret agent, en løbsk arbejdsgang eller kompromitterede legitimationsoplysninger – er den potentielle skade meget mere begrænset. Der er færre latente rettigheder at udnytte, færre mulige laterale bevægelser og frem for alt meget klarere sporbarhed. hvad der var tilladt i hvert øjeblik og under hvilke betingelser.

Sådan gør du en dynamisk og sikker adgangsmodel til virkelighed

Implementering af denne type tilgang handler ikke om at trykke på en kontakt. Det kræver investering i ingeniørarbejde, automatisering og koordinering mellem sikkerhed, produkt og udvikling. Men der er flere nøgleelementer, der fungerer som en vejledning, når man bygger en adgangsmotor, der er klar til agentisk AI.

Den første søjle er Løbende synlighed af agenter og tilladelserMange organisationer ved ikke engang, hvor mange agenter deres teams har oprettet, hvad de præcist laver, eller hvilke systemer de har adgang til. Uden en klar oversigt over identiteter, adgang og arbejdsgange er det umuligt at håndtere risici effektivt.

Den anden søjle er beslutningstagning i realtidKvartalsvise gennemgange af tilladelser er ikke længere effektive, når adgangskravene ændrer sig dagligt, og agenter kan eskalere opgaver på få sekunder. Adgangsmotoren skal behandle identitets-, adfærds- og kontekstuelle signaler løbende, hver gang der anmodes om en tilladelse.

For det tredje er det nødvendigt dynamiske politikker og attributbaserede kontroller (ABAC), ikke kun i roller. På denne måde kan den samme agent opnå forskellige adgangsniveauer afhængigt af opgavetypen, datatypen, miljøet (produktion, præproduktion, test), systemets kritiske karakter eller sikkerhedssituationen på det pågældende tidspunkt.

Endelig automatisering med maskinhastighed Det er essentielt. Det giver ingen mening for et menneskeligt styringsudvalg manuelt at godkende enhver adgang, når vi taler om tusindvis af transaktioner i minuttet i automatiserede økosystemer. Godkendelsesworkflows skal kodes, revideres og, når det er nødvendigt, inkludere menneskelige kontrolpunkter i løkken for beslutninger med stor indflydelse.

Sikkerhed, politikker og trusler i agent-AI'ens tidsalder

Princippet om mindste privilegier (PoLP) er fortsat hjørnestenen i cybersikkerhed, og RBAC har historisk set været en god måde at implementere det på. Ved at tildele hver rolle det minimale sæt af nødvendige tilladelserDette reducerer både risikoen for utilsigtede datalækager og risikoen for ondsindede angreb, hvad enten de er interne eller eksterne.

Men med udbredelsen af ​​generativ og agentisk AI opstår der nye risici. Brugere kan introducere følsomme oplysninger i AI-værktøjer Uden ordentlig kontrol kan agenter få adgang til data ud over det, der er nødvendigt, og angribere undersøger allerede, hvordan de kan kapre agenter for at udføre komplette angrebskæder.

Nylige undersøgelser viser, at misbrug af gyldige konti Det er en af ​​de mest almindelige vektorer: Hvis en angriber får adgang til en brugers eller en højt privilegeret agents legitimationsoplysninger, er lateral bevægelse gennem netværket næsten uundgåelig. Ved omhyggeligt at begrænse tilladelserne for hver identitet og minimere varigheden af ​​disse tilladelser reduceres angrebsfladen drastisk.

Interne trusler kan heller ikke ignoreres. Hændelser forårsaget af uagtsomme eller ondsindede medarbejdere er fortsat en bekymring. en langt højere gennemsnitlig pris såvel som mange andre huller. En alt for slap adgangsmodel gør det lettere for en simpel forsømmelse, en dårlig praksis eller en bevidst handling at have en ødelæggende indvirkning på organisationen.

Derfor bliver kombinationen af ​​agentisk AI med en dynamisk adgangsmodel, velanvendt PoLP og robuste identitets-, enheds- og adfærdskontroller den nye benchmark for at opretholde sikkerhed uden at hindre innovation.

Forretningsmæssige brugsscenarier for agent-AI

Ud over teorien er agentisk AI allerede i gang med at transformere meget specifikke processer i virksomhederNogle af de mest fremtrædende eksempler involverer automatisering af komplekse opgaver, dataanalyse, softwareudvikling og forskning.

I procesautomatisering kan agenter administrere interne arbejdsgange i flere trinDette involverer modtagelse af anmodninger, indsamling af oplysninger, verificering af regler, udførelse af handlinger i virksomhedens systemer og generering af rapporter til afslutning. Dette reducerer driftsomkostninger, forbedrer svartider og frigør menneskelige teams fra rutineopgaver.

Inden for dataanalyse fungerer agenter som virtuelle analytikereDette involverer indsamling af information fra flere kilder, udførelse af sonderende eller statistiske analyser og generering af anbefalinger. På denne måde accelereres og demokratiseres datadrevet beslutningstagning i organisationen.

Inden for softwareudvikling bruges AI-agenter allerede til at Generer kode, gennemgå repositoriesDisse agenter udfører opgaver som at køre automatiserede testpakker eller opdatere dokumentation næsten kontinuerligt. De deler udstyr med menneskelige udviklere og overtager noget af den arbejdsbyrde, der tidligere optog en stor del af deres tid.

Endelig kan agenter inden for forskning og strategi være ansvarlige for indsamle konkurrenceinformationsyntetisering af markedstendenser eller udarbejdelse af ledelsesdokumenter. Her erstatter de ikke ledelsesteamets dømmekraft, men de øger i høj grad deres evne til at analysere miljøet og opdage muligheder eller risici.

Agent AI i ITSM: fra reaktiv servicedesk til autonom drift

Et af de områder, hvor agentisk AI viser den mest målbare effekt, er IT-servicestyring (ITSM)I denne sammenhæng tillader agenter et skift fra en reaktiv supportmodel, baseret på billetter og køer, til et langt mere proaktivt og autonomt system, hvor meget af det rutinemæssige arbejde løses uden menneskelig indgriben.

Organisationer, der er begyndt at implementere agenter i ITSM-rapporten produktivitetsforbedringer på 40-60%50-70% reduktion i løsningstider, 25-40% reduktion i pris pr. sag og selvbetjeningsrater, der kan overstige 60-80%. Vi taler ikke om teori, men om målinger observeret i virkelige projekter.

Anvendelsesscenarierne er primært grupperet i fem områder: medarbejderselvbetjening, assisteret servicedesk, analyser og indsigt. infrastruktur og autonom drift og aktivforvaltning. I hver af disse påtager agenterne sig en del af arbejdet, lige fra at besvare simple spørgsmål til at udføre kompleks afhjælpning af kritiske systemer.

Succes kommer dog ikke gratis: det kræver data af høj kvalitet, veldefinerede processer, integrationsmuligheder og en organisation, der er villig til at ændre sin arbejdsmetode. Mange virksomheder er stadig i tidlige stadier (grundlæggende automatisering, co-pilots osv.) og har brug for at styrke disse fundamenter, før de går i gang med storstilet agentimplementering.

Modenhedsmodel for agentisk AI i IT-tjenester

For at undgå at dø af ambition er det nyttigt at forstå adoptionen af ​​agentisk AI som en rejse i etaperikke som et spring ud i tomrummet. En typisk modenhedsmodel omfatter fire niveauer: fundamenter, intelligent assistance, selektiv autonomi og ægte handlekraftige operationer.

I første fase er målet rene data og standardisere processerKonsolidér CMDB'en, dokumenter servicedesk-arbejdsgange, forbedr vidensbasen og etabler grundlæggende governance. Her taler vi stadig mere om traditionel automatisering end autonome agenter, men grundlaget er ved at blive lagt.

I anden fase introduceres de AI-copiloter og assistenter Disse funktioner forbedrer den menneskelige arbejdsbyrde: intelligent kategorisering af sager, løsningsforslag, AI-genererede svar til gennemgang af menneskelige agenter, avancerede søgninger i vidensbasen og meget mere. Produktiviteten øges uden at ofre et højt niveau af autonomi.

I tredje fase er det aktiveret selektiv autonomi Til meget specifikke anvendelsesscenarier: nulstilling af adgangskode, standardadgangsanmodninger, afhjælpning af kendte hændelser eller proaktiv overvågning med kontrollerede automatiserede handlinger. AI begynder at lukke tickets af sig selv i veldefinerede scenarier.

Endelig, i den fjerde fase, Enterprise Agent AI Med multi-agent orkestrering, autonome end-to-end workflows og en næsten selvreparerende infrastruktur fungerer agenter som "digitale medarbejdere" med klare roller (servicedesk-agent, driftsingeniør, selvbetjeningschef) og samarbejder med hinanden for at opretholde tjenester i optimal stand.

Styring, sikkerhedsforanstaltninger og menneskeligt tilsyn

Jo mere autonom AI bliver, desto mere kritisk bliver styringen. En seriøs implementering af agentisk AI skal omfatte tekniske og organisatoriske sikkerhedsforanstaltninger der begrænser risiko, sikrer sporbarhed og altid opretholder en klar vej for menneskelig indgriben.

Blandt disse sikkerhedsforanstaltninger skiller følgende sig ud: automatiske reverseringsmekanismeri stand til at bringe et system tilbage til en sikker tilstand, hvis der opdages unormal adfærd eller en politikovertrædelse; centraliserede kill switches til pludselig at stoppe farlig adfærd; og checkpoints, hvor et menneske skal gennemgå og godkende beslutninger med stor indflydelse.

Revisionsevne er en anden vigtig søjle: alle agenthandlinger, adgangsbeslutninger, værktøjsbrug og datastrømme skal være revisionsbare. være registreret og sporbarDette muliggør undersøgelse af hændelser, demonstration af overholdelse af lovgivningen og forbedring af modeller baseret på praktiske erfaringer.

I regulerede sektorer – finans, sundhedsvæsen, offentlig administration – er disse krav endnu strengere. Mange organisationer inden for disse områder vælger at forblive i længere tid i modeller af menneske-i-løkkenhvor AI hjælper og automatiserer dele af processen, men den endelige beslutning (især hvis det påvirker mennesker) forbliver i hænderne på en professionel.

Samlet set pålægger agentisk AI en ny pagt mellem autonomi, sikkerhed og kontrol. Korrekt design af denne balance – sammen med en dynamisk, risikofokuseret og politikk-kompatibel adgangsmodel – vil være det, der adskiller virksomheder, der udelukkende bruger AI som et produktivitetsløft, fra dem, der formår at omdanne den til en ægte operationel motor uden at miste kontrollen over deres systemer eller data.