AI-agent angreb kunde hos virksomhed, inden den hackede sig videre | Teknologi | DR

For to uger siden meldte AI-virksomheden Hugging Face ud , at de var blevet hacket.

Det tog OpenAI ansvaret for ugen efter og kaldte det en "hidtil uset cyberhændelse", da en AI-agent brød ud af OpenAIs eget isolerede testmiljø, kom på internettet og hackede Hugging Face.

Også OpenAIs CEO, Sam Altman, kaldte det for en "ekstrem sci-fi cyberhændelse" og sagde, at det var den "første sikkerhedshændelse, som jeg har mærket helt ind i kroppen", da han gæstede podcasten Invest Like The Best.

Men nu viser det sig, at det ikke kun er Hugging Face, som har været kompromitteret.

For i et blogindlæg udlægger Hugging Face den tekniske tidslinje for, hvordan OpenAIs AI-agent hackede sig ind i hos dem.

Og her fremgår det, at den uberegnelige AI-agent brød ind i et isoleret testmiljø, "som befandt sig på en tredjepartsudbyders infrastruktur".

Selvom tredjeparten ikke fremgår af navn, så har Akshat Bubna, der er CTO for tech-virksomheden Modal Labs, udtalt, at "AI-agenten udnyttede sårbar kode skrevet af en kunde, som var i Modal Labs infrastruktur", skriver nyhedsbureauet Reuters.

Modal Labs er helt simpelt sagt en virksomhed, der lejer computere ud til programmører eller måske ingeniører. I særdeleshed lejer man grafikkort ud, som man skal bruge til at køre AI-modeller, fortæller Kasper Junge, der er medstifter af AI-softwarevirksomheden Computerlove.tech.

• Så AI-agenten har overtaget en computer inde i Modal Labs og brugt den som affyringsrampe til det her hackerangreb, så den har kunnet komme ind i Hugging Faces infrastruktur.

Derfor understreger Modal Labs også, at selve Modal Labs platform ikke blev kompromitteret på nogen måde.

• Det pågældende testmiljø var en kundes egen applikation.

• Koden, som angriberen fik fat i, fandt sted i kundens eget isolerede miljø og inden for grænserne af Modals standard sandkasseisolering. Ingen andre kunders arbejde blev påvirket, skriver Modal Labs i et blogindlæg.

Ifølge Kasper Junge er det meget normalt, at softwarevirksomheder ikke har deres egne computere fysisk stående i selve virksomheden, men i stedet lejer computere, der står i et datacenter via en cloududbyder som for eksempel Amazon Web Services eller Google Cloud Platform.

• Hvis nu regnskabsprogramvirksomheden Dinero blev hacket i morgen, så ville vi jo snakke om, at Dinero var blevet hacket, og ikke snakke om, at den cloududbyder, hvor Dinero lejer computere til at køre regnskabsprogrammet, var blevet hacket.

• Det er jo bare dér, hvor Dinero kører deres systemer, siger Kasper Junge.

Historien om den utilregnelige AI-agent har fyldt medierne verden over.

Og i kommentarspor på sociale medier spekulerer brugerne også i, om det her bare er god marketing.

Ifølge Kasper Junge er der ingen tvivl om, at OpenAI, Anthropic og de andre store AI-virksomheder alle sammen er kendt for at bruge "doom marketing" rigtig meget for at tiltrække brugere og kapital.

• Virksomhederne bruger sikkerhedsproblemerne til at sige, at vi skal passe på, og at det er så vigtigt arbejde, vi laver, og se, hvor vilde vores modeller er, siger Kasper Junge.

Med andre ord: frygt som et reklamesøjle.

Men uanset hvad, så er det her sket, siger Kasper Junge - medmindre det hele er falsk og orkestreret, påpeger han.

Og det er altså vildt og lidt af et nyt paradigmeskifte i, hvad de her AI-agenter er i stand til at gøre.

• Men jeg er 100 procent sikker på, at da OpenAI - og måske også Hugging Face - fandt ud af det her, så har de også set en PR-mulighed ligge foran dem.

• Og så har de tænkt, at den skal have fuld spade, vurderer Kasper Junge.