Hugging Face CEO calls for ‘radical transparency’ after ‘unprecedented’ OpenAI hack
Nadat OpenAI onlangs toegaf dat een van zijn modellen inbreuk had gemaakt op de systemen van AI-platform Hugging Face, zei Clem Delangue, CEO van Hugging Face geplaatst op X dat hij naar San Francisco vloog om “een praatje te maken met die ‘malafide agent.’”
Dan, binnen een vervolgpost zaterdag schetste Delangue wat hij van OpenAI had gevraagd. Hij zei dat hij opriep tot “radicale transparantie” en vroeg OpenAI om “de sporen van de ‘malafide’ agenten vrij te geven, zodat de hele onderzoeksgemeenschap kan bestuderen wat er is gebeurd.”
En hij wil ook “meer mogelijkheden voor verdedigers”, waarbij hij OpenAI oproept om voor 100 miljoen dollar aan rekenkracht in te zetten “om de Hugging Face-gemeenschap te helpen krachtige cyberverdedigingen te bouwen met de beste open en gesloten modellen.”
Delangue voegde hieraan toe: “De eerste cyberaanval met autonome agenten is een ongekende gebeurtenis. Het verdient een ongekende reactie!”
Ondanks het autonome karakter van de aanval suggereerden cyberbeveiligingsexperts dat deze ook te wijten kon zijn aan menselijke fouten, namelijk het kennelijke onvermogen van OpenAI om wat een volledig geïsoleerde testomgeving had moeten zijn, correct te configureren.
Toen hem werd gevraagd naar de opmerkingen van Delangue, bevestigde een woordvoerder van OpenAI dat de bijeenkomst plaatsvond en wees ernaar een bedrijfspost die zei: “Dit is een ongekend incident en we denken dat dit een belangrijk moment markeert voor de veiligheid van AI. We voeren nog steeds een grondige evaluatie uit samen met externe adviseurs en onder toezicht van ons Veiligheids- en Beveiligingscomité. Zodra de evaluatie is voltooid, zijn we van plan de komende weken een technisch rapport van onze bevindingen te publiceren.”
Dit bericht is bijgewerkt met een opmerking van OpenAI.
