CISO dodges bullet protecting $8.8 trillion from shadow AI

VentureBeat’s exclusieve interview met Sam Evans, Ciso van Clearwater Analyticsonthult waarom enterprise -browsers snel de frontlinie -verdediging tegen Shadow AI worden in zijn vele vormen.

Evans stond voor een cruciale uitdaging in oktober 2023. Staande vóór het bestuur van Clearwater Analytics, moest hij de bezorgdheid confronteren dat werknemers per ongeluk gegevens kunnen blootleggen die mogelijk van het bedrijf in gevaar kunnen komen $ 8,8 biljoen activa in beheer.

“Het slechtst mogelijke ding zou zijn dat een van onze werknemers klantgegevens neemt en in een AI -engine wordt gestopt die we niet beheren,” vertelde Evans aan VentureBeat. “De medewerker die niet anders kent of probeert een probleem op te lossen voor een klant … dat gegevens helpen het model te trainen.”

Hier is ons gesprek met Evans, bewerkt voor lengte en duidelijkheid

VentureBeat: Hoe zie je AI vandaag cybersecurity vormgeven?

Evans: De aanvallen zijn aanzienlijk geavanceerder geworden. Als u het vanuit het perspectief van een slechte acteur beschouwt, zijn de phishing -e -mails en pogingen die we ontvangen veel complexer geworden. AI bezit echter ook responsmogelijkheden.

Ik leg het graag uit aan ons bord, als het ultieme cat-and-muisspel. Naarmate slechte acteurs AI beginnen te gebruiken om phishing te bevorderen, of misschien de tijd die nodig is om exploits te duren te versnellen nadat de kwetsbaarheden zijn aangekondigd, is er de andere kant van beveiligingsbeoefenaars die AI gebruiken om te helpen hoe we reageren.

VentureBeat: Hoe helpt AI uw defensieve mogelijkheden?

Evans: We zijn begonnen met het integreren van AI in onze beveiligingsplaybooks. Door dit te doen, besteden onze beveiligingsanalisten nu minder tijd aan zoeken en jagen. De AI is betrokken bij het Product Security Operations Center (SOC) en voert de initiële triage -analyse uit en zegt: “Op basis van eerdere dingen die we hebben gezien en dingen in mijn model, dit is waar ik je graag wil begeleiden.”

Aan de verdedigende kant beginnen we AI echt in het spel te zien spelen. Crowdstrike,, Sentinel One,, Microsoft Defenderde traditionele Extended Detection and Response (EDR) -producten gebruikten wat machine learning, en ze zouden een kans krijgen van misschien 85% dat dit een bedreiging zou kunnen zijn, maar we weten het niet zeker. AI verrijkt echter het vermogen van de EDR -motor om een ​​hogere waarschijnlijkheidspercentage te bereiken om een ​​bedreiging te identificeren.

VentureBeat: WHoed houdt je ‘s nachts wakker als het gaat om AI en cybersecurity?

Evans: Het ding dat me behoorlijk zorgen maakt, zijn de Deepfakes. Je leest meerdere verhalen over mensen die Deepfakes gebruiken om zich voor te doen als een CEO om draadtransfers te initiëren. Die zijn zorgwekkend omdat ze er heel, heel echt uitzien.

Maar de grootste zorg? Het slechtst mogelijke ding zou zijn dat een van onze werknemers klantgegevens neemt en deze in een AI -engine plaatst die we niet beheren, en dan worden het gegevens die helpen het model te trainen.

VentureBeat: Hoe heb je deze schaduw AI -risico voor je bord uitgelegd?

Evans: Ik herinner me dat een van de eerste bordbijeenkomsten waarin ik was, ze me vroegen: “Dus wat zijn je mening over chatgpt?” Ik zei: “Wel, het is een ongelooflijke productiviteitstool. Ik weet echter niet hoe we onze werknemers het kunnen laten gebruiken, omdat mijn grootste angst is dat iemand kopieert en klantgegevens erin past, of onze broncode, wat ons intellectuele eigendom is.”

Maar ik ben niet alleen naar het bord gekomen met mijn zorgen en problemen. Ik zei: “Wel, hier is mijn oplossing. Ik wil niet voorkomen dat mensen productief zijn, maar ik wil het ook beschermen.” Toen ik naar het bord kwam en uitlegde hoe deze enterprise -browsers werken, zijn ze van: “Oké, dat is logisch, maar kun je het echt doen?”

VentureBeat: Walk me door uw evaluatie- en implementatieproces voor Eiland.

Evans: Na die bestuursvergadering van oktober 2023 begonnen we een vrij lang due diligence -proces. We hebben enkele van de belangrijkste leveranciers in de enterprise -browserruimte bekeken.

Ik zal uiteindelijk met je delen waarom we met een eiland zijn gegaan. We moesten kunnen bepalen welke browsers mensen op hun eindpunten gebruiken. Het is niet goed om een ​​enterprise -browser te implementeren wanneer iemand opera of “Frank’s Browser of the Month” kan downloaden en kan gebruiken, en het omzeilt gewoon alle eilandbesturingselementen.

De andere reden waarom we met het eiland gingen, was echt vanwege de snelheid van de inzet. Ik herinner me dat ik een telefoontje was met verkopers van het eiland en ze zeggen: “We geloven dat we dit binnen enkele weken in uw bedrijf kunnen worden ingezet.” Ik ben van: “Oh, dat is BS.”

VentureBeat: Maar ze hebben geleverd?

Evans: Ze namen het als een persoonlijke uitdaging! We zijn in april 2024 begonnen met onze eiland -implementatie met ongeveer 200 mensen. We gingen eerst naar de verlengingsroute; De eilandverlenging in Chrome en Edge.

Het was pas in juli toen het bord vroeg: “Hoe gaat het?” En ik zei: “Hoe zit het met ik laat het je gewoon zien?” Ik haalde een screenshot op omdat, weet je, de wet van Murphy falen altijd. Dus ik liet ze screenshots zien: “Hier ben ik op chatgpt. Ik heb geprobeerd iets in te plakken. Ik kreeg de prompt: ‘Islandbeleid belet u dit te doen.'”

Ze zijn als: “Wauw, dit is fantastisch! Maar mensen kunnen nog steeds de tool gebruiken om goede vragen te stellen?” Ik zei: “Ja, absoluut. Ze kunnen er gewoon geen gegevens in stoppen.”

VentureBeat: Heb je het gevoel dat eiland je verzekert en het risico van schaduw AI vermindert?

Evans: Het heeft ons zeker geholpen om grip te krijgen op Shadow AI. Geen beveiligingsgereedschap is 100% perfect. Nadat we eiland hebben ingezet, slapen we zeker een stuk eenvoudiger. We kunnen ons redelijk comfortabel voelen dat als een werknemer naar een AI -instantie gaat dat we geen licentie hebben, ze deze kunnen gebruiken, maar geen gegevens kunnen plakken of bestanden kunnen uploaden.

Het heeft ons ook geholpen te identificeren waar we hiaten hebben. Werknemers vonden dit echt geweldige AI -widget -ding, ze komen naar het beveiligingsteam: “Hé, kijk, bekijk dit.” En dan kunnen we terugkomen naar onze productontwikkelingsteams en uitzoeken hoe we dit helpen, niet alleen voor onze medewerkers, maar ook voor onze klanten.

VentureBeat: Hoe verdedigt u zich tegen deepfakes?

Evans: Dat is een moeilijke om je armen om te wikkelen. We hebben een uitstekend beveiligingsbewustzijnsprogramma. We vragen werknemers om gezond verstand te gebruiken. Denk je echt dat Sandeep Sahai, onze CEO, je gaat bellen en je vragen om hem Apple -cadeaubonnen te kopen?

We hebben veel cheques en saldi opgezet, een beetje zoals het tweepersoonsbuddy check-systeem. Er is geen technologische oplossing voor zoiets. Het is een menselijk probleem dat we een menselijke oplossing hebben moeten implementeren.

VentureBeat: Welk advies zou je andere CISO’s geven tegenover Shadow AI?

Evans: Dit gaat niet alleen over blokkeren, het gaat over inschakelen. Breng oplossingen, niet alleen problemen. Toen ik naar het bord kwam, benadrukte ik niet alleen de risico’s; Ik stelde een oplossing voor die de beveiliging in evenwicht bracht met productiviteit.

Welkom bij de schaduw AI Arms Race

De inzichten van Evans onthullen hoe snel Shadow AI een existentiële bedreiging is geworden voor elke data-intensieve onderneming.

“We zien 50 nieuwe AI -apps per dag, en we hebben al meer dan 12.000 gecatalogiseerd,” vertelde Itamar Golan, CEO van Prompt Security, aan VentureBeat, en kwantificeert wat beveiligingsteams hun ergste nachtmerrie bellen sinds ransomware.

De aanval van ongeautoriseerd AI -gebruik en apps heeft intense concurrentie onder beveiligingsverkopers veroorzaakt. “De meeste traditionele managementhulpmiddelen missen uitgebreide zichtbaarheid in AI -apps,” legde Vineet Arora, CTO van Winwire, uit om VentureBeat, precies aan te geven waarom Shadow AI bloeit als oude beveiligingsarchitecturen blind zijn.

Het ecosysteem van de verkoper is gekristalliseerd in vier verschillende slagvelden, elk met zijn wapens en zwakke punten.

Enterprise -browsers leiden de aanklacht. De belangrijkste onder hen is eiland, dat onlangs een $ 250 miljoen financieringsrondeeen stem van vertrouwen van de beleggersgemeenschap. Terwijl eilandweddenschappen op zichtbaarheid pre-encryption, valt Google Chrome Enterprise Shadow AI anders aan, bewapent het bewapenen van zijn marktdominantie en de veiligheidsstapel van Google. Chrome Enterprise Premium levert gegevensverlies preventie (DLP) bedieningselementen die gegevensstromen blokkeren Chatgpt en andere AI -toolsvoorkom cross-profile besmetting en handhaven realtime inhoudsscanning. Het platform legt schaduw AI -gebruikspatronen bloot terwijl het blokkeren van zowel accidentele pasta’s als opzettelijke exfiltratie. Strategische partnerschappen met ZScaler En Cisco Secure Access Versterker het bereik van Chrome om een ​​ecosysteem te creëren waar nul-truste principes zich rechtstreeks uitstrekken tot AI-interacties.

SASE/SSE-platforms leveren de verdediging op enterprise-scale. Netskope en ZScaler brengen schaal naar Shadow AI-verdediging via hun Cloud-Native Security Access Service Edge (SASE) -architecturen. Beide platforms verwerken miljarden transacties dagelijks in wereldwijde infrastructuren, waarbij Netskope specifiek adverteert voor het vermogen om AI -toepassingsgebruik in ondernemingen te controleren. Hun belangrijkste beperking: wanneer 73,8% van het gebruik van de werkplek chatgpt -gebruik plaatsvindt via persoonlijke accounts, voorkomt SSL/TLS -codering dat platforms inspecteren in het inspecteren van inhoud, waardoor ze worden gedwongen te vertrouwen op verkeerspatronen en metadata, wat leidt tot zichtbaarheidsloven waar schaduw AI niet opdraagt..

Traditionele DLP -leveranciers worstelen om zich aan te passen. Legacy leveranciers ForcePoint en Microsoft Purview hebben een sterke erfenis om op te ruilen als het gaat om het bestrijden van schaduw AI. ForcePoint claimt 1.700-plus classificaties, terwijl Purview AI gebruikt voor triage-taken. Maar hier is het probleem: ze zijn achteraf 20e-eeuwse architecturen voor bedreigingen van de 21e eeuw. Deze platforms blinken uit in selectievakjes en beleidsjablonen, maar houden er niet in om het sneller tempo van AI bij te houden.

Zoals Daren GoSon, Ivanti’s SVP van productbeheer voor UEM vertelde VentureBeat: “AI-aangedreven eindpuntbeveiligingshulpmiddelen kunnen enorme hoeveelheden gegevens analyseren om anomalieën te detecteren en potentiële bedreigingen sneller en nauwkeuriger te voorspellen dan elke menselijke analist.” Traditionele DLP werkt op auditsnelheid. Shadow AI beweegt op machinesnelheid.

Gespecialiseerde oplossingen vullen kritieke hiaten in. Innovatie gedijt in de niches die oude verkopers negeren. Een voorbeeld is Ivanti -neuronendat uitgebreide apparaatontdekking levert via zijn UEM -platform, waardoor schaduw AI wordt verborgen in eindpunten die traditionele tools missen. Mike Riemer, Ivanti’s Field Ciso, ziet het grotere beeld: “Beveiligingsprofessionals zullen de mogelijkheden van Gen AI effectief benutten om enorme hoeveelheden gegevens te analyseren die zijn verzameld uit verschillende systemen.” Nightfall, van zijn kant, richt zich op ontwikkelaarsteams met transformatiemodellen en claimt 2x detectienauwkeurigheid voor API -gebaseerde AI -tools.

Vergelijking van Shadow AI Defense Solutions

Leverancier	Type	Belangrijke sterke punten	Beperkingen	Het beste voor
Check Point Harmony	Browserverlenging	Maakt gebruik van bestaande infrastructuur	Beperkt tot verlenging	Check Point -klanten
ForcePoint	Traditionele DLP	1.700+ classificaties, naleving van de regelgeving	Legacy Architecture	Sterk gereguleerde industrieën
Google Chrome Enterprise	Ondernemingsbrowser	Markt dominantie, native integratie	Minder gespecialiseerde bedieningselementen	Google Workspace -organisaties
Eiland	Ondernemingsbrowser	Zichtbaarheid voorafgaand aan de e-codering, nul latentie, snelle implementatie	Hogere kosten per gebruiker	Ondernemingen met gevoelige gegevens
Ivanti -neuronen	UEM -platform	Uitgebreide apparaatontdekking	Niet browser-specifiek	Focus voor activabeheer
Microsoft Purview	DLP -platform	Native Microsoft Integration, AI-aangedreven triage	Microsoft-centric	Microsoft 365 Enterprises
Netskope	Sase/SSE -platform	Uitgebreide dekking, 370+ AI App Monitoring	Complexiteit na de codering	Grote gedistribueerde ondernemingen
Het vallen van de avond	AI-native DLP	2x detectienauwkeurigheid, transformatormodellen	Api-alleen benadering	Ontwikkelaarsgerichte teams
Talon cyberbeveiliging	Ondernemingsbrowser	Browser + uitbreidingsopties	Nieuwer op de markt	Beveiligingsbewuste MKB’s
ZScaler	Sase/SSE -platform	536B Dagelijkse transacties, True Zero-Trust	Alleen-benadering	Cloud-first organisaties

VentureBeat -analyse

Wat drijft de markt om zo snel te bewegen? De analyse van VentureBeat vond 74.500-plus Shadow AI-apps die actief zijn ingezet op alleen grote adviesbureaus, en dat groeit met 5% maandelijks. Medio 2026 zou dat aantal 160.000 kunnen raken. Elk vertegenwoordigt een potentiële datalek, nalevingsovertreding of lek van competitieve inlichtingen.

Arora’s recept snelt door leveranciershype: “Organisaties moeten strategieën definiëren met robuuste beveiliging, terwijl werknemers in staat stellen AI -technologieën effectief te gebruiken. Totale verbod stimuleren AI -gebruik vaak ondergronds, wat de risico’s alleen maar vergroot.”