Pieter Jansen, Darktrace: “Liever vandaag AI-security, dan afwachten tot hack”

De opkomst van AI leidt tot steeds meer door deze technologie gestuurde aanvallen. Nederlandse bedrijven ondervinden hiervan steeds meer impact, concludeert recent onderzoek van AI-securityspecialist Darktrace.

Een grote meerderheid van de respondenten geeft aan dat door AI-gestuurde aanvallen op dit moment al een behoorlijke invloed hebben op hun bedrijfsvoering en dit wordt in hun ogen de komende jaren alleen nog maar groter.

“AI-aanvallen zijn al een tijd in opkomst, maar deze trend wordt nu heel zichtbaar”, zegt Pieter Jansen van Darktrace. “Het is in het nieuws. Buren vertellen erover, andere bedrijven maken het mee en natuurlijk worden bedrijven zelf ook geraakt. Iedereen krijgt ermee te maken.”

Aanvalsoppervlak groeit

Het aantal AI gestuurde aanvallen neemt toe, omdat onder meer het aanvalsoppervlak groeit. “Voor bedrijven is dit de grootste uitdaging. Ze hebben steeds minder inzicht in wat ze moeten beschermen. Welke data moeten worden beschermd en wat gebeurt er binnen alle netwerken en devices? Wat doen eindgebruikers vanuit securityperspectief en worden er, nu cloud standaard is, buiten de (gecontroleerde) IT-omgeving toch weer nieuwe cloudomgevingen aangemaakt? Medewerkers maken gewoon zelf API-keys voor bijvoorbeeld Google- of AWS-accounts aan”, zegt Jansen.

“Deze shadow-IT neemt zo hard toe, dat het te verdedigen aanvalsoppervlak dus toeneemt. Dit speelt hackers in de kaart, omdat zij bij openstaande poorten nu graag dieper kijken dan eerder het geval was. Niet alleen AI-gestuurde aanvallen nemen toe, maar ook de klassieke geautomatiseerde aanvallen. Het tempo van dit soort aanvallen blijft maar versnellen.”

Daarnaast is er volgens Darktrace ook nog steeds het tekort aan geschikte (cybersecurity)medewerkers waarmee bedrijven te maken krijgen.

AI-security vaak probleem

Nederlandse bedrijven zijn zich bewust dat zij ter bestrijding van deze golf aan AI- en andere geautomatiseerde aanvallen, ook zelf door AI ondersteunde securityoplossingen moeten inzetten.

Jansen: “De absolute meerderheid van de respondenten geeft aan dat ze op AI-gebaseerde securityoplossingen nodig hebben voor het detecteren van, reageren op en herstellen van AI-gestuurde aanvallen. Meer dan de helft wil AI-securityoplossingen binnen een jaar aan hun security stack toevoegen. Desondanks zien zij daarbij vaak nog vele haken en ogen.”

“De voornaamste oorzaak van deze haken en ogen is, denk ik, dat voor veel bedrijven, IT-afdelingen en inkopers AI-gestuurde securityoplossingen en vooral de werking daarvan nog redelijk onbekend zijn. Het is voor hen lastig onderscheid te maken tussen alle AI-features die nu voor security in de markt wordt gezet.”

“Maar het is misschien ook dat Nederland, vergeleken met de VS of Israël waar veiligheid echt een maatschappelijke mindset zijn, niet echt voorop loopt als het om security gaat. Binnen Europa doen we het wel goed, omdat ons land natuurlijk ontzettend digitaal is. Ik kan me daarom goed voorstellen dat er een verband is met de problemen die bedrijven hebben rondom AI-security.”

AI-kennis nog ontoereikend

De AI-kennis die bij Nederlandse bedrijven ontbreekt, betreft bijvoorbeeld vaak kennis over toepassingen als unsupervised machine learning, supervised machine learning en ook GenAI.

Dat securityleveranciers al deze toepassingen in hun producten verwerken, maakt het volgens Pieter Jansen een stuk lastiger voor eindgebruikers. “Veel van deze oplossingen heb je echt nodig, maar werken toch vaak ook niet optimaal. Kijk bijvoorbeeld naar supervised machine learning, waarbij je het AI-model traint op basis van bekende aanvallen en patronen. Dit gaat goed zolang aanvallers zich hieraan houden en ook kleine subtiele veranderingen zichtbaar worden. Dit is anders bij compleet nieuwe aanvallen. Die missen supervised AI-oplossingen. Supervised machine learning is krachtig en moet zeker worden gebruikt, maar heeft zijn beperkingen.”

“Ook GenAI als ChatGPT, iets wat leveranciers vaak als ‘AI-security’ presenteren en boven op hun bestaande producten aanbieden, is niet zaligmakend. Vooral vanwege ‘bias’ of het gewoon voorspellen wat mogelijk het juiste gewenste antwoord is. Dit geeft dan verkeerde voorstellingen van zaken en kan daardoor een gevaar vormen.”

Active AI Security-platform

Darktrace gebruikt natuurlijk ook zelf GenAI en LLM’s in het portfolio, maar trainen deze niet op het ‘hele internet’. Jansen: “Onze zelflerende ‘AI-analyst’ is getraind op alle conversaties en handelingen die onze eigen analisten met security-analyses, incidenten en forensisch onderzoek uitvoerden. Dit helpt onze klanten met advies over zaken die we eerder tegenkwamen.”

De technologie is onderdeel van het core-product van de AI-securityspecialist; het Active AI Security-platform. Dit platform werkt samen met de oplossingen van veel partners. “Praktisch zo’n beetje ieder securityplatform dat je kan bedenken. “

Drie pijlers

Meer specifiek ‘kijkt’ het AI-securityplatform naar alle IT-, OT-, cloud- en mobiele omgevingen op basis van drie pijlers. De eerste pijler is zichtbaarheid en maakt het verkeer van alle genoemde omgevingen inzichtelijk en signaleert op deze manier alle mogelijke dreigingen. Ook op device-niveau.

De tweede pijler betreft productiviteit. Het platform zorgt ervoor dat bedrijven meer proactief zich met hun cybersecurity bezighouden. “Dit betekent dat bedrijven niet alleen meer naar security kijken wanneer tickets of systeemmeldingen binnenkomen.”

“Wij willen dat klanten een proactieve status aannemen en we bieden hiervoor bijvoorbeeld dynamische ‘playbooks’ waarmee ze aan de slag kunnen en hun vervolgacties bepalen. Dit gaat dan geheel geautomatiseerd.”

“De derde pijler is een complete automatisering van alle (voorheen handmatige) onderzoeks- en mitigatiehandelingen. “Waar het kan, automatiseren wij met ons AI-securityplatform alles. Tot aan het laatste punt waarbij een (fysiek) akkoord moet worden gegeven.”

Partners hebben kansen

Darktrace helpt daarnaast actief zijn klanten om wegwijs te worden in de AI-securitywereld. “We geven educatie over bijvoorbeeld wat de huidige staat van AI is, welke vormen er binnen cybersecurity worden toegepast, maar ook hoe wij het toepassen.”

Vanzelfsprekend betrekt de AI-securityspecialist hierbij bij het partnerkanaal. “Via onze ‘partner first’-strategie helpen we hen bij klanten succesvol te worden. Denk voor Nederland onder meer Eviden, Computacenter en Noesis.”

“Voor die partners die AI in combinatie met security al in hun ‘DNA’ hebben zitten, zijn er nu mooie kansen. Ik zie bijvoorbeeld dat integrators, maar ook MSP’s en MSSP’s hiermee al flink zijn begonnen. De klassieke IT-integrators lopen nog een beetje achter, maar voor hen is het nog niet te laat. Dat geldt natuurlijk ook voor alle andere partners, ook de kleinere resellers.”

Wacht niet af

Voor zowel klanten als partners is het volgens Pieter Jansen belangrijk bij het implementeren van AI-security en vooral ook het bestrijden van AI-gestuurde aanvallen, niet af te wachten. “Door de grotere algemene beschikbaarheid van GenAI-technologie en daardoor het steeds goedkoper wordt, zien we gewoon een toename van AI-misbruik door aanvallers.”

“Wacht daarom niet totdat je er zelf mee te maken krijgt, want dan ben je als bedrijf te laat met ingrijpen. Als je het zelf nog niet aan denkt te kunnen, schakel dan een partner in. De beste tip die ik daarom kan geven, is vandaag proactief te worden voor security. En gebruik daarbij dan ook een op AI gebaseerde en vooral ook ‘explainable’ oplossing”, besluit Pieter Jansen.