Het antwoord van een AI-agent heeft bij Meta voor een datalek met gevoelige gebruikers- en bedrijfsgegevens gezorgd. Dat laat The Information weten op basis van een rapport over het beveiligingsincident, waarbij medewerkers toegang kregen tot gegevens waar ze eigenlijk geen toegang toe zouden moeten hebben.

Een medewerker van Meta vroeg op een intern forum advies over een technisch probleem. Een andere engineer liet een "OpenClaw-achtige" AI-agent de vraag analyseren, waarop de AI-agent een antwoord plaatste, zonder dat de engineer hiervoor toestemming was gevraagd. Het antwoord was alleen voor de medewerker die de vraag stelde bedoeld en had niet voor iedereen zichtbaar moeten zijn.

De medewerker die de vraag had gesteld volgde de instructies van de AI-agent, die het probleem zouden moeten oplossen. De gegeven oplossing zorgde er echter voor dat grote hoeveelheden gebruikers- en bedrijfsgegevens twee uur lang beschikbaar kwamen voor engineers die hier geen toegang toe zouden moeten hebben. Een woordvoerder van Meta laat tegenover The Guardian weten dat er geen misbruik van gebruikersgegevens heeft plaatsgevonden en een mens ook verkeerd advies had kunnen geven.

De medewerker die van het systeem gebruikmaakte wist dat hij met een bot communiceerde, aldus een woordvoerder tegenover The Verge. De AI-agent voerde geen acties uit, behalve het geven van een antwoord op de gestelde vraag, voegt de woordvoerder toe. "Had de engineer die hierop reageerde beter geweten, of andere controles uitgevoerd, had dit niet plaatsgevonden." De situatie zorgde voor een "SEV1" level beveiligingsincident, het op één na hoogste niveau dat Meta voor beveiligingsincidenten hanteert.

Op dit moment zijn er geen Nederlandse instanties bevoegd om op te treden tegen AI-stemhulpen, omdat de benodigde …

Bron: Security.nl