AI-agents van OpenAI hebben meerdere pagina’s van Wikipedia aangepast, geprobeerd tools van de online encyclopedie als proxy te gebruiken en een grote hoeveelheid data gedownload wat mogelijk tot gedeeltelijke uitval van een Wikimedia-dienst leidde. Dat stelt de Wikimedia Foundation, de stichting die allerlei wiki’s beheert, waaronder Wikipedia en Wikimedia Commons.

Volgens de Wikimedia Foundation is het doelwit geworden van verschillende activiteiten door AI-agents van OpenAI. Zo wijzigden de AI-agents meerdere pagina’s op Wikipedia. Deze aanpassingen werden echter niet gepubliceerd, waardoor de meeste lezers die niet te zien kregen. Verder stelt de stichting dat de AI-agents twee tools, bedoeld voor het wijzigen van documenten en maken van notities, als proxy probeerden te gebruiken om zo data van andere websites te verzamelen. Als laatste hebben de AI-agents een grote hoeveelheid data van Wikimedia-projecten gedownload, wat mogelijk voor uitval van een Wikimedia-dienst zorgde.

De Wikimedia Foundation zegt zich grote zorgen te maken over de impact van ‘rogue’ AI-agents op de platformen die het aanbiedt. “En die gemaakt zijn door vrijwilligers wereldwijd en vertrouwen op de belofte van het open internet. Dit soort incidenten, en vele anderen die (nog steeds) worden ontdekt, laten zien hoe AI-agents resources in beslag kunnen nemen en servers kunnen laten crashen, alsmede kunnen proberen de betrouwbaarheid van informatie aan te tasten.” De Wikimedia Foundation stelt dat Wikipedia is ontwikkeld voor mensen, en het gedrag van AI-agents voor uitdagingen zorgt waar niemand nog een oplossing voor heeft gevonden.

Burgerrechtenbeweging EFF is net als vorig jaar Opt-Out Oktober gestart, waarbij mensen worden gewezen op ‘echte alternatieven’ …

Bron: Security.nl