De Amerikaanse regering heeft het exportverbod voor AI-modellen Mythos en Fable opgeheven, waardoor die wereldwijd weer voor klanten beschikbaar komen. Dat laat ontwikkelaar Anthropic via X en een blogposting weten. Via de AI-modellen kan worden gezocht naar kwetsbaarheden in software. Twee weken geleden besloot Anthropic AI-modellen Fable 5 en Mythos 5 na een bevel van de Amerikaanse overheid voor alle klanten uit te schakelen.
Volgens Anthropic besloten de Amerikaanse autoriteiten wegens zorgen over de nationale veiligheid een exportverbod voor de AI-modellen op te leggen. Aanleiding was een rapport van Amazon waarbij er een manier was gevonden om de guardrails van Fable 5 te omzeilen, waardoor de AI-bot liet zien hoe een bepaald beveiligingslek was te misbruiken. Door het exportverbod mochten de AI-modellen niet meer aan andere landen of buitenlandse personen worden aangeboden, waaronder niet-Amerikaans personeel van Anthropic zelf. Het gevolg van het exportverbod was dat Fable 5 en Mythos 5 voor alle klanten werden uitgeschakeld.
Via X meldt Anthropic dat het Amerikaanse ministerie van Handel het exportverbod voor Fable 5 en Mythos 5 heeft opgeheven. Fable 5 zal vanaf morgen weer beschikbaar zijn. “Na een reeks productieve gesprekken met de Amerikaanse regering, zullen we het model uitrollen met een nieuwe reeks classifiers om meer cybersecuritytaken te identificeren en te blokkeren.” Voor de nabije toekomst zal Fable 5 voor een aantal taken, zoals programmeren en debugging, terugvallen op het model Opus 4.8. Mythos 5 is inmiddels voor een select aantal Amerikaanse organisaties beschikbaar en er wordt met de Amerikaanse regering samengewerkt om de toegang voor meer organisaties zowel binnen als buiten de VS te herstellen, aldus Anthropic.
Tevens zegt Anthropic dat het met Amazon, Microsoft, Google en andere partijen aan een framework werkt om de ernst van AI-jailbreaks te bepalen en hoe AI-ontwikkelaars hierop moeten reageren. Als laatste meldt de AI-ontwikkelaar de samenwerking met de Amerikaanse overheid op het gebied van tests en waarborgen uit te breiden. Zo zal de Amerikaanse regering toegang tot niet uitgebrachte AI-modellen en waarborgen krijgen om die te beoordelen, wordt er informatie gedeeld over jailbreaks en misbruik en worden er middelen beschikbaar gemaakt voor gezamenlijk onderzoek.
Utrecht heeft jou nodig! Als Chief Information Security Officer maak jij de stad digitaal veilig. Je bepaalt de koers voor informatiebeveiliging en zorgt dat beleid werkt. Je adviseert bestuur, stuurt een team aan en werkt samen met partners voor duidelijke keuzes met blijvende impact.
Slecht nieuws: Google stopt met ingang van Chrome v.151 totaal de ondersteuning van Manifest V2.
Tot v.150 bestond nog een …
Bron: Security.nl
De Amerikaanse regering heeft het exportverbod voor AI-modellen Mythos en Fable opgeheven, waardoor die wereldwijd weer voor klanten beschikbaar komen. Dat laat ontwikkelaar Anthropic via X en een blogposting weten. Via de AI-modellen kan worden gezocht naar kwetsbaarheden in software. Twee weken geleden besloot Anthropic AI-modellen Fable 5 en Mythos 5 na een bevel van de Amerikaanse overheid voor alle klanten uit te schakelen.
Volgens Anthropic besloten de Amerikaanse autoriteiten wegens zorgen over de nationale veiligheid een exportverbod voor de AI-modellen op te leggen. Aanleiding was een rapport van Amazon waarbij er een manier was gevonden om de guardrails van Fable 5 te omzeilen, waardoor de AI-bot liet zien hoe een bepaald beveiligingslek was te misbruiken. Door het exportverbod mochten de AI-modellen niet meer aan andere landen of buitenlandse personen worden aangeboden, waaronder niet-Amerikaans personeel van Anthropic zelf. Het gevolg van het exportverbod was dat Fable 5 en Mythos 5 voor alle klanten werden uitgeschakeld.
Via X meldt Anthropic dat het Amerikaanse ministerie van Handel het exportverbod voor Fable 5 en Mythos 5 heeft opgeheven. Fable 5 zal vanaf morgen weer beschikbaar zijn. “Na een reeks productieve gesprekken met de Amerikaanse regering, zullen we het model uitrollen met een nieuwe reeks classifiers om meer cybersecuritytaken te identificeren en te blokkeren.” Voor de nabije toekomst zal Fable 5 voor een aantal taken, zoals programmeren en debugging, terugvallen op het model Opus 4.8. Mythos 5 is inmiddels voor een select aantal Amerikaanse organisaties beschikbaar en er wordt met de Amerikaanse regering samengewerkt om de toegang voor meer organisaties zowel binnen als buiten de VS te herstellen, aldus Anthropic.
Tevens zegt Anthropic dat het met Amazon, Microsoft, Google en andere partijen aan een framework werkt om de ernst van AI-jailbreaks te bepalen en hoe AI-ontwikkelaars hierop moeten reageren. Als laatste meldt de AI-ontwikkelaar de samenwerking met de Amerikaanse overheid op het gebied van tests en waarborgen uit te breiden. Zo zal de Amerikaanse regering toegang tot niet uitgebrachte AI-modellen en waarborgen krijgen om die te beoordelen, wordt er informatie gedeeld over jailbreaks en misbruik en worden er middelen beschikbaar gemaakt voor gezamenlijk onderzoek.
Utrecht heeft jou nodig! Als Chief Information Security Officer maak jij de stad digitaal veilig. Je bepaalt de koers voor informatiebeveiliging en zorgt dat beleid werkt. Je adviseert bestuur, stuurt een team aan en werkt samen met partners voor duidelijke keuzes met blijvende impact.
Slecht nieuws: Google stopt met ingang van Chrome v.151 totaal de ondersteuning van Manifest V2.
Tot v.150 bestond nog een …
Bron: Security.nl
Deel dit bericht: