Gouverneur Californië blokkeert Amerikaanse AI-wet

Volgens Newsom houdt de wet geen rekening met of een AI-systeem in omgevingen met een hoog risico is ontwikkeld, schrijft Reuters. Ook wordt niet gekeken naar of het systeem belangrijke beslissingen maakt of gevoelige data gebruikt. In plaats daarvan zet de wet "strenge normen voor zelfs de meest basale functies, zolang een groot systeem deze maar implementeert", aldus de gouverneur. Dat terwijl ook kleinere systemen risico's kunnen vormen en niet alle grote systemen risicovol zijn.

De nu geblokkeerde wet stelt onder meer dat de meest geavanceerde AI-modellen strenge veiligheidstesten moeten doorlopen. Het gaat dan om AI-modellen waarvan de ontwikkeling meer dan 100 miljoen dollar kost of die een bepaalde hoeveelheid rekenkracht gebruiken. Verder zouden AI-ontwikkelaars in Californië een zogenaamde kill switch moeten inbouwen, waarmee AI-modellen uitgeschakeld kunnen worden. 

Diverse techbedrijven protesteerden eerder al tegen de wet. Onder meer Google-moederbedrijf Alphabet, Microsoft, OpenAI en Facebook-eigenaar Meta hadden zorgen over het wetsvoorstel. Newsom zegt dat hij nu experts op generatieve AI gevraagd heeft om "werkbare vangrails" te ontwikkelen, die zich richten op het "op het ontwikkelen van een empirische, op wetenschap gebaseerde trajectanalyse". Overheidsinstanties hebben daarnaast opdracht gekregen om om hun beoordeling van de risico's van potentiële catastrofale gebeurtenissen in verband met AI-gebruik uit te breiden.