Vertegenwoordiger China op AI-top: Spanningen met Westen belemmeren aanpak risico's

Ying was eerder werkzaam voor de Chinese overheid en is nu verbonden aan de Tsinghua Universiteit in het Chinese Beijing. "In een tijd waarin wetenschappelijke vooruitgang in een stijgende lijn zit, beweegt de samenwerking juist in de verkeerde richting. Dit zet de eenheid en gezamenlijke inspanningen om risico’s te beheersen onder druk", stelt Ying, die deze ontwikkeling als zorgwekkend bestempelt.

'Opensource helpt schadelijke tech te voorkomen'

Volgens Ying is het ontwikkelen van AI-tools op een open-sourcebasis, waarbij iedereen kan zien hoe ze werken en kan bijdragen aan verbeteringen, de meest effectieve manier om schade door de technologie te voorkomen. Open source biedt mensen betere mogelijkheden om problemen op te sporen en op te lossen, terwijl het gebrek aan transparantie bij grote technologiebedrijven juist tot onrust leidt.

Ying deed deze uitspraken tijdens een paneldiscussie, waar ook de Canadese hoogleraar Yoshua Bengio aan deelnam. Bengio is een van de auteurs van een internationaal AI-veiligheidsrapport dat kort voor de top is vrijgegeven. De hoogleraar is het niet eens met Bengio en stelt dat open source criminelen juist de ruimte geeft om AI-technologie te misbruiken. Dit kan de risico’s vergroten in plaats van verkleinen.

Toch erkent hij dat open-sourcemodellen bepaalde veiligheidsvoordelen hebben. Zo is het bij de Chinese AI-assistent DeepSeek, die op een open-sourcearchitectuur is gebouwd, eenvoudiger om problemen te detecteren dan bij ChatGPT, waarvan de code niet openbaar is gemaakt door ontwikkelaar OpenAI.

Lees hier meer.