Chinese onderzoekers zouden Metas AI gebruiken voor potentiële militaire doeleinden

Zes Chinese wetenschappers van drie onderzoeksinstituten beschreven in een paper in juni hoe ze een vroege versie van Llama hadden gebruikt voor iets wat zij 'ChatBIT' noemen, meldt Reuters. Twee van de onderzoeksinstituten vallen onder het Volksbevrijdingsleger, het leger van China en de communistische partij van het land. 

Concreet gebruikten zij het Llama 2 13B-taalmodel van Meta, dat in februari 2023 uit werd gebracht. De onderzoekers voegden daar hun eigen parameters aan toe om een AI-tool die inlichtingen kan verzamelen en verwerken, en accurate en betrouwbare informatie kan verzamelen op basis waarvan beslissingen gemaakt kunnen worden. Volgens de paper wat ChatBIT verder geoptimaliseerd voor gesprekken en taken voor het leger. 

"Het is de eerste keer dat er substantieel bewijs is dat militaire experts in China systematisch onderzoek hebben gedaan en hebben geprobeerd de kracht van open-source taalmodellen, met name die van Meta, te benutten voor militaire doeleinden", stelt Sunny Cheung van de Jamestown Foundation, die zich specialiseert in China's gebruik van technologie. 

Meta: dit mag niet

Meta bracht Llama open op de markt, waardoor iedereen het voor eigen doeleinden kan gebruiken. Wel zitten daar wat restricties op. Zo mogen Llama en andere AI-modellen van Meta niet gebruikt worden voor militaire doeleinden, spionage of nucleaire industrieën of toepassingen. Maar omdat het model open op de markt is gebracht, zijn er weinig mogelijkheden om actief maatregelen te nemen. 

Meta zegt in reactie naar Reuters dat het gebruik van AI-modellen door het Chinese Volksbevrijdingsleger niet mag en tegen het beleid van Meta in gaat. Ook stelt het bedrijf dat het maatregelen heeft genomen om misbruik te voorkomen.