Microsoft verbetert de gezichtsherkenningstechnologie

Microsoft kondigt aan dat het de gezichtsherkenningstechnologie heeft bijgewerkt met aanzienlijke verbeteringen in het vermogen van het systeem om geslacht te herkennen in huidtinten. Die verbetering lost de recente bezorgdheid op dat commercieel beschikbare gezichtsherkenningstechnologieën geslacht van mensen met lichtere huidtinten nauwkeuriger herkennen dan donkere huidtinten, en dat ze het beste presteerden op mannen met een lichtere huid en het slechtst bij vrouwen met een donkerdere huid.

Met de nieuwe verbeteringen zei Microsoft dat het de foutenpercentages voor mannen en vrouwen met een donkere huid tot 20 keer kon verminderen. Voor alle vrouwen zei het bedrijf dat de foutenpercentages negen keer waren afgenomen. Over het algemeen zei het bedrijf dat ze met deze verbeteringen de nauwkeurigheidsverschillen in de demografie aanzienlijk konden verminderen.

De hogere foutenpercentages bij vrouwen met een donkere huid belichten een wereldwijde uitdaging: Kunstmatige intelligentietechnologieën zijn alleen zo goed als de gegevens die worden gebruikt om ze te trainen. Als een gezichtsherkenningssysteem goed presteert in alle mensen, moet de trainingsgegevensset een diversiteit aan huidtinten vertegenwoordigen, evenals factoren zoals kapsel, sieraden en brillen.

Het team dat verantwoordelijk is voor de ontwikkeling van gezichtsherkenningstechnologie bij Microsoft, dat beschikbaar is voor klanten als de Face API via Azure Cognitive Services , werkte met experts op vooroordelen en eerlijkheid in heel Microsoft om een ??systeem met de naam genderclassificator te verbeteren, met de nadruk op betere resultaten voor alle huidtinten.

Het Face API-team heeft drie belangrijke wijzigingen aangebracht. Ze hebben trainings- en benchmarkgegevensverzamelingen uitgebreid en herzien, nieuwe inspanningen voor gegevensverzameling gelanceerd om de trainingsgegevens verder te verbeteren door zich specifiek te richten op huidtoon, geslacht en leeftijd, en de classificator te verbeteren om resultaten met hogere precisie te produceren.

"We hadden gesprekken over verschillende manieren om vooroordelen te detecteren en eerlijkheid te operationaliseren. We hebben het gehad over inspanningen voor het verzamelen van gegevens om de trainingsgegevens te diversifiëren. We hadden het over verschillende strategieën om onze systemen intern te testen voordat we ze in gebruik nemen, "zegt Hanna Wallach , een senior onderzoeker in het New Yorks onderzoekslaboratorium en een expert op het gebied van eerlijkheid, verantwoordelijkheid en transparantie in AI-systemen.

Wallach en haar collega's gaven "een meer genuanceerd begrip van vooroordelen", zei Cornelia Carapcea, een hoofdprogrammamanager van het Cognitive Services-team, en hielp haar team om een ??robuustere dataset te creëren "die ons verantwoordelijk hield voor verschillende huidtinten."

Lees meer op de Microsoft site.