De afgelopen maanden heeft Textkernel een grondige audit ondergaan om te voldoen aan de NYC Automated Employment Decision Tools (AEDT) wet. We zijn verheugd te kunnen aankondigen dat we niet alleen aan de normen hebben voldaan, maar deze zelfs aanzienlijk hebben overtroffen. In deze blog gaan we in op de betekenis van deze prestatie en ons perspectief op het belang van dergelijke regelgeving.
In de snel evoluerende wereld van technologie komen AI-tools steeds vaker voor. Ze vereenvoudigen taken en verbeteren onze ervaringen, vooral op het gebied van HR en recruitment en selectie. De maatschappelijke impact van AI mag echter niet over het hoofd worden gezien. Het gebruik van AI zonder strikte richtlijnen komt maar al te vaak voor, maar het naleven van duidelijke normen is essentieel om ervoor te zorgen dat AI voor iedereen nuttig wordt gebruikt.
Discriminatie op de arbeidsmarkt
Onderzoek toont aan dat discriminatie nog steeds een alomtegenwoordig probleem is op de arbeidsmarkt, met talloze onderzoeken die vooroordelen in de besluitvorming aan het licht brengen. De introductie van AI in HR en recruitment vereist zorgvuldige overweging om deze vooroordelen te verminderen en niet te verergeren. Wetten zoals NYC AEDT zijn van vitaal belang om ervoor te zorgen dat AI gelijke kansen voor iedereen mogelijk maakt, vooral binnen HR.
Transparantie in onze algoritmische processen is altijd een hoeksteen geweest van Textkernel’s aanpak. Lang voordat de bezorgdheid over AI-bias en transparantie mainstream werd, waren we toegewijd aan het ontwikkelen van systemen die eerlijk en transparant zijn. Onze Source & Match oplossing is een voorbeeld van ons streven om een ‘white-box’ te zijn, wat betekent dat het duidelijke uitleg geeft over de aanbevelingen. Op die manier vermijden we niet alleen dat we vooroordelen introduceren door het gebruik van algoritmen, maar voorkomen we ook actief vooroordelen die anders in het proces zouden kunnen ontstaan.
NYC AEDT law audit
De NYC AEDT-wet, die sinds 1 januari 2023 van kracht is, heeft als doel om eerlijkheid te garanderen bij arbeidsbeslissingen waarbij AI-tools worden gebruikt, en is specifiek gericht op die tools die beslissingen over het aannemen van personeel in New York City beïnvloeden. Ondanks dat ons Textkernel Match systeem niet direct aannamebeslissingen neemt, beïnvloedt het het aannameproces aanzienlijk. We hebben er proactief voor gekozen om de audit te ondergaan, wat onze toewijding aan transparantie en eerlijkheid versterkt.
De audit, uitgevoerd door Holistic AI, was gericht op het evalueren van hoe de resultaten van ons matchingsysteem variëren tussen personen met bepaalde kenmerken, zoals geslacht en etniciteit, die vaak worden geassocieerd met discriminatie op de arbeidsmarkt. Ons systeem werd rigoureus getest en bleek onpartijdig en voldeed aan de wettelijke eis voor een “Impact Ratio” van meer dan 0,8, waarbij 1 de hoogste score is. Textkernel overtrof deze benchmarks consequent.
Bij Textkernel pleiten we voor verantwoorde AI in HR en recruitment, met de nadruk op ethische praktijken en gelijke kansen. Onze auditresultaten onderstrepen onze proactieve houding ten opzichte van transparantie en eerlijkheid.
Ga voor meer informatie over onze inzet om vooroordelen te voorkomen naar onze pagina over Responsible AI.
Eerlijke AI en solide partnerschappen
In de toekomst onderstrepen wetgevende initiatieven zoals de California AI Accountability Act en de EU AI Act het belang van ethische AI. Textkernel ondersteunt deze regelgeving en gelooft in de positieve maatschappelijke impact van AI. Voor bedrijven is het van het grootste belang om betrouwbare partners te kiezen voor het naleven van AI. Textkernel staat als een rotsvaste bondgenoot in HR en recruitment, en biedt expertise en ondersteuning voor ethische AI-adoptie.
Voor bedrijven die hulp zoeken bij naleving of ethische AI-implementatie, is Textkernel je vertrouwde partner voor een verantwoorde en compliant AI-adoptie.
