Een assistent-professor informatica en techniek aan de Universiteit van Texas in Arlington heeft ontdekt dat sollicitanten hun positie gemiddeld met ten minste 16 plaatsen kunnen verbeteren in een pool van 100 sollicitanten door een algoritme te gebruiken dat functiespecifieke trefwoorden gebruikt.

Shirin Nilizadeh zei dat ze gemotiveerd was om deze onderzoekslijn voort te zetten nadat ze zag dat vrienden niet werden geselecteerd voor functies of tweede-ronde-interviews.

"We kwamen erachter dat je je cv kunt afstemmen op een specifieke baan door specifieke trefwoorden te gebruiken die je naar de top zouden kunnen duwen", zei ze. "Het is een soort hack voor het wervingsproces."

Nilizadeh's paper - "Attacks Against Ranking Algorithms with Text Embeddings:A Case Study on Recruitment Algorithms" - werd geaccepteerd in de Proceedings of the Fourth BlackboxNLP Workshop on Analyzing and Interpreting Neutral Networks for NLP . Anahita Samadi, nu een promovendus aan UTA die onder Nilizadeh studeerde, leidde het project en presenteerde het op de 2021-conferentie over empirische methoden in natuurlijke taalverwerking.

Algoritmen voor het insluiten van tekst die worden gebruikt bij het werven van vacatures, stemmen woorden en zinnen in cv's af op de functiebeschrijving om overeenstemmingsscores te verkrijgen. CV's worden gerangschikt op basis van die scores. Tot nu toe hebben weinig onderzoeken aangetoond dat rangschikkingsalgoritmen die tekstinsluitingen gebruiken kwetsbaar zijn voor aanvallen van tegenstanders.

"We dachten dat rekruteringsalgoritmen het beste voorbeeld waren van dergelijke rangschikkingsalgoritmen en daarom besloten we eraan te werken," zei Nilizadeh. "Het doel van onze aanval was om de trefwoorden uit de functiebeschrijving te identificeren die de positie van het cv kunnen verbeteren."

Zoals verwacht, verbetert het toevoegen van meer zoekwoorden de ranking. Het onderzoek toonde echter ook aan dat het toevoegen van te veel vergelijkbare woorden of zinsdelen de positie van een cv mogelijk niet verbetert.

Een van de belangrijkste onderwerpen die Nilizadeh bestudeert in het UTA Security and Privacy Research Lab, is de vijandige robuustheid van op kunstmatige intelligentie (AI) gebaseerde, datagestuurde systemen. Met andere woorden, ze test systemen die AI gebruiken tegen mogelijke aanvallen en evalueert de robuustheid van die systemen.

Hong Jiang, voorzitter en professor in de afdeling Computerwetenschappen en Engineering, zei dat het werk van Nilizadeh veelbelovend is.

"Het kan een hulpmiddel zijn dat potentiële werknemers en werkgevers kunnen gebruiken bij het zoeken naar werk," zei Jiang.