Το δημοφιλές σύστημα συνέντευξης βίντεο των HireVue στις Ηνωμένες Πολιτείες κατηγορήθηκε για προκατάληψη
Αμερικανοί ενεργοί πολίτες για τα ανθρώπινα δικαιώματα έχουν διαμαρτυρηθεί στις αρχές για την εταιρεία προσλήψεων HireVue, η οποία χρησιμοποιεί τεχνητή νοημοσύνη για να συγκρίνει τους υποψηφίους για κενές θέσεις εργασίας. Το ρομπότ προσλήψεων που δημιουργήθηκε από την εταιρεία είναι ύποπτο για μια ψευδοεπιστημονική προσέγγιση στην επιλογή του προσωπικού.
Το σύστημα HireVue χρησιμοποιείται σήμερα από περισσότερες από 100 εταιρείες, συμπεριλαμβανομένων των Hilton και Unilever. Το ρομπότ έχει ήδη πάρει συνέντευξη από περισσότερους από 1 εκατομμύριο ανθρώπου. Το σύστημα είναι εξοπλισμένο με τεχνολογίες αναγνώρισης προσώπου και φωνής.
Παρακολουθεί τον τρόπο ομιλίας, την επιλογή των λέξεων, τις εκφράσεις του προσώπου του υποψηφίου, τις κινήσεις των χεριών και του σώματος και τέλος τις απαντήσεις στα ερωτήματα που θέτει.
Ως αποτέλεσμα, το ρομπότ δίνει σε κάθε υποψήφιο μια αξιολόγηση για την «αντιστοιχία της θέσης εργασίας».
Οι ίδιοι οι αιτούντες δεν αποκαλύπτουν αυτές τις εκτιμήσεις, αλλά θεωρούνται από το τμήμα προσωπικού της εταιρείας - πελάτη HireVue και, στη βάση τους, λαμβάνουν απόφαση για την πρόσληψη συγκεκριμένου υποψηφίου. Την περασμένη Τετάρτη, η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ (FTC) έλαβε καταγγελία κατά της HireVue. Ο οργανισμός προστασίας των δικαιωμάτων του ανθρώπου (EPIC) ζήτησε από τον ρυθμιστή να διερευνήσει τον κύριο του έργου, κατηγορώντας τον για αθέμιτο ανταγωνισμό και τη δημιουργία τεχνολογίας που αξιολογεί άδικα τους υποψηφίους .
Η FTC (Ομοσπονδιακή Επιτροπή Εμπορίου) επιβεβαίωσε μέχρι στιγμής ότι έλαβε την καταγγελία αυτή χωρίς να διευκρινίσει εάν θα οδηγηθεί σε έρευνα. Αν συμβεί κάτι τέτοιο, θα είναι η πρώτη τέτοια έρευνα κατά μιας εταιρείας που δραστηριοποιείται στην ταχέως αναπτυσσόμενη αγορά για τους υπεύθυνους πρόσληψης ρομπότ. Ένα παράπονο στην EPIC λέει ότι η τεχνολογία HireVue παράγει «προκατειλημμένα, μη αποδεδειγμένα και μη καταγεγραμμένα αποτελέσματα», τα οποία μπορεί να βασίζονται σε σφάλματα που έχουν δανειστεί από τους απλούς ανθρώπους κατά τη διάρκεια της κατάρτισης του AI.
«Η εφαρμογή HireVue δεν είναι απλά μια άλλη ιστορία για την προκατάληψη της τεχνητής νοημοσύνης - οποιοδήποτε σήμα που βρίσκεται στη γλώσσα του σώματος ή στην κατασκευή ομιλίας θα πρέπει να είναι το αποτέλεσμα μιας προκατειλημμένης συμπεριφοράς. Με άλλα λόγια, αυτό δεν είναι μια χρήσιμη εφαρμογή που έχει την παρενέργεια της προκατάληψης. Είναι η ίδια η κινητήρια δύναμη της διαιώνισης της μεροληψίας », δήλωσε ο καθηγητής της Πληροφορικής του Πανεπιστημίου Princeton Arvind Narayanan.
Ωστόσο, η απόδειξη ότι η HIVI είναι πραγματικά προκατειλημμένη με ορισμένους υποψηφίους θα είναι εξαιρετικά δύσκολη. Σύμφωνα με το νόμο, οι προγραμματιστές δεν είναι υποχρεωμένοι να αποκαλύψουν τις λεπτομέρειες του έργου του AI και δεν υποχρεούνται να δημοσιεύσουν αυτά τα δεδομένα από μόνοι τους. Η HireVue έχει ήδη δηλώσει ότι το ρομπότ τους δεν είναι καθόλου τεχνολογία αναγνώρισης προσώπων και έχει περάσει δοκιμές μεροληψίας που πληρούν τα «παγκόσμια πρότυπα».
Το EPIC, όμως, έχει ακόμη έναν ισχυρισμό: το σύστημα HireVue φέρεται ότι δεν πληροί τα πρότυπα του ΟΟΣΑ για την AI (Τεχνητή νοημοσύνη), στα οποία εντάχθηκαν και οι Ηνωμένες Πολιτείες φέτος. Έτσι, η αξιολόγηση του ρομπότ HireVue δεν μπορεί να «αμφισβητηθεί στην ουσία» από τους υποψήφιους που αξιολογούνται από το σύστημα.
Εξάλλου, δεν γνωρίζουν τα αποτελέσματά τους και τα κριτήρια αξιολόγησης της εταιρείας δεν αποκαλύπτονται. Εν τω μεταξύ, η αγορά των ρομπότ των συνεντευκόντων αυξάνεται ραγδαία και, σύμφωνα με τις προβλέψεις, θα συνεχίσει να το κάνει τα επόμενα χρόνια. Ο ενθουσιασμός με τον οποίο οι επιχειρήσεις παίρνουν τη χρήση τεχνητής νοημοσύνης όταν προσλαμβάνουν ανθρώπους για δουλειά είναι εύκολο να το εξηγήσουν: οι ρομποτικοί recruiters (υπεύθυνοι προσλήψεων), ό, τι και αν είναι, μπορούν να «ωφελήσουν» χιλιάδες επιχειρήσεις.
Πράγματι, αντί να πληρώνουν μισθό σε ένα ολόκληρο τμήμα ανθρώπινου δυναμικού και σε ειδικούς (διοικητές ανθρώπινου δυναμικού) HR, μπορούν να αγοράζουν τεχνολογία που μπορεί ακούραστα και χωρίς διακοπή να επιλέξει υποψηφίους για κενές θέσεις εργασίας.
Έτσι, σύμφωνα με τις εκτιμήσεις του Juniper (Η Juniper Networks, Inc. είναι μια αμερικανική πολυεθνική εταιρεία με έδρα το Sunnyvale της Καλιφόρνια), ήδη το 2022 το χρηματικό ποσό που θα εξοικονομηθεί με τη χρήση, για παράδειγμα, των bots για την επιλογή των υποψηφίων θα ανέρχεται σε 8 δισεκατομμύρια δολάρια και μέχρι το 2024 η αγορά για την πρόσληψη ρομπότ θα φτάσει τα 1,3 δισεκατομμύρια δολάρια.
Αμερικανοί ενεργοί πολίτες για τα ανθρώπινα δικαιώματα έχουν διαμαρτυρηθεί στις αρχές για την εταιρεία προσλήψεων HireVue, η οποία χρησιμοποιεί τεχνητή νοημοσύνη για να συγκρίνει τους υποψηφίους για κενές θέσεις εργασίας. Το ρομπότ προσλήψεων που δημιουργήθηκε από την εταιρεία είναι ύποπτο για μια ψευδοεπιστημονική προσέγγιση στην επιλογή του προσωπικού.
Παρακολουθεί τον τρόπο ομιλίας, την επιλογή των λέξεων, τις εκφράσεις του προσώπου του υποψηφίου, τις κινήσεις των χεριών και του σώματος και τέλος τις απαντήσεις στα ερωτήματα που θέτει.
Ως αποτέλεσμα, το ρομπότ δίνει σε κάθε υποψήφιο μια αξιολόγηση για την «αντιστοιχία της θέσης εργασίας».
Βασίζεται σε αξιολογήσεις των δεξιοτήτων ενός ατόμου, της ικανότητάς του να μαθαίνει και της αντοχής του στο στρες, που προέρχεται από την τεχνητή νοημοσύνη.
Οι ίδιοι οι αιτούντες δεν αποκαλύπτουν αυτές τις εκτιμήσεις, αλλά θεωρούνται από το τμήμα προσωπικού της εταιρείας - πελάτη HireVue και, στη βάση τους, λαμβάνουν απόφαση για την πρόσληψη συγκεκριμένου υποψηφίου. Την περασμένη Τετάρτη, η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ (FTC) έλαβε καταγγελία κατά της HireVue. Ο οργανισμός προστασίας των δικαιωμάτων του ανθρώπου (EPIC) ζήτησε από τον ρυθμιστή να διερευνήσει τον κύριο του έργου, κατηγορώντας τον για αθέμιτο ανταγωνισμό και τη δημιουργία τεχνολογίας που αξιολογεί άδικα τους υποψηφίους .
Η FTC (Ομοσπονδιακή Επιτροπή Εμπορίου) επιβεβαίωσε μέχρι στιγμής ότι έλαβε την καταγγελία αυτή χωρίς να διευκρινίσει εάν θα οδηγηθεί σε έρευνα. Αν συμβεί κάτι τέτοιο, θα είναι η πρώτη τέτοια έρευνα κατά μιας εταιρείας που δραστηριοποιείται στην ταχέως αναπτυσσόμενη αγορά για τους υπεύθυνους πρόσληψης ρομπότ. Ένα παράπονο στην EPIC λέει ότι η τεχνολογία HireVue παράγει «προκατειλημμένα, μη αποδεδειγμένα και μη καταγεγραμμένα αποτελέσματα», τα οποία μπορεί να βασίζονται σε σφάλματα που έχουν δανειστεί από τους απλούς ανθρώπους κατά τη διάρκεια της κατάρτισης του AI.
Για παράδειγμα, είναι προκατειλημμένο με βάση το χρώμα του δέρματος, το φύλο, τη φυλή ή τον σεξουαλικό προσανατολισμό.
«Η εφαρμογή HireVue δεν είναι απλά μια άλλη ιστορία για την προκατάληψη της τεχνητής νοημοσύνης - οποιοδήποτε σήμα που βρίσκεται στη γλώσσα του σώματος ή στην κατασκευή ομιλίας θα πρέπει να είναι το αποτέλεσμα μιας προκατειλημμένης συμπεριφοράς. Με άλλα λόγια, αυτό δεν είναι μια χρήσιμη εφαρμογή που έχει την παρενέργεια της προκατάληψης. Είναι η ίδια η κινητήρια δύναμη της διαιώνισης της μεροληψίας », δήλωσε ο καθηγητής της Πληροφορικής του Πανεπιστημίου Princeton Arvind Narayanan.
Ωστόσο, η απόδειξη ότι η HIVI είναι πραγματικά προκατειλημμένη με ορισμένους υποψηφίους θα είναι εξαιρετικά δύσκολη. Σύμφωνα με το νόμο, οι προγραμματιστές δεν είναι υποχρεωμένοι να αποκαλύψουν τις λεπτομέρειες του έργου του AI και δεν υποχρεούνται να δημοσιεύσουν αυτά τα δεδομένα από μόνοι τους. Η HireVue έχει ήδη δηλώσει ότι το ρομπότ τους δεν είναι καθόλου τεχνολογία αναγνώρισης προσώπων και έχει περάσει δοκιμές μεροληψίας που πληρούν τα «παγκόσμια πρότυπα».
Το EPIC, όμως, έχει ακόμη έναν ισχυρισμό: το σύστημα HireVue φέρεται ότι δεν πληροί τα πρότυπα του ΟΟΣΑ για την AI (Τεχνητή νοημοσύνη), στα οποία εντάχθηκαν και οι Ηνωμένες Πολιτείες φέτος. Έτσι, η αξιολόγηση του ρομπότ HireVue δεν μπορεί να «αμφισβητηθεί στην ουσία» από τους υποψήφιους που αξιολογούνται από το σύστημα.
Εξάλλου, δεν γνωρίζουν τα αποτελέσματά τους και τα κριτήρια αξιολόγησης της εταιρείας δεν αποκαλύπτονται. Εν τω μεταξύ, η αγορά των ρομπότ των συνεντευκόντων αυξάνεται ραγδαία και, σύμφωνα με τις προβλέψεις, θα συνεχίσει να το κάνει τα επόμενα χρόνια. Ο ενθουσιασμός με τον οποίο οι επιχειρήσεις παίρνουν τη χρήση τεχνητής νοημοσύνης όταν προσλαμβάνουν ανθρώπους για δουλειά είναι εύκολο να το εξηγήσουν: οι ρομποτικοί recruiters (υπεύθυνοι προσλήψεων), ό, τι και αν είναι, μπορούν να «ωφελήσουν» χιλιάδες επιχειρήσεις.
Πράγματι, αντί να πληρώνουν μισθό σε ένα ολόκληρο τμήμα ανθρώπινου δυναμικού και σε ειδικούς (διοικητές ανθρώπινου δυναμικού) HR, μπορούν να αγοράζουν τεχνολογία που μπορεί ακούραστα και χωρίς διακοπή να επιλέξει υποψηφίους για κενές θέσεις εργασίας.
Έτσι, σύμφωνα με τις εκτιμήσεις του Juniper (Η Juniper Networks, Inc. είναι μια αμερικανική πολυεθνική εταιρεία με έδρα το Sunnyvale της Καλιφόρνια), ήδη το 2022 το χρηματικό ποσό που θα εξοικονομηθεί με τη χρήση, για παράδειγμα, των bots για την επιλογή των υποψηφίων θα ανέρχεται σε 8 δισεκατομμύρια δολάρια και μέχρι το 2024 η αγορά για την πρόσληψη ρομπότ θα φτάσει τα 1,3 δισεκατομμύρια δολάρια.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου