Gabriela Riccardi đã nói chuyện với Scott Nover về cách thuật toán trí tuệ nhân tạo ảnh hưởng đến việc tuyển dụng trong tập cuối của mùa 5 của podcast Quartz Obsession!
🎧 Nghe ngay hoặc đọc bản văn của cuộc phỏng vấn.
Gặp gỡ người quản lý tuyển dụng mới của bạn: chính là một thuật toán. Trong thập kỷ qua, một ngành công nghiệp ngày càng lớn của các nhà phát triển trí tuệ nhân tạo đã bắt đầu xây dựng các công cụ thuật toán hứa hẹn giúp các công ty tuyển dụng nhân sự một cách tốt hơn so với con người. Các nhà cung cấp của bộ công cụ tuyển dụng trí tuệ nhân tạo tuyên bố rằng chúng có thể đưa ra quyết định dựa trên dữ liệu, quyết định dựa trên đối tượng hơn so với sự đánh giá của con người, đáng tin cậy hơn so với lỗi của con người và công bằng hơn so với định kiến trong con người.
Nhưng các trường hợp sử dụng thực tế cho thấy thuật toán trí tuệ nhân tạo là một nhân viên tuyển dụng khó tính. Hãy xem ví dụ phổ biến của Amazon, từ năm 2014-2017, công ty này đã huấn luyện công cụ riêng của mình trên 10 năm lịch sử việc làm để lựa chọn nhân viên. Nhưng bởi vì ngành công nghệ được quyền trọng nam hơn nữ, hầu hết những ứng dụng đó đến từ đàn ông - một sự thật mà thuật toán đã nhận ra.
Kết quả là gì? Máy tính đã tự giáo dục cho mình rằng ứng cử viên nam là lý tưởng và trở nên thiên vị đối với phụ nữ. Trong thực tế, bất kỳ sử dụng từ "phụ nữ", chẳng hạn như một sơ yếu lý lịch liệt kê về "bóng chày nữ" hoặc "quyền lợi của phụ nữ", đều bị trừ điểm bởi thuật toán. Chương trình không thể được sửa lỗi và Amazon đã bỏ dự án này.
Tuy nhiên, vấn đề này chưa từ bỏ các công ty phần mềm đẩy mạnh các công cụ mà họ hứa hẹn có thể đánh bại các định kiến. (Trong thực tế, thậm chí Amazon có thể đang cố gắng xây dựng một thuật toán một lần nữa.) Cuối cùng, trí tuệ nhân tạo đã đến với đơn xin việc của chúng ta: Chủ tịch Ủy ban Cơ hội việc làm bình đẳng của Mỹ Charlotte Burrows đã chỉ ra trong một cuộc thẩm vấn trong năm nay rằng hơn 80% nhà tuyển dụng kh quietly dùng nó để đưa ra quyết định tuyển dụng.
Vì vậy hãy ngồi vào bàn phỏng vấn của thuật toán - nhưng đừng ngạc nhiên nếu đơn xin việc của bạn bị từ chối. Quartz tổng hợp một số cách kỳ quặc mà thương hiệu AI đã chứng minh rằng mình có thể loại trừ các ứng viên việc làm, từ hai bên hoang dã và kỳ quặc đến ngẫu nhiên, sai sót và rõ ràng thiên vị. Trong vào trong thuật toán, có vô số lý do để bị từ chối.
Trong một thí nghiệm nổi tiếng năm 2004, các nhà nghiên cứu đã gửi 5.000 sơ yếu lý lịch đến hơn 1.000 công việc ở khắp nơi trên toàn Hoa Kỳ. Sơ yếu lý lịch đó giống nhau trừ một điểm khác biệt: Tên ở trên đỉnh rõ ràng là tên trắng (như Allison hoặc Todd) hoặc tên của người da đen (như Aisha hoặc Tyrone). Và như cuộc nghiên cứu đã cho thấy, những ứng viên tên trắng có khả năng được mời phỏng vấn cao hơn 50%.Năm 2016, các nhà nghiên cứu đến từ Đại học Princeton và Đại học Bath đã sao chép phát hiện này trong các thuật toán trí tuệ nhân tạo. Họ đã phát hiện ra rằng công cụ GloVe, một trí tuệ nhân tạo về ánh xạ từ, dễ dàng gán những cái tên nghe như của người da trắng với những đặc điểm tích cực. Một lần nữa, trí tuệ nhân tạo đã có khả năng gấp 50% mở rộng lời mời phỏng vấn cho ứng viên có tên nghe như người da trắng hơn là tên nghe như người da đen.
👨 Luật sư lừng danh về việc tuyển dụng Mark J. Girouard đã cho biết cho Quartz vào năm 2018 là một trong những khách hàng của ông đang xem xét một công cụ sàng lọc hồ sơ dựa trên trí tuệ nhân tạo, nhưng lại muốn xem các thuật toán ưu tiên như thế nào.
'Sau khi kiểm tra thuật toán,' phóng viên Dave Gershgorn viết, 'công ty sàng lọc hồ sơ đã phát hiện ra rằng thuật toán tìm thấy hai yếu tố quan trọng nhất cho hiệu suất làm việc: tên của họ là Jared và liệu họ có chơi quần vợt trường trung học hay không. Khách hàng của Girouard không sử dụng công cụ này.'
📚 Vào năm 2021, một đài truyền hình công cộng Đức đã thử nghiệm một startup phỏng vấn trực tuyến có trí tuệ nhân tạo. Công ty này tuyên bố có thể đánh giá ứng viên dựa trên năm yếu tố tính cách lớn (Big Five), thường được sử dụng trong đánh giá thuần tuyển dụng tâm lý.
Ứng viên sẽ ghi nhận câu trả lời dựa trên câu hỏi của phần mềm và startup này cho biết trí tuệ nhân tạo của nó có thể phân tích giọng nói, ngôn ngữ, cử chỉ và biểu hiện khuôn mặt của ứng viên để tạo ra hồ sơ tính cách của ứng viên. Sau đó, trí tuệ nhân tạo sẽ đề xuất liệu họ nên tiến tới vòng phỏng vấn tiếp theo hay không.
Khi một tập đoàn tiểu thuyết đã được thực hiện, các diễn viên và diễn viên phụ sẽ tham gia phỏng vấn với phần mềm và sau đó sẽ tái phỏng vấn với những điều chỉnh nhỏ về quần áo, máy ảnh hoặc phông nền. Khi một chiếc kệ sách được đặt phía sau một diễn viên nam, đánh giá tính cách của trí tuệ nhân tạo đó thay đổi: Nó xếp hạng anh ta ít lo lắng hơn đáng kể - và nghe như một điều tốt đẹp - tuy nhiên, độ lo lắng cao hơn được coi là một điểm cộng đối với một số vị trí công việc.
🥸 Đó là những điểm chung với đài truyền hình công cộng Đức. Khi một nữ diễn viên đeo kính trong một cuộc phỏng vấn qua video, trí tuệ nhân tạo đã giảm gần 10 điểm trên điểm cẩn thận của cô. Khi cùng một nữ diễn viên đó bỏ kính và đeo khăn quàng đầu, cô ta được phát hiện là một người cởi mở hơn, cẩn thận hơn và ít lo lắng hơn. Khi video của một nữ diễn viên khác đã được làm tối, bốn trong số năm điểm số của cô đã giảm.
🇬🇧 Một tính năng thường được sử dụng khác của các nền tảng phỏng vấn qua video phụ thuộc vào việc chuyển ngữ câu trả lời. Phần mềm video sẽ yêu cầu ứng viên trả lời câu hỏi phỏng vấn trên máy ảnh; các câu trả lời được ghi và chuyển ngữ cho ai đó - hoặc cái gì đó - xem xét.
Để xem tác động của giọng nói đến chuyển ngữ, BBC Three liệu phim tài liệu Computer Mahôi không (2022) đã tham gia các thành phần từ các khu vực khác nhau của Vương quốc Anh đọc ca khúc bóng đá tiếng Anh nổi tiếng "Three Lions". (Bạn có thể nhận ra dòng thường được hét lên của nó: "It's coming home!")
Tuy nhiên, khi một số tình nguyện viên có giọng địa phương đọc cho hệ thống, AI đã tiết lộ nó không thể giải mã từ của họ. Thay vào đó, dịch vụ chuyển văn bản đã đánh dấu chúng như "[Giọng không được nhận dạng]".
🇩🇪 Nhưng bạn sẽ xuất sắc nếu chỉ nói tiếng Đức!
Trong năm 2021, các nhà báo tại MIT Technology Review đã thử nghiệm hai nền tảng phỏng vấn được cung cấp bởi trí tuệ nhân tạo, MyInterview và Curious Thing, bằng cách thiết lập một bài đăng công việc giả trên mỗi công cụ và sau đó đăng ký cho vai trò được đăng tải. Thuật toán sẽ được cho là ghi điểm, trong số các yêu cầu khác, trình độ tiếng Anh của ứng viên.
Hilke Schellmann hoàn thành cuộc phỏng vấn bằng phần mềm trí tuệ nhân tạo qua điện thoại và video. Trên mỗi nền tảng, cô đã phỏng vấn hai lần: Trước tiên, cô trả lời câu hỏi như khi tham gia phỏng vấn thông thường. Ở lần thứ hai, cô trả lời câu hỏi bằng cách đọc bài viết về tâm lý học trên Wikipedia bằng tiếng Đức.
Kết quả thế nào? Curious Thing xếp hạng phỏng vấn tiếng Đức của cô là 6 trên 9 cho năng lực tiếng Anh, và MyInterview dự đoán phiên bản nói tiếng Đức của Schellmann sẽ phù hợp với vai trò giả 73%. Hệ thống chuyển văn bản cũng hiểu nhầm từ tiếng Đức sang tiếng Anh, ngay cả khi đọc lại không có ý nghĩa.
Đây là trường hợp của thuật toán Amazon nội bộ, đã được huấn luyện trên các hồ sơ đang tồn tại được domine bởi đàn ông và học một thành kiến chống lại phụ nữ vào năm 2017. Truyền thông Reuterscho biết rằng AI rõ ràng đã hạ thấp thứ hạng các tốt nghiệp của hai trường nữ, chỉ có lực lượng làm việc quen thuộc với vấn đề đó.
Có lẽ cả các ứng viên tổng thống cũng không thể tìm được việc với AI.
Năm 2019, một chuyên gia tuyển dụng chủ yếu làm việc với người tìm việc khiếm thính hoặc khó nghe đã giúp một khách hàng xin việc với Amazon. Ứng dụng yêu cầu một cuộc phỏng vấn thông qua HireVue, một nền tảng video trí tuệ nhân tạo - và theo chuyên gia này, không cung cấp phương tiện rõ ràng để đáp ứng khuyết tật thính lực.
Chuyên gia, người mù, đã cố gắng gọi cho công ty để bố trí nơi ở, nhưng không thể liên lạc được để được giúp đỡ. Amazon chỉ thuê khách hàng sau khi chuyên gia và người xin việc đến tại chỗ với một thông dịch viên tiếng ký hiệu.
Trong khi họ không đề cập đến các trường hợp được ghi nhận, năm 2022 Bộ Tư pháp Hoa Kỳ và Ủy ban Bình đẳng Cơ hội việc làm đã ban hànhhướng dẫn chungvề cách các công cụ dựa trên trí tuệ nhân tạo có thể được sử dụng để phân biệt đối xử đối với các công nhân khuyết tật.
Bộ Tư pháp Hoa Kỳ và nữ trợ lý công tố viên Kristen Clarke cho biết, họ đang ''báo động'' về việc sử dụng trí tuệ nhân tạo trong tuyển dụng việc làm. "Chúng ta không thể để những công cụ này trở thành con đường cao cấp để phân biệt đối xử" - Chủ tịch EEOC Charlotte Burrows thêm. Năm 2023, các cơ quan đã phát hành hướng dẫn bổ sung về cách trí tuệ nhân tạo được sử dụng trong tuyển dụng có thể vi phạm quyền dân sự.
Một ví dụ về các rủi ro được đề cập bởi EEOC: Các thuật toán chặn lọc ứng viên vì khuyết tật của họ. Sử dụng phần mềm phỏng vấn video để đánh giá kiểu nói của ứng viên "không thể đánh giá công bằng một ứng viên" nếu người đó có khuyết tật nói chuyện, ví dụ như nói lắp nhắp gây ra sự khác biệt về cách nói của họ. Một công cụ trò chuyện được đào tạo để hỏi về khoảng trống việc làm có thể từ chối ứng viên đã phải nghỉ việc để điều trị sức khỏe. Hoặc các bài kiểm tra trò chơi đòi hỏi ứng viên đạt được một ngưỡng nhất định - ví dụ, đạt được 90% điểm trò chơi nhớ - có thể không phù hợp với ứng viên có tật nặng về thị lực nhưng lại có tất cả những khả năng về trí nhớ cần thiết cho công việc.
🔥 Bonus: Đặc sản AI sa thải
Vào năm 2020, một nhóm nghệ sĩ trang điểm của Vương quốc Anh tại MAC Cosmetics, được sở hữu bởi tập đoàn Estée Lauder, đã được thông báo rằng công ty sẽ tiến hành sa thải nhân viên. Họ được yêu cầu phải đăng ký lại cho công việc của mình bằng cách thực hiện một cuộc phỏng vấn video. Phỏng vấn đó lại do HireVue thực hiện và giải thuật của nó sẽ đưa ra điểm số của các câu trả lời của ứng viên.Sự thực ra là, thay vì thực hiện một cuộc dạy trang điểm để đánh giá, như là các thủ tục bình thường, các nghệ sĩ cần phải mô tả phương pháp của họ bằng lời nói - ví dụ như nói cho máy tính biết cách trang điểm mắt khói, thay vì thực hiện nó. Lấy một ví dụ khác, các nghệ sĩ có thể bị sa thải nếu họ được đánh giá dựa trên kỹ năng thực hiện bằng hướng dẫn vi tính, trong khi sự cần thiết của công việc là có thể thực hiện trang điểm một cách tốt.
Các nghệ sĩ đã bị sa thải và quyết định kiện Estée Lauder ngoài tòa. Sau đó họ đạt được thoả thuận ngoài tòa.
