Giáo sư, chuyên gi a kinh tế và luật sư của Trường Kinh doanh Harvard,
Ben Edelman giải thích cho chúng tô i lý do tại sao vấn đề này có thể
nghiêm trọng cho cả người tuyển dụng và Facebook. Trong khi nhiều người
có xu hướng nghĩ sự phân biệt đối xử phát sinh từ việc đối xử khác nhau -
đặt ra các tiêu chuẩn khác nhau cho nam và nữ - sự khác biệt về vị trí
quảng cáo có thể dẫn đến điều mà luật sư gọi là “tác động khác biệt”. Một
thủ tục trung lập phù hợp cho cả nam và nữ cuối cùng ảnh hưởng đến một
số nhân viên – người mà có lý do để lo ngại sự phân biệt đối xử (“tầng lớp
cần được bảo vệ” đối với các luật sư) khác với những người khác.
Một người hoặc một tổ chức có thể phải chịu trách nhiệm cho sự phân biệt
đối xử, ngay cả khi là vô tình. Một tòa án phát hiện ra rằng Bộ Phòng cháy
chữa cháy ở thành phố New York phân biệt đối xử với ứng viên da đen và
gốc Latinh trong việc trở thành lính cứu hỏa với một kỳ thi tuyển sinh bao
gồm nhiều câu hỏi nhấn mạnh việc đọc hiểu. Tòa án thấy rằng các câu hỏi
không liên quan đến hiệu quả làm việc của một nhân viên bộ phận phòng
cháy chữa cháy và rằng các ứng viên da đen và gốc Latinh có năng lực
tương đương với các ứng viên khác.
5
Vụ việc cuối cùng cũng được dàn xếp
với khoảng 99 triệu đô la. Hiệu suất làm việc thấp hơn của người da đen và
gốc Latinh trong kỳ thi đồng nghĩa với bộ phận đó phải chịu trách nhiệm,
ngay cả khi sự phân biệt đối xử là không chủ ý.
Vì vậy, cho dù bạn nghĩ rằng mình đang đặt một quảng cáo trung lập trên
Facebook, sự ảnh hưởng của việc phân biệt đối xử có thể xuất hiện bất cứ
lúc nào. Với tư cách là một nhà tuyển dụng, bạn có thể sẽ phải chịu trách
nhiệm. Một giải pháp cho Facebook là cung cấp các công cụ cho các nhà
quảng cáo để ngăn chặn sự phân biệt đối xử.
Thách thức với AI là sự phân biệt đối xử không chủ ý như vậy có thể xảy ra
mà không ai trong tổ chức nhận ra điều đó. Sự dự đoán được tạo ra bởi học
sâu và nhiều công nghệ AI khác dường như được tạo ra từ một hộp đen.
Việc xem xét một thuật toán hay một công thức đằng sau sự dự đoán và xác
