định nguyên nhân điều gì dẫn đến điều gì là không thể. Để xác định liệu AI
có phân biệt đối xử hay không, bạn phải nhìn vào thông tin đầu ra. Liệu
nam có kết quả khác so với nữ không? Liệu người gốc Latinh có kết quả
khác so với những người khác không? Vậy còn người già hay người bị tàn
tật thì sao? Liệu những kết quả khác nhau có hạn chế những cơ hội của họ?
Để ngăn chặn các vấn đề trách nhiệm pháp lý (và tránh phân biệt đối xử),
nếu bạn nhận ra một sự phân biệt đối xử không chủ ý ở dữ liệu đầu ra của
AI, bạn cần phải sửa nó. Bạn cần phải tìm ra lý do tại sao AI của bạn lại tạo
ra sự dự đoán phân biệt đối xử như vậy. Nhưng nếu AI là một hộp đen, thì
bạn có thể làm điều này như thế nào?
Một số người trong cộng đồng khoa học máy tính gọi đây là “khoa học thần
kinh AI”.
6
Một công cụ quan trọng là đưa ra giả thuyết về những gì có thể
tạo ra sự khác biệt, cung cấp cho AI những dữ liệu đầu vào khác nhau để
kiểm tra giả thuyết và sau đó so sánh các dự đoán kết quả. Lambrecht và
Tucker đã làm điều này khi họ phát hiện ra rằng phụ nữ thấy ít thấy quảng
cáo STEM hơn bởi vì việc hiển thị quảng cáo cho nam giới ít tốn kém hơn.
Vấn đề là hộp đen của AI không phải là một cái cớ để bỏ qua sự phân biệt
đối xử tiềm tàng hoặc một cách để tránh sử dụng AI trong những tình
huống mà ở đó sự phân biệt đối xử có thể là một vấn đề. Nhiều bằng chứng
cho thấy con người phân biệt đối xử thậm chí nhiều hơn máy móc. Triển
khai AI đòi hỏi sự bổ sung đầu tư vào việc kiểm soát sự phân biệt đối xử,
sau đó nghiên cứu để giảm thiểu bất kỳ sự phân biệt đối xử nào.
Thuật toán phân biệt đối xử có thể dễ dàng xuất hiện khi ở cấp độ hoạt
động nhưng có thể sẽ gây ra những hệ quả chiến lược và bao quát hơn.
Chiến lược liên quan đến việc chỉ đạo những người trong tổ chức của bạn
cân nhắc các yếu tố mà có thể không rõ ràng. Điều này trở nên đặc biệt nổi
bật với những rủi ro mang tính hệ thống, như sự phân biệt đối xử về thuật
toán, có thể có tác động tiêu cực đến doanh nghiệp của bạn. Những hệ quả
của việc tăng rủi ro có thể không trở nên rõ ràng cho đến khi quá muộn. Do
