Vậy điều gì đang diễn ra ở đây? Vì sao thẩm phán lại có sự đánh giá khác
biệt đến vậy so với máy dự đoán? Một khả năng có thể là thẩm phán sử
dụng thông tin không có sẵn với thuật toán, ví dụ như biểu hiện và thái độ
của bị cáo trên tòa án. Thông tin đó có thể hữu ích – hoặc có thể gây đánh
lừa. Với tỉ lệ tái phạm tội cao như vậy của những người được tại ngoại,
không vô lý khi kết luận rằng có nhiều khả năng sự dự đoán của các thẩm
phán thực sự khá tệ. Nghiên cứu cung cấp nhiều bằng chứng khác để ủng
hộ cho kết luận không may này.
Sự dự đoán trở nên khó khăn với con người trong tình huống này bởi sự
phức tạp của những yếu tố có thể giải thích cho tỉ lệ phạm tội. Máy dự đoán
tốt hơn con người ở việc phân loại các yếu tố tương tác phức tạp giữa
những chỉ số khác nhau. Vậy nên, khi bạn nghĩ rằng hồ sơ tội phạm trong
quá khứ có thể khiến bị cáo có khả năng bỏ chạy cao hơn, máy đã có thể
phát hiện rằng đó chỉ là trong trường hợp bị cáo đã bị thất nghiệp trong một
khoảng thời gian nhất định. Nói cách khác, hiệu ứng tương tác có thể là yếu
tố quan trọng nhất, và khi số lượng của những tương tác đó gia tăng, khả
năng con người có thể đưa ra sự dự đoán chính xác suy giảm.
Những thành kiến này không những chỉ có trong trong y học, bóng chày và
luật pháp; chúng còn là yếu tố trong công việc chuyên môn. Các chuyên gia
kinh tế học đã nhận ra rằng những người quản lý và người làm việc thường
đưa ra dự đoán – với sự tự tin – mà không nhận ra rằng họ đang làm không
tốt. Trong nghiên cứu về việc tuyển dụng của 15 công ty luật có tay nghề
thấp, Mitchell Hoffman, Lisa Kahn và Danielle Li nhận ra rằng khi công ty
sử dụng bài kiểm tra khách quan và có thể đánh giá trong những buổi
phỏng vấn bình thường, thời gian gắn bó của ứng viên tăng 15% so với khi
họ đưa ra quyết định tuyển dụng dựa vào việc phỏng vấn.
8
Với những công
việc như vậy, những nhà quản lý thường được hướng dẫn để tối đa hóa thời
gian gắn bó của ứng viên. Bản thân bài kiểm tra đã mang tính bao quát
rộng, bao gồm khả năng nhận thức và những yếu tố thích hợp với công
việc. Ngoài ra, ngay cả khi quyết định tuyển dụng của người quản lý bị hạn
