Nhưng vấn đề cốt lõi khi dựa vào những dự đoán như vậy không
phải là nó đưa xã hội tới rủi ro. Rắc rối cơ bản là với một hệ
thống như vậy, chúng ta chủ yếu trừng phạt mọi người trước
khi họ làm điều xấu. Và bằng cách can thiệp trước khi họ hành
động (ví dụ bằng cách từ chối tạm tha nếu các dự đoán cho thấy
có một xác suất cao là họ sẽ giết người), chúng ta không bao giờ
biết liệu họ có phạm tội được dự đoán. Dù không chấp nhận vận
số, nhưng chúng ta lại buộc các cá nhân phải chịu trách nhiệm
về những gì mà dự đoán của chúng ta tiết lộ rằng họ sẽ thực
hiện. Những dự đoán như vậy không bao giờ có thể bác bỏ được.
Điều này phủ nhận ý tưởng tối thượng về giả định vô tội,
nguyên tắc mà hệ thống pháp luật của chúng ta, cũng như ý
thức của chúng ta về sự công bằng, vẫn dựa vào. Và nếu buộc
mọi người chịu trách nhiệm về những hành vi tương lai được dự
đoán, mà họ có thể không bao giờ phạm phải, thì chúng ta cũng
phủ nhận rằng con người có một năng lực cho sự lựa chọn mang
tính đạo đức.
Điểm quan trọng ở đây không chỉ liên quan đến an ninh trật tự.
Mối hiểm họa trải rộng hơn nhiều, bao gồm tất cả các lĩnh vực
của xã hội, tất cả các trường hợp phán quyết của con người
trong đó những dự đoán dữ-liệu-lớn được sử dụng để quyết
định xem một người có mắc tội với những hành vi tương lai hay
không. Chúng bao gồm tất cả mọi thứ, từ quyết định của một
công ty thải hồi một nhân viên, một bác sĩ từ chối phẫu thuật
một bệnh nhân, đến một người vợ/chồng nộp đơn ly dị.
Có lẽ với một hệ thống như vậy, xã hội sẽ được an toàn hơn và
hiệu quả hơn, nhưng một phần thiết yếu của những gì khiến
chúng ta là con người - khả năng lựa chọn các hành động của
mình và phải chịu trách nhiệm về chúng - sẽ bị phá hủy. Dữ liệu
lớn sẽ trở thành một công cụ để tập thể hóa lựa chọn của con
người và từ bỏ ý chí tự do trong xã hội của chúng ta.
