rủi ro - chứ không phải một sự trừng phạt. Càng chuyển nhiều
từ việc buộc người ta chịu trách nhiệm về những hành vi của
mình sang việc giảm thiểu rủi ro trong xã hội nhờ các biện pháp
dựa trên phân tích dữ liệu, chúng ta càng làm giảm giá trị của lý
tưởng về trách nhiệm cá nhân. Nhà nước mang tính dự báo là
nhà nước vú em, và không chỉ có thế. Nếu nhà nước căn cứ
nhiều quyết định trên các dự đoán và mong muốn giảm thiểu
rủi ro, thì những lựa chọn cá nhân của chúng ta - và do đó tự do
cá nhân của chúng ta để hành động - không còn ý nghĩa nữa.
Nếu không biết lỗi thì cũng không biết vô tội. Chấp nhận một
cách tiếp cận như vậy sẽ không cải thiện xã hội của chúng ta mà
làm nó nghèo đi.
Phá vỡ hộp đen
Các hệ thống máy tính hiện nay quyết định dựa trên các nguyên
tắc được lập trình một cách rõ ràng. Do đó, khi một quyết định
bị sai lệch, điều đôi khi không thể tránh khỏi, chúng ta có thể
quay trở lại và tìm ra lý do máy tính đã làm như vậy. Ví dụ
chúng ta có thể điều tra những câu hỏi như “Tại sao hệ thống lái
tự động lại nghiêng máy bay cao hơn năm độ khi một bộ cảm
biến bên ngoài phát hiện sự gia tăng độ ẩm đột ngột?”. Mã máy
tính ngày nay có thể được mở ra và kiểm tra, và những ai biết
giải thích nó có thể theo dõi và hiểu được cơ sở cho các quyết
định của nó, bất kể nó phức tạp ra sao.
Tuy nhiên với phân tích dữ-liệu-lớn, việc truy xuất nguồn gốc
này sẽ khó khăn hơn nhiều. Cơ sở cho các dự đoán của một
thuật toán thường quá phức tạp đối với hầu hết mọi người.
Khi máy tính đã được lập trình một cách rõ ràng để làm theo các
hướng dẫn, như với chương trình dịch từ tiếng Nga sang tiếng
