truyền thống trong khoa học về việc tiết lộ mọi yếu tố có thể
làm suy yếu các kết quả của một nghiên cứu.)
Quan trọng nhất, một sự đảm bảo về quyền được hành động của
con người sẽ chống lại mối đe dọa của một chế độ độc tài của dữ
liệu, trong đó chúng ta ban cho dữ liệu nhiều ý nghĩa và tầm
quan trọng hơn mức mà nó xứng đáng được nhận.
Một điều cũng không kém phần quan trọng là chúng ta cần bảo
vệ trách nhiệm cá nhân. Với rất nhiều dữ liệu dường như khách
quan trong tầm tay, người ta dễ có khuynh hướng phi cảm xúc
hóa và phi cá nhân hóa quá trình ra quyết định. Người ta sẽ dựa
trên các thuật toán thay vì các đánh giá chủ quan, và trình bày
các quyết định không bằng ngôn ngữ của trách nhiệm cá nhân
mà bằng những rủi ro “khách quan” hơn, cùng với việc phòng
tránh chúng.
Ví dụ dữ liệu lớn có thể được dùng để dự đoán những ai có khả
năng phạm tội và đặt họ thành đối tượng cần xử lý đặc biệt, rà
soát liên tục để giảm rủi ro. Người được phân loại theo cách thức
này có thể cảm thấy, và đúng là như thế, rằng họ đang bị trừng
phạt nhưng lại chẳng bao giờ được đối mặt và chịu trách nhiệm
về hành vi thực tế. Hãy tưởng tượng rằng một thuật toán xác
định một thiếu niên nào đó có khả năng rất cao sẽ phạm một
trọng tội trong ba năm tới. Kết quả là các nhà chức trách chỉ
định một nhân viên xã hội tới thăm cậu ta mỗi tháng một lần,
để canh chừng và cố gắng giúp cậu tránh xa rắc rối.
Nếu thiếu niên đó và người thân, bạn bè, thầy cô giáo, hoặc nơi
cậu ta làm việc xem các chuyến thăm như một sự kỳ thị, khi đó
sự can thiệp có tác dụng như một hình phạt, cho một hành
động chưa hề xảy ra. Và tình hình cũng chẳng tốt hơn bao nhiêu
nếu các chuyến thăm được xem như một nỗ lực để làm giảm
khả năng của các vấn đề tương lai - như một cách để giảm thiểu
