Công nghệ AI sẽ phát triển cùng lúc với nhận diện danh tính. Nymi, một
công ty khởi nghiệp mà chúng tôi làm việc cùng, phát triển một công nghệ
sử dụng máy tự học để xác định các cá nhân thông qua nhịp tim của họ.
Một vài công ty khác đang sử dụng quét võng mạc, khuôn mặt, hoặc nhận
diện dấu vân tay. Bất kể thế nào, một chuỗi những công nghệ có thể xuất
hiện, cho phép chúng ta cá nhân hóa AI và bảo vệ danh tính.
Trong khi các sự dự đoán cá nhân hóa có thể dễ bị thao túng bởi cá nhân,
những dự đoán cá nhân có thể phải đối mặt với những rủi ro liên quan đến
sự thao túng ở cấp độ dân số. Những nhà sinh thái học đã chỉ cho chúng ta
rằng những quần thể đồng nhất có nguy cơ mắc bệnh cao hơn và dễ bị hủy
diệt hơn.
9
Một ví dụ kinh điển là trong nông nghiệp. Nếu tất cả các nông
dân trong cùng một vùng hoặc một quốc gia cùng trồng một loại giống
trong cùng một mùa vụ cụ thể, họ có thể làm tốt trong thời gian ngắn. Bằng
cách áp dụng giống tốt nhất, họ giảm thiểu rủi ro cá nhân. Tuy nhiên, sự
đồng nhất này đã mở ra một cơ hội cho dịch bệnh hoặc thậm chí những
điều kiện khí hậu bất lợi. Nếu tất cả các nông dân trồng cùng một giống, thì
chúng đều dễ bị mắc cùng loại bệnh. Sự độc canh như vậy có thể có lợi cá
nhân nhưng lại gia tăng rủi ro thất bại hệ thống.
Ý tưởng này cũng áp dụng cho công nghệ thông tin nói chung và máy dự
đoán nói riêng. Nếu một hệ thống máy dự đoán chứng minh được bản thân
nó hữu ích, thì bạn có thể áp dụng hệ thống đó ở mọi nơi trong tổ chức của
bạn hoặc thậm chí thế giới. Tất cả những chiếc xe ô tô có thể áp dụng bất
kỳ máy dự đoán nào có vẻ an toàn nhất. Điều này làm giảm rủi ro ở cấp độ
cá nhân và gia tăng sự an toàn; tuy nhiên, nó cũng mở rộng cơ hội cho sự
thất bại lớn, mặc dù cố ý hay không. Nếu tất cả các xe ô tô đều có cùng một
thuật toán dự đoán, kẻ tấn công có thể khai thác thuật toán đó, thao túng dữ
liệu hoặc mô hình bằng cách nào đó và khiến tất cả các xe không hoạt động
cùng một lúc.
