Các máy dự đoán nạp dữ liệu đầu vào. Chúng kết hợp dữ liệu này với một
mô hình để tạo ra sự dự đoán. Vậy nên, giống như câu thành ngữ về máy
tính cũ – “rác vào, rác ra” – máy dự đoán sẽ không hoạt động nếu chúng có
dữ liệu hoặc mô hình kém. Một tin tặc có thể khiến máy dự đoán không
hoạt động bằng cách cho nó dữ liệu rác hoặc thao túng mô hình dự đoán.
Một loại lỗi đó là sập nguồn, nó có vẻ xấu, nhưng ít nhất bạn biết là nó xảy
ra. Khi ai đó thao túng máy dự đoán, bạn có thể không biết (trừ khi cho đến
lúc quá muộn).
Tin tặc có nhiều cách để thao túng hoặc đánh lừa máy dự đoán. Những
chuyên gia nghiên cứu của Đại học Washington cho biết, thuật toán mới
của Google để phát hiện nội dung video có thể bị đánh lừa phân loại sai
video bằng cách chèn những hình ảnh ngẫu nhiên vào những phần trong
một giây.8 Ví dụ, bạn có thể đánh lừa AI phân loại sai video về một vườn
thú bằng cách chèn hình ảnh những chiếc xe trong thời gian ngắn, con
người không thể nhìn thấy những chiếc xe đó, nhưng máy tính thì có thể.
Trong môi trường nơi mà những nhà sản xuất cần biết nội dung phù hợp
với các nhà quảng cáo, điều này cho thấy một lỗ hổng nghiêm trọng.
Máy móc đang tạo ra các dự đoán được dùng cho quá trình đưa ra quyết
định. Các công ty khai thác chúng trong những tình huống thực sự quan
trọng: khi chúng ta mong chờ chúng có một ảnh hưởng thực sự lên các
quyết định. Nếu không có sự tham gia của các quyết định như vậy, thì sao
phải rắc rối đưa ra sự dự đoán ngay từ đầu? Những yếu tố xấu tinh vi trong
trường hợp này có thể hiểu là bằng cách điều chỉnh một sự dự đoán, họ có
thể điều chỉnh quyết định. Ví dụ, một bệnh nhân tiểu đường sử dụng AI để
tối ưu hóa lượng insulin có thể lâm vào nguy kịch nếu AI có dữ liệu không
chính xác về người đó và đưa ra những dự đoán đề xuất giảm lượng insulin
trong khi đáng lẽ cần tăng. Chúng ta có nhiều khả năng sẽ khai thác máy dự
đoán trong những tình huống khó dự đoán. Một yếu tố xấu có thể không
tìm được chính xác dữ liệu cần có để thao túng một sự dự đoán.
