chính xác không phải lúc nào cũng có sẵn. Vì vậy vào năm 2012, Bộ Quốc
phòng Hoa Kỳ đã đưa ra một chỉ thị mà nhiều người hiểu là sự bắt buộc giữ
con người trong chuỗi những quyết định có nên tấn công hay không.
9
Tuy
không rõ phải thực hiện hành động đó thường xuyên hay không, nhu cầu
cần sự can thiệp của con người, với bất kỳ lý do nào, cũng sẽ hạn chế
quyền tự chủ của máy dự đoán ngay cả khi chúng có thể tự hoạt động.
10
Ngay cả phần mềm Autopilot của Tesla – cho dù có thể tự lái xe – vẫn đi
kèm với những điều khoản pháp lý và điều kiện yêu cầu người lái xe luôn
đặt tay lên bánh lái. Theo quan điểm của chuyên gia kinh tế, điều này có
hợp lý hay không còn phụ thuộc vào bối cảnh của rủi ro có thể xảy ra. Ví
dụ ,vận hành một chiếc xe tự động trong một mỏ khai thác từ xa hoặc một
tầng của nhà máy có thể khá khác với việc vận hành trên những con đường
công cộng. Điều khiến môi trường “bên trong nhà máy” khác biệt với
“đường công cộng” là khả năng của điều mà các chuyên gia kinh tế gọi là
“ngoại tác” – những điều mà người khác phải gánh chịu, thay vì những
người đưa ra quyết định quan trọng.
Các chuyên gia kinh tế có các giải pháp khác nhau cho vấn đề ngoại tác.
Một giải pháp là phân công trách nhiệm để người đưa ra quyết định chính
tiếp thu những chi phí bên ngoài khác. Nhưng khi nói về máy tự động, việc
nhận dạng bên liên quan rất phức tạp. Máy càng gần với những rủi ro tiềm
ẩn bên ngoài tổ chức (và, đương nhiên, gần với những rủi ro của con người
trong tổ chức), thì khả năng cao là nó sẽ thận trọng và yêu cầu giữ con
người lại trong chuỗi một cách hợp pháp.
Khi con người giỏi hơn trong việc hành động
Câu hỏi: Cái gì màu cam và nghe giống từ con vẹt (parrot)?
Đáp án? Củ cà rốt (carrot).
Trò đùa đó có thú vị không? Hay là trò đùa này: Một cô gái nhỏ hỏi bố:
“Bố? Có phải tất cả những câu chuyện cổ tích đều bắt đầu bằng ‘ngày xửa
