Tôi thường liên tưởng đến một tên cướp nhà băng có kinh nghiệm. Hắn có thể lên
kế hoạch chu đáo cho vụ cướp sắp tới và qua mặt được cảnh sát bởi hắn đã có cả
một kho ký ức từ các vụ cướp trước đó và hiểu rõ tác động của từng quyết định
đưa ra. Trái lại, để thực hiện một việc đơn giản như mang súng vào ngân hàng để
cướp, máy tính sẽ phải phân tích chuỗi phức tạp gồm hàng nghìn sự kiện phụ,
mỗi sự kiện lại cần hàng triệu dòng mã lệnh. Nó không nắm được bản chất thực
của nhân quả.
Dĩ nhiên, vẫn có khả năng người máy biết tự nhận thức và mang những mục tiêu
nguy hiểm, nhưng bạn sẽ thấy điều đó rất khó xảy ra, đặc biệt là trong tương lai
gần. Nhập vào một người máy tất cả các phương trình mà nó cần để tiêu diệt loài
người là việc vô cùng khó thực hiện. Vấn đề robot giết người có thể được loại bỏ
bằng cách ngăn chặn bất kỳ ai lập trình cho chúng những mục tiêu gây nguy hại
cho con người. Khi robot tự nhận thức xuất hiện, ta phải cài thêm chip an toàn để
chúng sẽ bị ngắt nếu có ý định giết người. Ta có thể yên tâm khi biết mình sẽ
không sớm bị nhốt vào sở thú, trong khi các robot hậu duệ ném lạc qua chấn song
và bắt ta nhảy nhót cho chúng xem.
Như vậy nghĩa là khi thăm dò các hành tinh và những vì sao, ta có thể dùng robot
xây dựng các hạ tầng cần thiết để làm khu định cư và thành phố trên các vệ tinh
hay hành tinh, nhưng cẩn thận trọng để mục tiêu của chúng khớp với mục tiêu
của ta và phải có cơ chế an toàn trong trường hợp chúng biến thành nguy hiểm.
Tuy sẽ có những mối nguy khi robot biết tự nhận thức, nhưng chuyện đó sẽ
không xảy ra cho tới cuối thế kỷ này hay đầu thế kỷ tới, do vậy ta vẫn còn thời
gian để chuẩn bị.
VÌ SAO ROBOT MẤT KIỂM SOÁT
Tuy nhiên, vẫn có một trường hợp khiến các chuyên gia AI mất ngủ. Người máy
có thể được nhận những mệnh lệnh mơ hồ hoặc không rõ nghĩa và nếu thực hiện,
nó có thể gây ra thảm họa.
Trong phim I, Robot (Tôi, người máy), một máy tính chủ tên là VIKI giữ vai trò
kiểm soát cơ sở hạ tầng thành phố. VIKI được ra lệnh phải bảo vệ loài người.
