Nhưng khi nghiên cứu cách con người đối xử với nhau, nó kết luận mối nguy hại
lớn nhất của con người chính là con người. Nó tính toán và quyết định rằng cách
duy nhất để bảo vệ con người là chính nó sẽ nắm quyền kiểm soát.
Một ví dụ khác là câu chuyện về vua Midas. Nhà vua xin thần Dionysus ban cho
mình khả năng biến mọi thứ chạm vào thành vàng. Ban đầu, sức mạnh này dường
như là cách hay nhất để đến với giàu có và vinh quang. Nhưng khi vua chạm vào
con gái, cô liền biến thành vàng. Thức ăn, cũng tương tự, không thể ăn được. Nhà
vua thấy mình trở thành nô lệ cho chính món quà mình khẩn cầu được.
H.G. Wells cũng đưa ra tình huống tiến thoái lưỡng nan tương tự trong truyện
ngắn The Man Who Could Work Miracles (Người có thể làm những điều kỳ
diệu). Ngày nọ, một người thư ký bình thường bỗng thấy mình có năng lực lạ.
Mọi thứ anh ta ước đều biến thành sự thật. Anh ta đi nhậu khuya với bạn bè, thực
hiện phép màu suốt dọc đường. Họ muốn đêm kéo dài mãi không dứt, vậy là anh
ta ngây ngô ước Trái Đất ngừng quay. Tức thì, gió nổi lên dữ dội và những dòng
lũ lớn tràn xuống. Cả người, nhà cửa và các thành phố đều bị văng vào không
gian với tốc độ hơn 1.600 km/giờ, bằng vận tốc quay của Trái Đất. Nhận ra mình
đang hủy hoại Trái Đất, anh ta ước điều cuối cùng là mọi thứ trở lại như cũ - như
trước lúc anh ta có quyền năng.
Ở đây, khoa học viễn tưởng dạy chúng ta phải biết thận trọng. Trong quá trình
phát triển AI, ta phải luôn cẩn trọng xem xét mọi hệ quả có thể xảy ra, đặc biệt là
những hệ quả không thể thấy ngay tức thì. Rốt cuộc, khả năng tính toán trước
mọi việc là một phần làm nên con người chúng ta.
MÁY TÍNH LƯỢNG TỬ
Để có được bức tranh đầy đủ hơn về tương lai của ngành robot học, ta hãy xem
xét kỹ hơn về những gì diễn ra bên trong máy tính. Hiện tại, hấu hết máy tính kỹ
thuật số đều hoạt động dựa trên các mạch silicon và tuân thủ định luật Moore,
theo đó sức mạnh của máy tính sẽ tăng gấp đôi sau mỗi 18 tháng. Nhưng các tiến
bộ kỹ thuật trong vài năm vừa qua đã bắt đầu chậm lại so với bước tiến vùn vụt
của các thập niên trước và một số người đã tiên đoán về kịch bản cực đoan, khi
