Bởi vì theo như cách nói của ba định luật người máy, một, người máy
không được làm tổn thương con người, cũng không được phép nhìn thấy
con người bị thương mà không ra tay tương trợ, hai là, người máy phải tuân
theo tất cả mệnh lệnh của con người, nhưng không được vi phạm định luật
một, ba là người máy nên tự bảo vệ sự an toàn của bản thân, nhưng không
được vi phạm định luật một và hai.
Chương trình do ba định luật này sản sinh ra có khuyết điểm cực lớn,
nếu chỉ là người máy không phải trí tuệ nhân tạo mà chỉ là chương trình 0
và 1 đơn giản, nói không chừng còn có thể kiểm soát được hành vi của
chúng, nhưng mà một người máy trí tuệ nhân tạo sở hữu trí tuệ tư duy như
người bình thường, như vậy thì mọi thứ trở nên đơn giản rồi, chỉ cần bắt
nhốt toàn bộ loài người lại, ví dụ như giam lỏng ở một nơi như phòng bệnh
thần kinh, mỗi ngày chỉ cho uống nước và ăn thức ăn, bởi vì khi di chuyển
bên ngoài thì loài người đều có thể xảy ra tai nạn, nhưng lại không được
phép nhìn thấy con người bị thương mà không ra tay tương trợ, vậy thì
cách tốt nhất chính là nhốt con người ở trong một môi trường an toàn hoàn
toàn kín mít, đó chính là sự suy luận logic đơn giản, cả ba định luật đột
nhiên trở thành vật trang trí!
Cho nên trí tuệ nhân tạo chính là con dao hai lưỡi!
Cùng với việc tàu Hi Vọng sỡ hữu một số lượng lớn công nghệ của
thương nhân ngoài hành tinh, đồng thời có được phương pháp nghiên cứu
và chế tạo trí tuệ nhân tạo, chỉ cần cho tàu Hi Vọng của loài người một
khoảng thời gian, như vậy có thể chế tạo ra trí tuệ nhân tạo sơ cấp, cứ như
vậy, sự gia tăng năng suất sản xuất do cuộc cách mạng công nghiệp lần thứ
tư mang lại sẽ có thể trở thành hiện thực, và các sản phẩm công nghệ tương
tự như chiến cơ vũ trụ 011, tới lúc đó có thể sản xuất với số lượng lớn.
Nhưng mà tương tự như vậy, khi có được một lượng lớn tài liệu và
thông tin, liên quan đến ngôn luận về trí tuệ nhân tạo, những gì trông thấy
thật sự là vô cùng kinh hãi, khoan nói chuyện khác, chỉ riêng các nền văn
