phố bên ngoài vũ trụ, mà còn giúp làm giàu cho xã hội khi khiến mọi thứ trở nên
hiệu quả hơn, tốt hơn và rẻ hơn thông qua việc tạo ra những công việc mới xuất
phát từ ngành công nghiệp robot. Có thể một ngày nào đó, ngành này sẽ còn phát
triển hơn cả công nghiệp ô tô hiện tại. Nhưng về lâu dài, Musk đã đúng khi chỉ ra
nguy cơ lớn hơn. Câu hỏi chính yếu của cuộc tranh luận này là: Đến khi nào
robot sẽ phát triển tới mức độ nguy hiểm? Cá nhân tôi nghĩ bước ngoặt sẽ xảy ra
chính vào lúc chúng biết tự nhận thức.
Hiện tại, robot không biết chúng là robot. Nhưng tới một ngày, có thể chúng sẽ tự
tạo ra mục tiêu, thay vì chấp hành những mục tiêu do các nhà lập trình lựa chọn.
Rồi chúng sẽ nhận ra chương trình của chúng khác với chương trình của con
người. Nếu lợi ích của hai bên khác biệt, chúng có thể trở thành mối đe dọa. Khi
nào chuyện đó sẽ xảy ra? Không ai biết. Hiện tại, robot có trí thông minh tương
đương một con bọ. Nhưng có thể đến cuối thế kỷ này, chúng sẽ biết tự nhận thức.
Khi đó chúng ta cũng đang có các khu định cư phát triển nhanh chóng trên Sao
Hỏa. Bởi vậy, việc giải quyết vấn đề này ngay từ bây giờ là rất quan trọng, thay
vì để đến khi sự sống còn của con người trên Hành tinh đỏ phụ thuộc vào chúng.
Để hiểu thêm về sự cấp bách của tình huống khẩn này, hãy thử xem xét những
kịch bản tốt nhất và xấu nhất sau đây.
KỊCH BẢN TỐT NHẤT VÀ XẤU NHẤT
Người đề xuất kịch bản tốt nhất là nhà phát minh và tác giả của nhiều cuốn sách
bán chạy, Ray Kurzweil. Mỗi lần tôi phỏng vấn Kurzweil, ông đều đưa ra một
bức tranh mô tả viễn cảnh tương lai rất rõ ràng và hấp dẫn nhưng đầy tranh cãi.
Ông tin rằng năm 2045, ta sẽ đạt đến “điểm kỳ dị”, hay thời điểm robot bắt kịp
hoặc vượt qua trí thông minh của con người. Thuật ngữ này xuất phát từ khái
niệm điểm kỳ dị không-thời gian trong vật lý, tức những vùng có trọng lực vô
hạn, chẳng hạn như lỗ đen. Nhà toán học John von Neumann đưa thuật ngữ này
vào ngành khoa học máy tính khi viết rằng cuộc cách mạng máy tính sẽ tạo nên
“tiến bộ nhanh và thay đổi chưa từng thấy trong lối sống của loài người, như thể
chúng ta đang tiến gần đến một điểm kỳ dị thiết yếu… Vượt khỏi điểm kỳ dị đó,
cuộc sống mà ta biết sẽ không thể tiếp tục.” Theo Kurzweil, khi điểm kỳ dị đến,
