hội rơi vào “nhầm lẫn rất lớn và có thể là hỗn loạn hoàn toàn”. Theo ông,
một công nghệ trí tuệ “trở thành một phần không thể thiếu trong bất kỳ cấu
trúc nào khi nó hợp nhất hoàn toàn với cấu trúc đó, gắn bó chặt chẽ với
nhiều cấu trúc nhỏ bên dưới tới mức không thể loại bỏ nó mà không làm
hỏng toàn bộ cấu trúc”.
Thực tế đó, gần như là “phép lặp thừa”, giúp lý giải sự phụ thuộc ngày càng
lớn, và hầu như không thể lay chuyển, của chúng ta vào máy tính kỹ thuật
số sau khi chúng được phát minh vào cuối Thế chiến thứ II. Weizenbaum
biện luận rằng: “Máy móc không phải điều kiện tiên quyết cho sự sống còn
của xã hội hiện đại thời kỳ sau chiến tranh và sau đó nữa. Sự chấp nhận
nhiệt tình của các thành phần “tiến bộ” nhất của chính phủ, doanh nghiệp và
ngành công nghiệp Mỹ khiến máy móc trở thành một tài nguyên thiết yếu
cho sự sống còn của xã hội mà máy tính là công cụ hình thành nên dạng
thức đó”. Từ kinh nghiệm với mạng phân chia thời gian của mình, ông hiểu
rằng vai trò của máy tính sẽ vươn xa hơn sự tự động hóa các quy trình công
nghệ và chính phủ. Máy tính sẽ làm trung gian cho những hoạt động đặc
trung trong cuộc sống thường nhật của con người - cách học, cách tư duy và
cách giao tiếp, ông cảnh báo rằng điều mà lịch sử các công nghệ trí tuệ
muốn nói với chúng ta là “việc sử dụng máy tính trong một số hoạt động
phức tạp của con người có thể cấu thành một cam kết không thể đảo
ngược”. Cuộc sống xã hội và trí tuệ của chúng ta, cũng giống các thói quen
công nghiệp, sẽ phản ánh dạng thức mà máy tính áp đặt lên chúng.
[401]
Weizenbaum tin rằng điều mang tính người nhiều nhất là điều ít có thể tính
toán nhất của chúng ta - các kết nối giữa tâm trí và thể xác, những trải
nghiệm hình thành nên trí nhớ và tư duy, khả năng cảm nhận và đồng cảm.
Nguy hiểm mà chúng ta đang phải đối mặt khi ngày càng thân thiết với máy
tính hơn - khi chúng ta trải nghiệm phần lớn cuộc sống thông qua những ký
hiệu kỳ quặc xuất hiện trên màn hình -là chúng ta sẽ bắt đầu mất đi tính
người của mình, hy sinh những phẩm chất giúp phân biệt con người với
máy tính. Theo Weizenbaum, điều duy nhất để tránh khỏi số phận đó là phải
