theo Turing, có thể coi máy tính là thông minh. Khả năng tạo ra cá tính nhờ
từ ngữ cho thấy sự xuất hiện của một chiếc máy tư duy thật sự.
Trò chuyện với ELIZA là một thay đổi so với thí nghiệm Turing. Tuy nhiên
Weizenbaum ngạc nhiên khi biết người “trò chuyện” với chương trình của
ông không quan tâm nhiều tới việc đưa ra đánh giá lý trí, khách quan về
nhân dạng của ELIZA. Họ muốn tin rằng ELIZA là một cỗ máy tư duy. Họ
muốn gắn thêm cho ELIZA phẩmchất của con người - mặc dù họ nhận thức
rõ rằng ELIZA không hơn một chương trình máy tính tuân theo những chỉ
dẫn đơn giản và khá hiển nhiên. Hóa ra thí nghiệm Turing giống một bài
kiểm tra cách nghĩ của con người về cách máy móc tư duy. Trong bài báo
trên tờ Journal of Nervous and Mental Disease, ba chuyên gia tâm thần học
không kết luận rằng ELIZA có thể thay thế một bác sỹ chuyên khoa thật sự.
Họ tiếp tục lập luận lòng vòng rằng một chuyên gia tâm thần học về bản
chất là một kiểu máy tính. “Có thể xem bác sỹ chuyên khoa con người như
chiếc máy xử lý thông tin và đưa ra quyết định bằng một loạt các quy tắc có
liên hệ mật thiết với các mục tiêu ngắn hạn và dài hạn”.
[399]
Tuy nhiên dù
vụng về đến đâu thì khi mô phỏng con người, ELIZA cũng khiến mọi người
nghĩ họ chính là phiên bản mô phỏng của máy tính.
Phản ứng với phần mềm khiến Weizenbaum lo lắng. Nó mang tới một câu
hỏi mà ông chưa từng đặt ra cho bản thân nhưng lại khiến ông phải suy nghĩ
trong nhiều năm liền. “Điều gì ở máy tính khiến quan niệm con người giống
máy móc trở nên đáng tin hơn bao giờ hết?”.
[400]
sau sự ra mắt của ELIZA, ông đưa ra câu trả lời trong cuốn sách Computer
Power and Human Reason (Sức mạnh của máy tính và Lý trí của con
người). Ông cho rằng để hiểu được ảnh hưởng của máy tính, bạn cần nhìn
máy móc trong bối cảnh các công nghệ trí tuệ trước đây của nhân loại, một
chuỗi dài các công cụ như bản đồ và đồng hồ đã chuyển hóa tự nhiên và
thay đổi “quan niệm về thực tế của con người”. Những công nghệ này trở
thành một phần “giúp con người xây dựng thế giới”. Một khi đã được chấp
nhận thì chúng không bao giờ bị bỏ rơi, ít nhất không thể không khiến xã
