Sự khác biệt quan trọng giữa máy tự học và phân tích hồi quy là ở cách
thức các kỹ thuật mới được phát triển. Phát minh một phương pháp máy tự
học mới bao gồm việc chứng minh rằng nó hoạt động tốt hơn trong thực tế.
Ngược lại, phát minh một phương pháp hồi quy mới yêu cầu phải chứng
minh nó hoạt động theo lý thuyết đầu tiên. Việc tập trung vào hoạt động
trong thực tế giúp những nhà sáng chế máy tự học có không gian để thử
nghiệm, ngay cả khi phương pháp của họ tạo ra những ước tính chính xác ở
mức trung bình hoặc mang tính thiên vị. Sự tự do trong thực nghiệm này đã
thúc đẩy nhanh chóng sự phát triển bằng cách tận dụng sự phong phú dữ
liệu và máy tính xử lý nhanh.
Trong suốt cuối những năm 1990 và đầu những năm 2000, những thí
nghiệm với máy tự học để dự đoán tỉ lệ churn của khách hàng đã có những
thành công nhất định. Những phương pháp của máy tự học đang được cải
thiện, nhưng sự hồi quy nhìn chung vẫn hoạt động tốt hơn. Dữ liệu không
đủ phong phú và máy tính không đủ tốt để tận dụng lợi thế mà máy tự học
có thể làm. Ví dụ, Trung tâm Teradata của Đại học Duke đã tổ chức giải
đấu khoa học dữ liệu vào năm 2004 để dự đoán tỉ lệ churn. Những giải đấu
như vậy khi đó không phổ biến. Ai cũng có thể dự thi và những bài dự thi
chiến thắng sẽ nhận được giải thưởng tiền mặt. Những bài dự thi chiến
thắng sử dụng mô hình hồi quy. Một vài phương pháp máy tự học đã được
thể hiện một cách tương đối tốt, nhưng những phương pháp mạng lưới nơ-
ron mà sau này sẽ thúc đẩy cách mạng AI đã không thể hiện tốt. Cho đến
năm 2016, mọi thứ đã thay đổi. Những mô hình tỉ lệ churn tốt nhất sử dụng
máy tự học và những mô hình học sâu (mạng lưới nơ-ron) nhìn chung thể
hiện vượt trội hơn những mô hình khác.
Điều gì đã thay đổi? Đầu tiên, dữ liệu và máy tính cuối cùng đã đủ tốt để
cho phép máy tự học chiếm ưu thế. Vào những năm 1990, thật khó để có
thể xây dựng bộ dữ liệu đủ lớn. Ví dụ, một nghiên cứu kinh điển về dự
đoán tỉ lệ churn sử dụng 650 khách hàng và ít hơn 30 biến. Cho đến năm
2004, bộ xử lý và lưu trữ máy tính đã được cải thiện. Trong giải đấu Duke,
