Tháng 3 năm 1933, tỉnh Nhiệt Hà (nay được chia và sáp nhập vào 3 tỉnh
Hà Bắc, Nội Mông, Liêu Ninh) rơi vào tay địch, ông và Tưởng Giới Thạch
đều bị dư luận chỉ trích. Ông đã phải chịu tội thay cho Tưởng Giới Thạch,
bị bãi miễn các chức vụ. Sau đó, ông sang Italia tiến hành khảo sát.
Tháng 2 năm 1934, ông trở về nước nhậm chức phó tổng tư lệnh "tổng
quân bao vây quét sạch" 3 tỉnh Ngạc - Dự - Hoản (Hồ Bắc - Hà Nam - An
Huy), tiến hành cuộc "bao vây truy quét sào huyệt" Hồng quân, nhưng liên
tục bị thất bại. Đứng trước tình thế phong trào quân dân kháng Nhật phát
triển lớn mạnh như vũ bão, sau nhiều lần tham gia "diệt cộng" rồi đánh về
quê đều thất bại, ông đã dần dần nhận ra được sai lầm trong chính sách
"đánh ngoại trước tiên phải yên nội", đồng thời ông cũng nhận thức được
rằng chỉ còn mỗi một lối thoát duy nhất là liên minh với cộng sản kháng
Nhật. Tháng 4 năm 1936, ông đã có cuộc gặp với đại diện Cộng sản Đảng
là Chu Ân Lai tại Phu Thi (nay là Diên An - Thiểm Tây), hai bên đã nhất trí
chủ trương chấm dứt nội chiến, cùng nhau kháng Nhật.
Ngày 12 tháng 12 năm 1936, Trương Học Lương và Dương Hổ Thành đã
cùng nhau tiến hành cuộc can gián quân sự đối với Tưởng Giới Thạch bằng
cách phát động chính biến Tây An chấn động trong và ngoài nước, bắt giam
Tưởng Giới Thạch và những nhân vật quân sự quan trọng của Tưởng Giới
Thạch. Sau đó, đưa ra toàn quốc chủ trương 8 điều kháng Nhật cứu nước,
đồng thời gửi điện đến trung ương Đảng Cộng sản yêu cầu cử đoàn đại diện
đến Tây An để cùng nhau bàn kế hoạch kháng Nhật cứu nước.
Ngày 17 tháng 12 năm 1936, phái đoàn đại diện Đảng Cộng sản do Chu
Ân Lai dẫn đầu đã đến Tây An cùng với Trương Học Lương và Dương Hổ
Thành giải quyết chính biến Tây An một cách hoà bình, đồng thời bắt đầu
tiến hành đàm phán với đại diện của Tưởng Giới Thạch là Tống Mỹ Linh
và Tống Tử Văn. Vào ngày 24 tháng 12, hai bên đã đạt được hiệp định 6
mục, bao gồm: Cải tổ chính quyền Nam Kinh; dung nạp các đảng, phái
cùng tham gia kháng Nhật cứu nước; chấm dứt chính sách "diệt cộng”; liên
minh với Hồng quân kháng Nhật; từ đó tạo cơ sở cho lần hợp tác thứ hai
giữa Cộng sản Đảng và Quốc dân Đảng, tiến tới toàn quốc kháng chiến.