Vũ Văn Ung còn vô cùng coi trọng việc huấn luyện quân sự của quân đội,
có khi tập hợp tướng lĩnh các cấp dạy phép đánh trận; có lúc thân dẫn sáu
quân ra ngoại thành tập võ.
Ông tự gắng làm, thường cùng tướng sĩ cùng đi bộ lên núi, vất vả luyện
tập, có sức cổ vũ rất lớn nhiệt tình luyện tập của tướng sĩ. Vũ Văn Ung còn
chú trọng chỉnh đốn quân kỷ, quy định tướng sĩ thi hành quân tác chiến
không được làm tổn hại tài sản của trăm họ, không được áp bức trăm họ, kẻ
nào vi phạm bị chém đầu. Vì vậy quân đội Bắc Chu được trăm họ hoan
nghênh. Đồng thời với việc quốc lực, quân lực của Bắc Chu ngày một tăng
cường thì Bắc Tề lại ngày càng suy yếu. Vũ Thành Đế Cao Thầm, Bắc Tề
cùng lên nối ngôi vua một năm với Vũ Văn Ung, chẳng để ý việc triều
chính, trọng dụng gian thần, suốt ngày rượu chè dâm loạn, vơ vét của cải
của trăm họ. Cao Vĩ con trai Cao Thầm (sau này là Tề Hậu Chủ) sau khi
nối ngôi vua, càng u mê tàn bạo, sinh hoạt thối nát, giết người như ngoé.
Dân Bắc Tề nghèo đói, mâu thuẫn giai cấp rất gay gắt. Tháng bảy Kiến
Đức năm thứ tư (năm 575) Vũ Văn Ung cho rằng điều kiện bên trong bên
ngoài để diệt Bắc Tề đã chín muồi, liền thân dẫn 18 vạn đại quân, chia làm
6 đường tiến thẳng vào Bắc Tề, chiếm liền hơn 30 thành, nhưng do ông
nhiễm bệnh ở Hà Âm (nơi trị liệu nay là Đông Bắc Lạc Dương Hà Nam)
nên tháng 9 phải thu quân về triều. Tháng 10 năm sau, một lần nữa ông lại
dẫn 14 vạn quân đánh Bắc Tề, chiếm được Bình Dương (nay là Lâm Phần -
Sơn Tây), đánh tan quân chủ lực Bắc Tề, sau đó lại chiếm được Tân
Dương, Bắc đô của Bắc Tề (nay là Thái Nguyên Sơn Tây). Tề Hậu Chủ
Cao Vỹ chạy trốn đến Nghiệp Thành (nay là trong thành phố An Dương -
Hà Nam) truyền ngôi vua cho con trai là Cao Hằng (ấu chúa) mới 8 tuổi.
Tháng giêng Kiến Đức năm thứ sáu (năm 577) quân Bắc Chu đánh chiếm
Nghiệp Thành, trên đường chạy trốn đến châu Thanh, Cao Vỹ bị bắt sống.
Bắc Tề bị diệt. Sau đó Vũ Văn Ung cử đại tướng Vương Quỹ đưa quân
Nam hạ, chiếm được vùng Hoài Nam bị nhà Trần chiếm lĩnh, làm cho
cương vực của Bắc Chu mở rộng đến hạ lưu Trường Giang. Bắc Chu chưa
bao giờ rộng lớn như vậy.
