Triều đình sắp xếp và chỉnh đốn lại quân ngũ, lập quân trợ dịch, về
sau đổi thành quân bồi vệ. Tuyển chọn trong hàng ngũ quan lại những
người có khả năng chỉ huy, biết rèn tập võ nghệ và tinh thông thao lược
dùng làm tướng. Tuy vẫn đặt các quan chức theo chế độ nhà Trần, song do
hoàn cảnh lúc đó, Hồ Quý Ly buộc phải loại bỏ các lực lượng chống đối.
Ngay từ những năm cuối triều Trần, khi đã được nắm giữ những chức vụ
quan trọng. Hồ Quý Ly đã từng bước thực hiện cải cách quân sự, xây dựng
đội ngũ võ quan, tướng lĩnh chuẩn bị cho triều đại mới. Các tướng trung
thành với sự nghiệp nhà Trần có tư tưởng chống đối như tướng chỉ huy
quân Thiết Lâm là Nguyễn Khoái và Nguyễn Vân Nhi, tướng chỉ huy quân
Thiết Giang là Nguyễn Hà và Lê Lạc, tướng quân Thiết Sang Nguyễn Bát
Sách đều bị giết. Thượng tướng Trần Khát Chân, tướng quản quân Hữu
Thánh Dục cùng hàng trăm người bị hành quyết sau sự kiện Hội thề Đốn
Sơn (1399). Các tướng trung thành với sự nghiệp họ Hồ được trao quyền
chỉ huy, như Khả Tuân và Chương Dương được cử coi quân Thần Dực và
Thần Dũng; Nguyễn Đa Phương và Hoàng Phụng Thế chỉ huy quân Thánh
Dực; Phạm Lại quản lệnh cấm vệ đô, v.v..Bấy giờ nhà Hồ đặt chức tả, hữu
tướng quốc. Trong quân đội có các đại tướng, đô tướng thống lĩnh các đại
quân, trung quân, vệ quân, v.v.. Một số tướng được cử quản lãnh các quân
Thần Sách, Long Tiệp, Thiết Giáp, Thiết Liêm, đặt các chức như đô đốc, đô
thống, tổng quản trông coi các đơn vị...Trong đợt chinh phạt Chiêm Thành
năm 1403, Phạm Nguyên Khôi làm Đại tướng thủy quân chỉ huy các vệ
Thiên Ngưu, Phụng Thần và Long Tiệp; Đỗ Mãn làm Đô tướng bộ quân,
coi quân Thiên Cương, Chương Thánh và Củng Thần. Trước nguy cơ giặc
Bắc xâm lược, em Hồ Quý Ly là Hồ Quý Tỳ giữ chức Hữu tướng quốc, con
trai là Hồ Nguyên Trừng giữ chức Tả tướng quốc. Năm 1405, Tả tướng
quốc Hồ Nguyên Trừng và tướng quân Hồ Đỗ được trao quyền tiết chế, chỉ
huy hai đạo quân lớn nhất của nhà Hồ chuẩn bị chống lại cuộc xâm lược
của nhà Minh.
Như vậy, quan điểm, tư tưởng lựa chọn tướng lĩnh thời Hồ vẫn như
các triều Lý, Trần trước đây là căn cứ vào tiêu chuẩn đức, tài. Đức lúc đó,