Năm Đinh Dậu, Tây tặc vào cướp, vua đi ra Long Xuyên, Khiêm đi theo
không kịp, lẻn ẩn vào thôn xóm.
Năm Mậu Tuất, Thế Tổ Cao Hoàng đế đánh lấy lại được Gia Định, coi giữ
việc nước. Khiêm lên yết kiến, được thăng đội trưởng.
Năm Quý Sửu, trận ở Đông Tuyên quân ta bị thua; Khiêm bị giặc bắt được.
Đến khi vua từ nước Xiêm về. Khiêm lén trốn theo Lê Văn Duyệt đến hành
tại, lại theo sang Xiêm. Đến khi đánh lấy lại được Gia Định, được thăng
Cai đội vệ Túc trực.
Năm Giáp Dần, thăng Phó vệ úy Túc trực, theo Đông cung Cảnh trấn Diên
Khánh.
Năm Đinh Tỵ, Khiêm theo đi đánh Quảng Nam, vào cửa biển Đà Nẵng,
Khiêm đem quân lên bộ, ban đêm nín lặng đến sát lũy giặc để đánh, lại
cùng người Tây là Ô Ly Bi làm kế hỏa công đốt thuyền giặc.
Năm Kỷ Mùi, Khiêm theo vua đi đánh Quy Nhơn, Khiêm đem vài chục
chiếc thuyền quân đến cửa biển Mỹ Ý đánh phá quân giặc, đuổi đến Sa Kỳ
rồi về.
Năm Canh Thân, theo Nguyễn Văn Trương đón đánh Đô đốc giặc Lê Văn
Hưng ở cửa biển Đề Di, lấy được thuyền lương, khí giới vô số.
Năm Tân Dậu, theo Lê Văn Duyệt đốt phá thuyền giặc ở Thi Nại. Mùa hạ
năm ấy, theo vua đi đánh lấy lại được Phú Xuân, được Đô thống chế vệ Túc
trực quân Thần sách.
Gia Long năm thứ nhất, vua đem cả quân đi đánh ngoài Bắc, Khiêm cùng
tham tri Nguyễn Đăng Hựu, theo Quốc thúc công là Tôn Thất Thăng ở lại
giữ kinh thành.
Mùa thu năm ấy, phụng chiếu sửa nhà Thái miếu.