Thuyên làm thơ sai Trương Hiệu đi chiêu dụ người đồng quận là lũ Nguyễn
Văn Khuê, Nguyễn Đức Nhuận, lời rất bội nghịch, thơ nàyữ tay Thuyên
viết (thơ thấy ở truyện Thành), Duyệt tin lời nói của Nghi cầm mật thơ ấy
đem tâu lên vua, vua nói rằng: Sự trạng chưa rõ hãy để đấy, sai trả tờ ấy,
Nghi nhân xui Hiệu giữ lấy tờ ấy làm văn tự nợ, Hiệu đón Thành ở đường
nắm tay áo đòi tiền chuộc tờ ấy, Thành bất đắc dĩ bắt Hiệu cùng Thuyên
đưa vào dinh Quảng Đức tra hỏi, mà tự đến triều đem việc ấy tâu vua.
Nghịch án của cha con Thuyên bắt đầu từ đấy (việc này nói rõ ở truyện
Thành), được một độ cách lâu lại có lính Trung quân trốn tên là Hữu vào
làm môn hạ Duyệt, rồi nó lấy trộm ấn Tả quân ngầm đi, Duyệt cho tiền bắt
được hỏi thì Hữu nói Thành sai nó ngầm vào đánh thuốc độc giết Duyệt,
nhân việc ấy không làm được, nó mới trộm ấn mà đi. Duyệt đem việc ấy
tâu vua, vua nghĩ lời nói của Hữu không có căn cứ gì sai đem giết Hữu, mà
không tra hỏi gì đến Thành. Án Thuyên để lâu mãi không giải quyết được,
Duyệt đốc trị việc ấy, Thuyên bèn thú tội. Tham tri bộ Lại Trần Văn Tuần
bảo rằng: Trung quân với Tả quân là người đồng công cộng thể, Trung
quân ngày nay như thế thì ông ngày sau thế nào? Duyệt nghe lời nói ấy
cũng hơi buồn, thôi không tức giận Thành nữa.
Năm ấy, ác man Quảng Ngãi lại quấy ngoài biên, Trấn thủ là Phan Tiến
Hoàng đánh giặc thất lợi, vua lại sai Duyệt đem quân tiến đánh, quân đến
nơi, người man trốn đi. Duyệt nhân xin đắp lũy dài đem lính 6 cơ đóng thú
gọi là đạo quân Bình Man (1ũy này ngoài lũy trồng tre, dưới đào hào tiếp
giáp phủ Thăng Bình tỉnh Quảng Nam, Nam đến Đông Xanh, giáp phủ
Hoài Nhơn tỉnh Bình Định, địa giới dài 37.497 trượng), Duyệt trước sau 4
lần đi Quảng Ngãi, ác man sợ uy, hễ đến là nó trốn. Duyệt biết rõ tình hình
ngoài biên, tùy nghi sắp đặt nhưng đều tâu xin, vua đều cho thi hành. Rồi
vua cho triệu Duyệt về, dự lễ sách lập Hoàng thái tử.
Năm 16 (1817), án Lê Duy Hoán phát ra, lời nói Hoán có liên quan đến cha
con Thành, Thành tự sát, Thuyên rồi cũng bị giết. Năm ấy, xét công thần
Vọng Các, ấm thụ cho con thừa tự Duyệt là Yên làm Kiêu kỵ đô