Năm thứ 19 (1830) được sai đi liêm phóng ở Bắc Kỳ rồi điều trần tâu lên
13 khoản, vua khen.
Thiệu Trị năm đầu (1841) đổi làm Biện lý Bộ Hình rồi thăng sang Hồng lô
tự khanh, sung Sử quán toản tu, sửa soạn bộ "Thực lục tiền biên", bắt đầu
từ quốc triều mới gây dựng, nhưng việc từ năm Đinh Mùi (1787) trở về
trước ghi chép còn thiếu; mà từ Mậu Thân (1788) đến Tân Dậu (1801) còn
chút bản thảo cũ ghi chép rất khó. Khải cùng với đồng quán sưu tập lại có
thứ tự đâu ra đấy. Rồi ông đổi sang Thị độc học sĩ sung biện Nội các sự vụ,
thăng Hữu thị lang Bộ Hình sung toản tu, được vài tháng lại vào các. Khải
được ở gần nên văn học được vua biết đến. Vua thường hỏi về ý thơ nổi
những câu tam tứ ngũ lục thất bát cửu và các thể cách có từng xét rõ không;
về Hà Thanh có 2 thuyết, một thuyết nói nghìn năm thì trong, một thuyết
nói năm trăm năm thì trong, thuyết nào là phải; cổ nhân ghi chép từng ngày
phải lấy can chi để phối hợp, hoặc chỉ cử lên một can hay một chi có rõ văn
ở đâu không? Trải năm có 12 ngày trực bắt đầu từ đời nào? Khải đối đáp
đều được như ý nhà vua.
Vua thường buổi tối ra ngự ở Đông các lấy tập thơ vua làm ra, nhan đề là
"tài thành phụ tướng, tiên thiên hậu thiên" sai Khải chú giải; lại sai tập lại 9
thiên "Hoàng huấn thi" và "Chỉ thiện đường hội tập". Vua thường gọi ông
là "Hồ tu thượng thư" (Thượng thư râu ria), ngày được lựa chọn để ý đến.
Tự Đức năm đầu (1848) vua đương lúc cung kính im lặng, Khải phần nhiều
làm tờ khải trình bày tâu lên, vua cho 100 lạng bạc và bảo: "Biết người
nghèo nên giúp người để phụng dưỡng 2 thân". Khải có tài khí hay kiêu
thượng, vua cũng thường răn bảo, gặp khi có tiệc rượu, cùng với đồng tọa
nói năng xấc xược, bị đài thần nghị luận tham hạc, bảo là câu nói không có
đạo lý. Vua giao Bộ Lại bàn xử, phải chuyển làm Hàm lâm viện thừa chỉ,
nhân do vin có 2 thân tuổi già xin về chung dưỡng. Vua cho. Khải đã về
làng sớm tối vui vầy với cha mẹ, lại vui bảo bè bạn học trò, dẫu lúc về vẫn
được các giới bấy giờ tôn trọng, quá nữa có người tới tận nhà đem việc cơ
