Trong chiến tranh vệ quốc, Abacumov được tặng hai Huân chương
Suvorov (trong đó một Huân chương do tham gia di dời một loạt dân tộc ít
người khỏi Bắc Kavkaz năm 1944), Huân chương Kutuzov và Huân
chương Cờ Đỏ. Tháng bảy năm 1945 ông được phong Trung tướng, một
năm sau được đề bạt làm Bộ trưởng Bộ An ninh quốc gia.
Người ta cho rằng Stalin đặt Abacumov lên làm Bộ trưởng An ninh quốc
gia là để tạo đối trọng và giảm bớt quyền lực của Beria trong việc kiểm soát
các bộ sức mạnh. Trên thực tế đến lúc đó Beria đã không còn kiểm soát
toàn bộ các bộ sức mạnh nữa, và từ cuối năm 1945 thậm chí thôi không làm
Bộ trưởng Bộ Nội vụ nữa.
Beria coi thường Abacumov. Abacumov cũng không ưa Beria, nhưng sợ
Beria. Hơn nữa Stalin toàn quyền và đủ mạnh để không cần dùng đến đối
trọng. Ông dùng Abacumov vì Abacumov đã tỏ ra đắc lực trong công tác
với tù binh.
Thời gian cuối chiến tranh, Tổng cục phản gián dành nhiều công sức
theo dõi mảng các chiến sĩ Hồng quân bị bắt làm tù binh và các công dân
Liên Xô đã sang Đức một cách tự ý hoặc bị bắt buộc. Tất cả những người
này khi trở về nước đều phải qua trại cải tạo để sàng lọc.
Các trại này chỉ đóng cửa sau khi Stalin chết.
Năm 1946, khi Abacumov thay Merculov giữ chức Bộ trưởng Bộ An
ninh quốc gia, Tổng cục phản gián nhập vào Bộ thành Tổng cục 3. Nguyên
Phó Chủ tịch KGB F.D.Bobkov kể rằng Bộ An ninh quốc gia đón thủ
trưởng mới một cách hồ hởi, biết ông là một cán bộ chuyên nghiệp, từ lính
đi lên, lại có quan hệ gần gũi với Stalin. Bộ trưởng mới có thể bất chợt rẽ
vào xem anh em cán bộ làm việc thế nào, am hiểu tường tận từng công
đoạn việc phải tiến hành ra sao và có thể hướng dẫn, chỉ bảo anh em. Trong
quan hệ với cán bộ, ông thể hiện là một con người rất quần chúng, dễ gần.
Tháng tư năm 1946, trên cơ sở những hồ sơ về trách nhiệm trong việc
xuất xưởng những máy bay chất lượng không tốt, Abacumov đã ký lệnh bắt
Bộ trưởng Bộ Hàng không A.Shakhurin, tư lệnh không quân, Nguyên soái
không quân A.A.Novikov và một số cán bộ khác. Việc này đương nhiên
ảnh hưởng đến vị trí của Malenkov là người quản khối này. Bộ Chính trị