Cuối cùng, Johnson quyết định đấu tranh cho hòa bình giữa Anh và các
thuộc địa, chống đối phe Whig cực đoan. Sau khi giữ chức thẩm phán tại
Tòa án Tối cao thuộc địa Connecticut (1772-1774) và tới năm 1774, dù
được bầu chọn vào Đại hội các thuộc địa lần thứ nhất, nhưng ông đã từ chối
tham dự. Khi các xung đột bùng nổ, ông đóng góp nỗ lực để gìn giữ hòa
bình. Tháng Tư năm 1775, tiểu bang Connecticut giao cho ông và một đại
sứ khác nhiệm vụ thảo luận với Tướng Thomas Gage của nước Anh về việc
chấm dứt đổ máu. Nhưng thời điểm đó không thích hợp cho những cuộc
đàm phán, nên họ đã thất bại. Sau đó Johnson đánh mất sự ủng hộ của
những người yêu nước cực đoan, khi họ giành được quyền lực trong chính
quyền Connecticut. Mặc dù năm 1779, ông bị bắt giữ về tội danh liên lạc
với kẻ thù, song ông đã chứng minh sự vô tội của mình và được trả tự do.
Khi những mối hận thù chiến tranh qua đi, ông trở lại với sự nghiệp hoạt
động chính trị của mình. Tại Quốc hội Hợp bang (1785-1787), ông là một
trong số những người có ảnh hưởng và nổi tiếng nhất. Sau khi tới Hội nghị
Lập hiến ngày 2 tháng Sáu, ông đóng vai trò quan trọng và không vắng mặt
một buổi họp nào. Ông tán thành Thỏa hiệp lớn, thỏa hiệp do chính tiểu
bang Connecticut của ông đề xướng, và là Chủ tịch Ủy ban văn phong, soạn
thảo ra văn kiện cuối cùng. Ông cũng đóng góp vào việc phê chuẩn Hiến
pháp mới tại Connecticut.
Johnson tham dự chính quyền mới, khi là thành viên của Thượng viện Mỹ,
nơi ông góp phần xây dựng Ðạo luật Tư pháp vào năm 1789. Năm 1791,
ông xin từ chức vì muốn cống hiến toàn bộ khả năng cho chức vụ Hiệu
trưởng trường Đại học Columbia (1787-1800), tại thành phố New York. Tại
đây, ông có công lớn trong việc thiết lập các nền tảng vững chắc cho trường
và tuyển chọn những giáo viên giỏi.
Johnson nghỉ hưu năm 1800. Một vài năm sau, người vợ của ông qua đời và
cùng năm đó ông đã cưới Mary Brewster Beach, một người bà con của
người vợ trước và sống tại quê hương Stratford, nơi chôn nhau cắt rốn của
