học New Jersey năm 1771, (nay là trường Princeton). Tại đây, ông đặc biệt
quan tâm đến lĩnh vực chính quyền và luật pháp, nhưng coi mục sư cũng là
một nghề, nên ông ở lại học thêm một năm về thần học.
Trở lại Montpelier, vẫn chưa quyết định về nghề nghiệp, nhưng Madison
sớm đã có tinh thần yêu nước. Chính trường tiểu bang và khu vực đã lôi
cuốn ông. Năm 1775, ông tham gia Ủy ban An toàn quận Orange. Một năm
sau, ông tham dự Hội nghị Virginia. Ngoài việc thông qua các bước mang
tính cách mạng, Hội nghị này đã xây dựng bản Hiến pháp cho tiểu bang
Virginia. Trong những năm 1776-1777, ông tham gia Viện dân biểu của thị
xã, và trong những năm 1778-1780, tham gia Hội đồng tiểu bang, nhưng
sức khỏe yếu đã ngăn cản ông tham gia quân đội.
Madison được chọn làm người đại diện cho Virginia tham dự Quốc hội Hợp
bang trong giai đoạn 1780-1783 và 1786-1788. Mặc dù là đại biểu trẻ nhất,
nhưng ông đã đóng một vai trò rất quan trọng trong các cuộc tranh luận tại
đây. Cũng trong những năm 1784-1786, ông lại tham dự Viện đại biểu
Virginia. Ông là người chỉ đạo ngầm đằng sau các cuộc họp ở Hội nghị
Mount Vernon (1785), rồi tham gia Hội nghị Annapolis (1786) và có những
đóng góp rất to lớn trong quá trình hội họp tại Hội nghị Lập hiến. Ông còn
được mệnh danh là "Cha đẻ của Hiến pháp Mỹ" vì sự đóng góp lớn lao
trong việc soạn thảo văn kiện này cũng như trong quá trình thông qua sau
đó. Ông cũng viết rất nhiều bài báo chỉ trích sự yếu kém của Các điều
khoản Hợp bang.
Madison là một nhân vật cực kỳ xuất chúng tại Hội nghị Lập hiến. Trong
khi một số đại biểu ủng hộ mô hình chính quyền tập trung mạnh; một số
khác muốn duy trì quyền tự quyết và tự chủ của tiểu bang; còn đa số có lập
trường trung lập thì Madison đã biện hộ không mệt mỏi cho một chính
quyền mạnh dù nhiều đề nghị của ông bị bác bỏ. Ông rất ít khi vắng mặt tại
Hội nghị và Phương án Virginia mà ông là tác giả chính đã trở thành nền
tảng chủ yếu cho bản Hiến pháp. Bất chấp khả năng thuyết trình kém, ông
đã phát biểu tới trên 150 lần, đứng thứ ba, chỉ sau Gouverneur Morris và