Sau khi học ở trường làng, Abraham vào học tại trường Yale và tốt nghiệp
năm 1772. Ba năm sau, ông trở thành mục sư và là trợ giảng tại đây cho tới
năm 1779, rồi trở thành một giáo sĩ trong Quân đội Lục địa. Hai năm sau,
ông khước từ đề nghị giữ chức giáo sư thần học để chuyển sang học luật và
năm 1783, ông được nhận vào làm việc tại tòa án ở Fairfield, CT.
Một năm sau, Baldwin chuyển đến Georgia và mở phòng luật tại đây, rồi
mua một mảnh đất ở quận Wilkes. Năm 1785, ông tham gia nghị viện và
Quốc hội Hợp bang. Hai năm sau, vì cha ông mất, nên Baldwin phải thay
cha trả tiền ăn học cho những người anh em cùng cha khác mẹ.
Cùng năm đó, Baldwin tham gia Hội nghị Lập hiến, nhưng vắng mặt một
vài tuần. Mặc dù khá dè dặt, ông đã tham gia Ủy ban về các vấn đề bị hoãn
lại và góp phần giải quyết cuộc xung đột giữa các bang lớn và nhỏ về quyền
đại diện. Ðầu tiên, ông ủng hộ quyền đại diện ở Thượng viện dựa trên việc
sở hữu tài sản, nhưng sau đó e ngại các bang nhỏ liên minh với nhau nên
ông chuyển sang tán thành việc đại diện bình đẳng giữa các bang.
Kết thúc Hội nghị, Baldwin trở lại Quốc hội Hợp bang (1787-1789). Ông
được bầu vào Quốc hội Mỹ suốt 18 năm sau đó, (tại Hạ viện những năm
1789-1799 và tại Thượng viện những năm 1799-1807). Thời gian này, ông
kịch liệt chống đối các chính sách kinh tế do Hamilton đề xuất. Khác với
các đại biểu của vùng New England, ông ủng hộ Madison, Jefferson và theo
Ðảng Cộng hòa-Dân chủ. Tại Thượng viện, ông từng giữ chức chủ tịch tạm
thời trong một thời gian ngắn.
Ông đóng góp nhiều công sức nhằm cải cách và mở rộng hệ thống giáo dục
ở Georgia. Năm 1784, cùng với 6 người khác được chọn làm giám sát cho
việc thành lập trường đại học của tiểu bang, ông đã chứng kiến giấc mơ của
mình trở thành sự thật, khi trường Đại học Franklin được thành lập vào năm
1798. Mô phỏng trường Yale, sau đó trường này trở thành hạt nhân của
trường Đại học Georgia.
