Đầu năm 1929 , Tự quay về Hà Nội , liên kết với một số đồng chí thân
thiết , rủ nhau bí mật thành lập đảng Cộng Sản mà bất cần ý kiến của lãnh
tụ Nguyễn Ái Quốc , bởi bíêt Nguyễn Ái Quốc còn muốn mai phục thêm
một thời gian nữa . Lúc ấy là tháng 3 năm 1929 . Nhân có người bạn tâm
giao là vợ chồng Trần Văn Cung đang thuê căn nhà số 5D phố Hàm Long ,
Hà Nội , Đỗ Ngọc Du liền ngỏ ý mượn địa điểm , rồi cùng Ngô Gia Tự ,
Nguyễn Đức Cảnh , Nguyễn Phong Sắc và Trịnh Đình Cửu , tuyên thệ
thành lập Đảng Cộng Sản . Căn nhà số 5D đường Hàm Long chính là cơ
quan Cộng sản đầu tiên tại quốc nội , và Đỗ Ngọc Du có thể coi là nhân vật
lãnh đạo Cộng Sản tiên phong trong nước Việt Nam .
Tháng 5 năm 1929 , Ngô Gia Tự cùng đoàn đại biểu 3 người lên đường
sang Hồng Kông dự đại hội toàn quốc VNTNCMĐCH . Tại đây , với tư
cách đại diện Kỳ Bộ Bắc Kỳ , Tự lớn tiếng đề nghị giải tán VNTNCMĐCH
để biến thành Đông Dương Cộng Sản Đảng . Nhưng đa số đại biểu không
đồng ý , bởi còn tiếc cái danh xưng cũ đã mấy năm , với bao nhiêu công sức
của đoàn viên đã vun sới cho nó . Đoàn đại biểu Bắc Kỳ bỏ về , hội nghị
Hồng Kông kể như tan vỡ , đưa đến phân hóa khá trầm trọng trong nội bộ
VNTNCMĐCH . Ngô Gia Tự cùng đoàn đại biểu trở về và ngày 17 tháng 6
, tại số 312 phố Khâm Thiên , họ thản nhiên tuyên bố biến VNTNCMĐCH
thành Đông Dương Cộng Sản Đảng . Ít lâu sau , họ lại dựng lên Tổng Công
Hội Đỏ Bắc Kỳ tại nhà số 15 Phố Hàng Nón , làm nền móng cho tổng công
đoàn lao động sau này . Nhóm Cộng Sản nóng ruột này , chia nhau nắm giữ
những chức vụ quan trọng của Xứ Ủy , mặc dầu trên danh nghĩa chính thức
, Bí Thư Xứ Ủy lúc đó vẫn là Mai Ngọc Thiệu , người chủ trương duy trì
VNTNCMĐCH .
Ngòai việc tự ý đứng ra thành lập Đông Dương Cộng Sản Đảng , nhóm
Ngô Gia Tự , Nguyễn Hữu Cành và Đỗ Ngọc Du còn len lỏi vào đảng Tân
Việt , tung ra một số truyền đơn kêu gọi “những đảng viên đã giác ngộ
Cộng Sản , hảy dũng cảm thoát ly Tân Việt Cách Mạng để đứng hẳn về
hàng ngũ quốc tế vô sản” . Cao trào vận động ấy đã đưa đến kết quả là có 3