Năm 1926, ông là một trong những người lãnh đạo phong trào bãi khóa ở Nam Định đòi truy điệu nhà yêu nước Phan Châu Trinh. Sau đó, ông gia nhập Hội Việt Nam Cách mạng Thanh niên (1927). Năm 1929, Đặng Xuân Khu tham gia cuộc vận động thành lập Đông Dương Cộng sản đảng ở Bắc Kỳ. Năm 1930, Đảng Cộng sản Việt Nam thành lập, ông được chỉ định vào Ban Cổ động và Tuyên truyền của Trung ương Đảng.
Đặng Xuân Khu bị bắt ngày 14-11-1930, khi thực hiện nhiệm vụ đến khu vực chân Cột cờ Hà Nội, gặp Lơ-com, một đảng viên Đảng Cộng sản Pháp, để nhận một tài liệu có nhan đề: “Chúng chuẩn bị chiến tranh như thế nào?”. Đúng giờ, Đặng Xuân Khu tới chỗ hẹn thì bị cảnh binh ập đến đưa về Sở Mật thám Đông Dương. Sau đó, chúng giải ông về giam ở Nhà tù Hỏa Lò, Hà Nội.
Ngày 28-9-1931, tòa án thực dân mở phiên xử Đặng Xuân Khu và 40 chiến sĩ cách mạng khác. Trong phiên xử ngày 29-9-1931, tòa tuyên bố Đặng Xuân Khu làm truyền đơn cổ động cho phong trào cách mạng; vận động binh lính Pháp và phổ biến sách cấm, phải mang án 12 năm tù giam (tính từ ngày 19-11-1930 đến 19-11-1942). Tuyên án xong, chúng tiếp tục giam ông ở Nhà tù Hỏa Lò (Tư liệu văn kiện, dangcongsan.vn).
Tháng 2-1933, từ Nhà tù Hỏa Lò, Đặng Xuân Khu bị thực dân Pháp đưa đi đày ở Nhà tù Sơn La. Nhà tù này được Toàn quyền Đông Dương xây dựng đầu thế kỷ XX, nổi tiếng là “địa ngục trần gian”, nơi đày ải tù nhân chính trị, hòng cắt đứt mối liên lạc giữa họ với tổ chức đảng.
Đặng Xuân Khu mang số tù 318. Thông tin của ông tại Nhà tù Sơn La như sau: “Đặng Xuân Khu: 21 tuổi, giáo viên tiểu học tại Hà Nội, thành viên của tổ chức Đông Dương Cộng sản đảng đã tham gia phát truyền đơn cách mạng trong các năm 1929-1931 và tìm cách thuyết phục binh lính Pháp gia nhập Đảng Cộng sản. Ông ta từng gửi họ truyền đơn để phân phát trong doanh trại (Trung tâm Lưu trữ Quốc gia I, hồ sơ số 82841, phông Phủ Thống sứ Bắc Kỳ).
Trung tâm Lưu trữ Quốc gia I hiện còn lưu Phiếu nhận dạng tù nhân Đặng Xuân Khu - số tù 318 của Nhà tù Sơn La, với các nội dung:
Kèm theo đó là lời nhận xét của Chánh giám ngục: “Đây là kẻ cầm đầu các phong trào phản loạn và là một cộng sản đích thực”.
Chính vì lý do trên, trong đợt ân xá tù nhân vào tháng 10-1933, quan cai trị chánh chủ tỉnh nơi giam giữ tù nhân coi đây là vụ trọng án nên đã bác đơn xin ân xá (Trung tâm Lưu trữ Quốc gia I, hồ sơ số 82971, phông Phủ Thống sứ Bắc Kỳ).
Đến Nhà tù Sơn La, Đặng Xuân Khu tham gia Ban lãnh đạo của tù nhân, tổ chức những cuộc đấu tranh chống chế độ lao tù hà khắc.
Tháng 10-1933, Toàn quyền Đông Dương Pát-xki-ê đi kinh lý Sơn La, kiểm tra tình hình. Nhân đó, Đặng Xuân Khu cùng anh em tù chính trị tổ chức đưa yêu sách và đấu tranh tố cáo tội ác của chế độ nhà tù trước viên toàn quyền.
Trước thái độ đấu tranh kiên quyết của tù nhân, Pát-xki-ê buộc phải nhận bản yêu sách và hứa sẽ xem xét giải quyết.
Trước sức ép của dư luận tiến bộ Pháp cùng với phong trào đấu tranh quyết liệt của những người tù chính trị và đông đảo nhân dân Đông Dương, Toàn quyền Đông Dương buộc phải ký lệnh giảm hoặc xóa bỏ một số án tử hình, đưa một số tù chính trị ở ngục Sơn La về giam tại Hỏa Lò (Hà Nội), trong đó có Đặng Xuân Khu.
Trong Nhà tù Hỏa Lò, Đặng Xuân Khu tiếp tục hoạt động tuyên truyền cách mạng, cùng các đồng chí trong Ban chi ủy củng cố lại tổ chức và sinh hoạt của chi bộ trong nhà tù trước sự khủng bố ngày càng dữ dội của kẻ thù.
Sau thời kỳ khủng bố “trắng”, khoảng đầu năm 1935, tổ chức cơ sở đảng dần được khôi phục và phát triển ở nhiều nơi, ảnh hưởng của Đảng được mở rộng. Phong trào đấu tranh của công nhân và nông dân nổ ra tại nhiều địa phương. Tình hình này làm thực dân Pháp lo sợ, quyết định chuyển một số tù chính trị ở Hỏa Lò mà chúng xếp vào loại nguy hiểm ra Côn Đảo. Những người ốm yếu thì đày lên Sơn La. Đặng Xuân Khu thuộc danh sách đi Sơn La. Đây là lần thứ hai Đặng Xuân Khu bị đày lên nhà tù này.
Phiếu nhận dạng tù nhân Đặng Xuân Khu (số tù 318). Ảnh tư liệu
Tháng 5-1935, Đặng Xuân Khu tới ngục Sơn La. Lần này, ông và các tù chính trị khác bị bọn cai ngục quản thúc rất chặt chẽ và bắt lao dịch nặng nhọc.
Để lãnh đạo mọi mặt hoạt động trong tù, Đặng Xuân Khu cùng các đồng chí quyết định khôi phục “Ủy ban nhà tù” (còn có tên là Hội đồng thống nhất) đã được lập ra từ năm 1933. Đặng Xuân Khu được cử làm chủ tịch. Ủy ban được tái lập nhằm duy trì trật tự trong và ngoài nhà tù, hạn chế việc cai ngục ức hiếp tù nhân và cũng là cơ sở để thành lập chi bộ trong tù.
Từ năm 1935 trở đi, tình hình chính trị thế giới có nhiều biến chuyển. Mâu thuẫn giữa các nước đế quốc ngày càng gay gắt. Phong trào đấu tranh chống phát xít, chống chiến tranh, bảo vệ hòa bình nổi lên ở nhiều nước. Đại hội lần thứ VII Quốc tế Cộng sản tại Mát-xcơ-va (7-1935) đã chỉ rõ kẻ thù trước mắt của nhân dân thế giới lúc này là chủ nghĩa phát xít. Nhiệm vụ trước mắt của các Đảng Cộng sản lúc này là thành lập mặt trận nhân dân rộng rãi ở các nước, chống chủ nghĩa phát xít, chống chiến tranh, bảo vệ hòa bình.
Thực hiện sự chuyển hướng chiến lược cách mạng của Quốc tế Cộng sản, các đảng cộng sản ra sức vận động thành lập Mặt trận nhân dân chống phát xít. Tại Pháp, tháng 4-1936, Mặt trận nhân dân Pháp do Đảng Cộng sản làm nòng cốt đã thắng thế, giành được thắng lợi lớn trong cuộc tổng tuyển cử. Mặt trận nhân dân Pháp nêu ra việc thả tù chính trị, cử các phái đoàn điều tra tình hình thuộc địa, đặc biệt ở Bắc Phi và Đông Dương.
Trước thắng lợi của Mặt trận nhân dân Pháp, dưới sự lãnh đạo của Đảng, phong trào đấu tranh của nhân dân ta, phong trào đòi trả tự do cho tù chính trị phát triển mạnh. Tháng 9-1936, nhà cầm quyền Pháp ở Đông Dương buộc phải thả một số tù chính trị ở một số nhà tù.
Ngày 29-9-1936, Đặng Xuân Khu và hàng chục tù chính trị được trả tự do.
Dưới đây là trích lục biên bản họp ngày 25-6-1936 của Hội đồng Xứ Bảo hộ Bắc Kỳ, hiện bảo quản tại Trung tâm Lưu trữ Quốc gia I:
HỒNG NHUNG - HOÀNG HẰNG