Kegiatannya di pergerakan nasional telah aktif dia lakukan sejak Alimin masih remaja. Ia pernah menjadi anggota Budi Utomo, Sarekat Islam, Insulinde, sebelum bergabung dengan PKI dan akhirnya menjadi pimpinan organisasi tersebut. Ia juga adalah salah seorang pendiri Sarekat Buruh Pelabuhan (dulu namanya Sarekat Pegawai Pelabuhan dan Lautan).
Alimin yang pada awal tahun 1926 bertindak sebagai pimpinan PKI, pergi ke Singapura untuk berunding dengan Tan Malaka dalam rangka menyiapkan pemberontakan. Tapi sebelum Alimin pulang, pemberontakan sudah meletus 12 November 1926. Alimin dan Musso ditangkap oleh polisi Inggris.
Alimin pergi ke Moskow setelah ia keluar dari penjara dan bergabung dengan Komintern. Alimin tidak lama di sana karena bertemu dengan Ho Chi Minh dan diajak ke Kanton (Guangzhou). Pada saat itu ia terlibat secara ilegal untuk mendidik kader-kader komunis di Vietnam, Laos, dan Kamboja untuk melawan penjajah dan merebut kemerdekaan dari jajahan Perancis.
Ketika Jepang melakukan agresi terhadap Cina, Alimin pergi ke daerah basis perlawanan di Yenan dan bergabung bersama tentara merah di sana. Ia pulang ke Indonesia pada tahun 1946, yaitu setelah Republik Indonesia diproklamasikan.
Ketika DN Aidit mendirikan kembali PKI secara legal pada awal tahun 1950-an dan kemudian menjadi Ketua Komite Sentralnya, Alimin termasuk tokoh komunis yang tidak diindahkannya. Namun Alimin masih banyak didatangi oleh para pengikutnya sampai dengan saat meninggalnya pada tahun 1964.
Alimin meninggal di Jakarta, 24 Juni 1964 dan ditetapkan sebagai Pahlawan Kemerdekaan Nasional pada 26 Juni 1964 berdasarkan Keppres No. 163 Tahun 1964. (Wikipedia)