Kiai Haji Mas Mansoer menikah dengan puteri Haji Arif yaitu Siti Zakijah yang tinggalnya tidak jauh dari rumahnya. Dari hasil pernikahannya itu, mereka dikaruniai enam orang anak, yaitu Nafiah, Ainoerrafiq, Aminah, Mohammad Noeh, Ibrahim dan Loek-loek. Di samping menikah dengan Siti Zakijah, dia juga menikah dengan Halimah. Dia menjalani hidup dengan istri kedua ini tidak berlangsung lama, hanya dua tahun, karena pada tahun 1939 Halimah meninggal dunia.
Pendidikan
Di samping belajar agama pada ayahnya sendiri dia juga belajar di Pesantren Sidoresmo dengan Kiai Muhammad Thaha sebagai gurunya. Pada tahun 1906, ketika Mas Mansur berusia sepuluh tahun, dia dikirim oleh ayahnya ke Pondok Pesantren Demangan, Bangkalan, Madura. Di sana, dia mengkaji Al-Qur'an dan mendalami kitab Alfiyah ibn Malik kepada Kiai Khalil. Belum lama dia belajar di sana kurang lebih dua tahun, Kia Khalil meninggal dunia, sehingga Mas Mansur meninggalkan pesantren itu dan pulang ke Surabaya.
Belajar di Mekkah dan Mesir
Sepulang dari Pondok Pesantren Demangan pada tahun 1908, oleh orang tuanya disarankan untuk menunaikan ibadah haji dan belajar di Makkah pada Kiai Mahfudz yang berasal dari Pondok Pesantren Termas Pacitan Jawa Timur. Setelah kurang lebih empat tahun belajar di sana, situasi politik di Saudi memaksanya pindah ke Mesir. Penguasa Arab Saudi, Syarif Hussen, mengeluarkan instruksi bahwa orang asing harus meninggalkan Makkah supaya tidak terlibat sengketa itu. Pada mulanya ayah Mas Mansoer tidak mengizinkannya ke Mesir, karena citra Mesir (Kairo) saat itu kurang baik di mata ayahnya, yaitu sebagai tempat bersenang-senang dan maksiat. Meskipun demikian, Mas Mansoer tetap melaksanakan keinginannya tanpa izin orang tuanya. Kepahitan dan kesulitan hidup karena tidak mendapatkan kiriman uang dari orang tuanya untuk biaya sekolah dan biaya hidup harus dijalaninya. Oleh karena itu, dia sering berpuasa Senin dan Kamis dan mendapatkan uang dan makanan dari masjid-masjid. Keadaan ini berlangsung kurang lebih satu tahun, dan setelah itu orang tuanya kembali mengiriminya dana untuk belajar di Mesir.
Di Mesir, dia belajar di Perguruan Tinggi Al-Azhar pada Syaikh Ahmad Maskawih. Suasana Mesir pada saat itu sedang gencar-gencarnya membangun dan menumbuhkan semangat kebangkitan nasionalisme dan pembaharuan. Banyak tokoh memupuk semangat rakyat Mesir, baik melalui media massa maupun pidato. Mas Mansoer juga memanfaatkan kondisi ini dengan membaca tulisan-tulisan yang tersebar di media massa dan mendengarkan pidato-pidatonya. Ia berada di Mesir selama kurang lebih dua tahun. Sebelum pulang ke tanah air, terlebih dulu dia singgah dulu di Makkah selama satu tahun, dan pada tahun 1915 dia pulang ke Indonesia.
Bergabung dengan Sarekat Islam (SI)
Bergabung dalam Sarekat Islam adalah langkah awal Mas Mansoer sepulang dari belajar di luar negeri. Peristiwa yang dia saksikan dan alami baik di Makkah, yaitu terjadinya pergolakan politik, maupun di Mesir, yaitu munculnya gerakan nasionalisme dan pembaharuan merupakan modal baginya untuk mengembangkan sayapnya dalam suatu organisasi. Pada saat itu, SI dipimpin oleh Oemar Said Tjokroaminoto, dan terkenal sebagai organisasi yang radikal dan revolusioner. Ia dipercaya sebagai Penasehat Pengurus Besar SI.
Taswir Al-Afkar
Di samping itu, Mas Mansoer juga membentuk majelis diskusi bersama Wahab Hasboellah yang diberi nama Taswir al-Afkar (Cakrawala Pemikiran). Terbentuknya majelis ini diilhami oleh Masyarakat Surabaya yang diselimuti kabut kekolotan. Masyarakat sulit diajak maju, bahkan mereka sulit menerima pemikiran baru yang berbeda dengan tradisi yang mereka pegang. Taswir al-Afkar merupakan tempat berkumpulnya para ulama Surabaya yang sebelumnya mereka mengadakan kegiatan pengajian di rumah atau di surau masing-masing. Masalah-masalah yang dibahas berkaitan dengan masalah-masalah yang bersifat keagamaan murni sampai masalah politik perjuangan melawan penjajah.
Aktivitas Taswir al-Afkar itu mengilhami lahirnya berbagai aktivitas lain di berbagai kota, seperti Nahdhah al-Wathan (Kebangkitan Tanah Air) yang menitikberatkan pada pendidikan. Sebagai kelanjutan Nahdhah al-Wathan, Mas Mansur dan Abdul Wahab Hasbullah mendirikan madrasah yang bernama Khitab al-Wathan (Mimbar Tanah Air), kemudian madrasah Ahl al-Wathan (Keluarga Tanah Air) di Wonokromo, Far'u al-Wathan (Cabang Tanah Air) di Gresik dan Hidayah al-Wathan (Petunjuk Tanah Air) di Jombang. Kalau diamati dari nama yang mereka munculkan, yaitu wathan yang berarti tanah air, maka dapat diketahui bahwa kecintaan mereka terhadap tanah air sangat besar. Mereka berusaha mencerdaskan bangsa Indonesia dan berusaha mengajak mereka untuk membebaskan tanah air dari belenggu penjajah. Pemerintahan sendiri tanpa campur tangan bangsa lain itulah yang mereka harapkan.
Taswir al-Afkar merupakan wadah yang diskusinya mau tidak mau permasalahan yang mereka diskusikan merembet pada masalah khilafiyah, ijtihad, dan madzhab. Terjadinya perbedaan pendapat antara Mas Mansoer dengan Abdoel Wahab Hasboellah mengenai masalah-masalah tersebut yang menyebabkan Mas Mansoer keluar dari Taswir al-Afkar.
Kepenulisan
Pemikirannya tentang pembaharuan dituangkannya ke dalam bentuk tulisan-tulisan yang berbobot seperti dalam media massa. Majalah yang pertama kali diterbitkan bernama Soeara Santri. Kata santri digunakan sebagai nama majalah, karena pada saat itu kata santri sangat digemari oleh masyarakat. Oleh karena itu, Soeara Santri mendapat sukses yang gemilang. Djinem merupakan majalah kedua yang pernah diterbitkan oleh Mas Mansoer. Majalah ini terbit dua kali sebulan dengan menggunakan bahasa Jawa dengan huruf Arab. Kedua majalah tersebut merupakan sarana untuk menuangkan pikiran-pikirannya dan mengajak para pemuda melatih mengekspresikan pikirannya dalam bentuk tulisan. Melalui majalah itu Mas Mansoer mengajak kaum muslimin untuk meninggalkan kemusyrikan dan kekolotan. Di samping itu, Mas Mansoer juga pernah menjadi redaktur Kawan Kita di Surabaya.
Tulisan-tulisan Mas Mansur pernah dimuat di Siaran dan Kentoengan di Surabaya; Penagandjoer dan Islam Bergerak di Jogjakarta; Pandji Islam dan Pedoman Masyarakat di Medan dan Adil di Solo. Di samping melalui majalah-majalah, Mas Mansoer juga menuliskan ide dan gagasannya dalam bentuk buku, antara lain yaitu Hadits Nabawijah; Sjarat Sjahnja Nikah; Risalah Tauhid dan Sjirik; dan Adab al-Bahts wa al-Munadlarah.
Kegiatan di Muhammadiyah
Di samping aktif dalam bidang tulis-menulis, dia juga aktif dalam organisasi, meskipun aktivitasnya dalam organisasi menyita waktunya dalam dunia jurnalistik. Pada tahun 1921, Mas Mansoer masuk organisasi Muhammadiyah. Aktivitas Mas Mansoer dalam Muhammadiyah membawa angin segar dan memperkokoh keberadaan Muhammadiyah sebagai organisasi pembaharuan. Tangga-tangga yang dilalui Mas Mansur selalu dinaiki dengan mantap. Hal ini terlihat dari jenjang yang dilewatinya, yakni setelah Ketua Cabang Muhammadiyah Surabaya, kemudian menjadi Konsul Muhammadiyah Wilayah Jawa Timur. Puncak dari tangga tersebut adalah ketika Mas Mansur menjadi Ketua Pengurus Besar Muhammadiyah pada tahun 1937-1943.
Mas Mansoer dikukuhkan sebagai Ketua Pengurus Besar Muhammadiyah dalam Kongres Muhammadiyah ke-26 di Jogjakarta pada bulan Oktober 1937. Banyak hal pantas dicatat sebelum Mas Mansoer terpilih sebagai Ketua Pengurus Besar Muhammadiyah.
Kegiatan politik
Setelah menjadi Ketua Pengurus Besar Muhammadiyah, ia pun mulai melakukan gebrakan politik yang cukup berhasil bagi ummat Islam dengan memprakarsai berdirinya Majelis Islam A'la Indonesia (MIAI) bersama Hasyim Asy'ari dan Wahab Hasboellah yang keduanya dari Nahdlatul Ulama (NU). Ia juga memprakarsai berdirinya Partai Islam Indonesia (PII) bersama Dr. Sukiman Wiryasanjaya sebagai perimbangan atas sikap non-kooperatif dari Partai Syarikat Islam Indonesia (PSII). Demikian juga ketika Jepang berkuasa di Indonesia, Mas Mansoer termasuk dalam empat orang tokoh nasional yang sangat diperhitungkan, yang terkenal dengan empat serangkai, yaitu Soekarno, Mohammad Hatta, Ki Hadjar Dewantara, dan Mas Mansur.
Keterlibatannya dalam empat serangkai mengharuskannya pindah ke Jakarta, sehingga Ketua Pengurus Besar Muhammadiyah diserahkan kepada Ki Bagoes Hadikoesoemo. Namun kekejaman pemerintah Jepang yang luar biasa terhadap rakyat Indonesia menyebabkannya tidak tahan dalam empat serangkai tersebut, sehingga ia memutuskan untuk kembali ke Surabaya, dan kedudukannya dalam empat serangkai digantikan oleh Ki Bagoes Hadikoesoemo.
Ketika pecah perang kemerdekaan, Mas Mansoer belum sembuh benar dari sakitnya. Namun ia tetap ikut berjuang memberikan semangat kepada barisan pemuda untuk melawan kedatangan tentara Belanda (NICA). Akhirnya ia ditangkap oleh tentara NICA dan dipenjarakan di Kalisosok. Di tengah pecahnya perang kemerdekaan yang berkecamuk itulah, Mas Mansur meninggal di tahanan pada tanggal 25 April 1946 pada umur 49 tahun. Jenazahnya dimakamkan di Gipo Surabaya.
Atas jasa-jasanya, oleh Pemerintah Republik Indonesia KH. Mas Mansur diangkat sebagai Pahlawan Nasional bersama teman seperjuangannya, yaitu KH. Fakhruddin. KH mas Mansur menjadi Pahlawan Kemerdekaan Nasional pada 26 Juni 1964 berdasarkan Keppres No. 163 tahun 1964.