Sebelum KH. Ahmad Dahlan wafat, ia berpesan pada
sahabat-sahabatnya agar tongkat kepemimpinan Muhammadiyah sepeninggalannya
diserahkan kepada Kiai Haji Ibrahim. Mula-mula KH. Ibrahim yang terkenal
sebagai ulama besar menyatakan tidak sanggup memikul beban yang demikian berat
itu. Namun atas desakan sahabat-sahabatnya akhirnya dia bisa menerimanya.
Kepemimpinannya dalam Muhammadiyah dikukuhkan bulan Maret 1923 dalam Rapat
Tahunan Anggota Muhammadiyah sebagai Voorzitter Hoofdbestuur Moehammadijah
Hindia Timur (Soedja`,1933: 232).
KH. Ibrahim dilahirkan di kampung Kauman
Yogyakarta pada tanggal 7 Mei 1874. Ia adalah putra dari KH. Fadlil
Rachmaningrat, seorang Penghulu Hakim Negeri Kesultanan Yogyakarta di zaman
Sultan Hamengkubuwono ke VII (Soedja`. 1933: 227), dan ia merupakan adik
kandung Nyai Dahlan.
Ibrahim menikah dengan Siti Moechidah binti Abdulrahman alias Djojotaruno (Soeja`. 1933:228) pada tahun 1904. Pernikahannya dengan Siti Moechidah ini tidak berlangsung lama, karena istrinya segera dipanggil menghadap Allah. Selang beberapa waktu kemudian Ibrahim menikah dengan ibu Moesinah putri ragil dari KH. Abdulrahman (adik kandung dari ibu Moechidah).
