1385-1390 (H.787-793) yılları arasında doğduğu tahmin edilmektedir. Asıl adı Abdürrahîm Nizâmeddîn'dir. Babası Sarı Danişmend adıyla tanınan Emir Aziz Efendidir. Merzifon'da dünyâya geldikleri için Merzifonî ve şiirlerinde "Rûmî" mahlasını kullandığı için "Rûmî" lakapları ile şöhret buldu. 1465 (H.870)de Merzifon'da vefât edip oraya defnedildi.
İlk tahsilini babasından ve memleketindeki diğer âlimlerden aldı. Küçük yaştan îtibâren sanat ve kültür yönü fevkalâde gelişti. Bu sırada Osmancık'ta müderrislik yapan Akşemseddîn ile dostluk ve arkadaşlıkları çok ileri idi. Bu iki dost devrin en büyük âlimlerini tanıyarak onlardan feyz almak ve tasavvuf yolunda ilerlemek istiyorlardı. Akşemseddîn bu gâye ile Ankara'da bulunan büyük âlim Hâcı Bayrâm Velî hazretlerinin yanına gitti ise de onun, müridleri için kapı kapı dolaşarak yardım toplamasını yanlış yorumlayarak bu tutumunu beğenmeyip tekrar Osmancık'a dönmüştü. Kalpleri ilâhî aşkla çarpan bu iki genç bir süre sonra Şeyh Zeynüddîn Hafî'den ders almak üzere Mısır'a doğru yola çıktılar. Ancak Haleb'e geldiklerinde Akşemseddîn gördüğü bir rüyâ üzerine kendisinin mânen Hâcı Bayrâm Velî'ye bağlı olduğunu söyleyerek geri Ankara'ya döndü.
Şeyh Zeynüddîn-i Hafî, menkıbeleri Anadolu'da ağızdan ağıza dolaşan, bütün İslâm ülkelerinde saygı ile anılan büyük bir Türk bilgini ve tasavvuf âlimi idi. Horasan'ın Haf kasabasında doğduğu için Hafî adıyla anılırdı.
Abdürrahîm Merzifonî Mısır'da Şeyh Zeynüddîn-i Hafî ile buluşup ona candan bağlandı. Hocasının sevgisini kazanarak teveccühlerine kavuştu. Onun mânevî himâyesi ve terbiyesine girdi. Şeyh Zeynüddîn'le berâber Horasan'a hocasının memleketi olan Haf'a gitti. Tasavvuf yolunda bulunanlara has terbiye usûlleriyle, mânevî makamlara kavuştu. Bu yolun vazîfeleri ile meşgûl olarak yükselip, kemâle geldi.
Hocası, kavuştuğu mânevî makamlara ve hâllere onu da çıkardıktan sonra icâzet, diploma verdi.
Şeyh Zeynüddîn Hafî, Abdürrahîm Merzifonî'de gördüğü çalışkanlık, kabiliyet, doğruluk, sadâkat ve bağlılığı 1428 yılında Herat'ta verdiği icâzetnâmesinde şöyle anlatmaktadır:
"Hamd ü senâdan sonra şunu söyliyeyim ki: Velîlerin yolunda giden ve bu yoldan başkasına yüz çeviren, çalışmasında ciddî ve samîmî olan, irâdesi tam bir mübârek oğul ki Emir Azîz-i Rûmî'nin oğlu Mevlânâ Nizâmeddîn Abdürrahîm'dir. Allah onu tarîkatinde istikâmet üzere gitmesinde sâbit kılıp devamlı eylesin."
Hocası ayrıca Abdürrahîm'e Vesâyâ-yı Kudsiyye kitabını ve Şihâbüddîn-i Sühreverdî'nin (r.aleyh) Avârif-ül-Meârif ve İ'lâm-ül-Hudâ kitaplarından ders okutma iznini verdi. Bundan sonra, doğru yolun rehberi olarak, insanlara Allahü teâlânın dînini öğretmek, onları terbiye etmek ve yetiştirmek üzere, hocası tarafından, baba memleketi olan Merzifon'a gönderildi.
Abdürrahîm-i Merzifonî, Zeynüddîn-i Hafî'nin elini öpüp hayır duâsını alarak ayrıldıktan sonra, hocası ardından bakıp;

"Bir ateş kütüğin yakduk
Diyâr-u Rum'a atduk."

buyurdu.
Zeynüddîn-i Hafî hazretleri bu beyti ile talebesinin yüksekliğini ve onun Anadolu'daki görevinin ehemmiyetini işâret ediyordu.
Gerçekten şeyhinin "Aşk ateşi" diye övdüğü Abdürrahîm hazretlerinin kalbi ilâhî aşkla dop doluydu. Yanık ve içli şiirler söylerdi. Zaman zaman;

"Tövbe yâ Rabbî! Hatâ yoluna gitdüklerüme,
Bilüp itdüklerüme, bilmeyüp itdüklerime."

diyerek gözlerinden yaşlar döker, kalbi Allahü teâlânın korkusundan titrerdi.
Abdürrahîm hazretlerinin Merzifon'a gelmelerinden sonra burası ülkenin dört bir tarafından feyz almak ve ilminden istifâde etmek isteyenlerin akınına uğradı. Bunu duyan İkinci Murâd Han, ilminden daha geniş bir kitlenin faydalanmasını sağlamak üzere kendisinden Merzifon'daki Çelebi Sultan Mehmed Medresesi'nde müderrislik yapmasını istedi. Kabul buyurunca, beş akçe ile müderris tâyin etti. Daha sonra, 1439 yılında yevmiyesi, üç akçe ilâve ile sekiz akçeye çıkarıldı.
Bâzı kimseler şeyhin müderrislik görevini ve tâyin edilen ücreti kabul etmesini onun dünyâya olan rağbeti şeklinde yorumladılar. Buna karşı Abdürrahîm hazretlerinin cevâbı:
"Çeşitli eller yerine bir el tuttuk. Bu lokma ile nefsin ağzını kapattık." oldu.
Tasavvuf yolunda bulunanlar, yedikleri, içtikleri şeylerin ve kullandıkları eşyânın helâl olmasına çok dikkat ederlerdi. Pekçok kimse, helâl olduğu şüphelidir diye, sultanlardan gelen hediye ve ihsânları kabûl etmezlerdi. Kabûl etseler de, fakir ve yoksullara dağıtırlardı. Sultan İkinci Murâd Han, her şeyiyle âdil bir sultan olduğundan; Abdürrahîm bin Emir Merzifoni ondan maaş almakta mahzur görmedi.
1465 yılında vefâtına kadar pekçok talebe yetiştirdi. Talebelerinin içinde zamânının meşhûr şâirleri de vardır.
Abdürrahîm hazretlerinin mübârek kabirleri Merzifon'da Câmi-i Cedîd mahallesi Eren sokağındadır. Halen halk tarafından ziyâret olunmakta mübârek rûhu vesîle edilerek cenâb-ı Hakk'a duâ ve niyâzda bulunulmaktadır.

1) Mesnevî-i Murâdiyye (Kemâl Yavuz, Ank. 1982)
2) İslâm Âlimleri Ansiklopedisi; c.11, s.43
4) Sefînetü'l-Evliyâ; c.1, s.271
5) Osmanlı Müellifleri; c.1, s.43
6) Şeyh Abdürrahîm Rûmî (Berin Taşan, İzmir 1975)