Ürümbey’in Tahrir Defterlerindeki adı “Rumbeğlü” dür. Bu sözcük, zaman içinde Türkçeye uygun olarak söylenile gelmiş ve değişmiştir. Rumbeğlü, “Gaziyan-ı Rum” tamlamasından gelmektedir. Gaziyan-ı Rum, Anadolu Gazisi demektir. Anadolu’nun Türkleşme sürecinde Türkmenler arasında dört sosyal grup vardır. Bunlar; Anadolu’nun Türkleşmesine kılıçlarıyla mücadele ederek katkıda bulunan Gaziyan-ı Rum (Anadolu Gazileri), meslek örgütleriyle kendilerini ifade eden Ahiyan-ı Rum (Anadolu Ahileri), Türkleşme ve İslamlaşmanın toplumda yaygınlaşmasını sağlayan Abdalan-ı Rum (Anadolu Abdalları) ve sosyal kurumlarda çalışarak ayende ve revandayı (gelen geçen yolcu ve misafirleri) ağırlayan Bacıyan-ı Rum (Anadolu Bacıları) gibi gruplardır. Ebulhayr Kethüda, Gaziyan-ı Rum’dandır. Yani Anadolu gazilerinden. Bu nedenle de kendi kurduğu ve yerleştiği köye “Rumbeğlü” yani “Anadolulu Beğ”denilmiştir.
1455 tarihli tahrir Defteri kayıtlarından Rumbeğlü Köyü’nün tımarının, Eşküncü Hasan Bedraga ve Habsamana Kalesi görevlilerinden İsmail oğulları Musa ve Mustafa’ya ait olduğu anlaşılmaktadır. Bu tımar sahiplerinin köyde aynı zamanda hisseleri de bulunmaktadır. Aynı tarihlerde Rumbeğlü Köyü 34 hanedir. Bunlardan 24 hanesi vergi mükellefi ve nefer olarak yazılmıştır. Rumbeğlü Köyü’nün vergiden muaf tutulmuş bir başka hissesi de Ebulhayr Kethüda’ya aittir. Bu hisseden hiç vergi alınmaması ve buranın Ebulhayr Kethüda ve ortaklarına fetih hakkı olarak “yurtluk” verildiği anlamını taşımaktadır. Burada yukarıdaki kayıtlardan da anlaşılacağı gibi Ebulhayr Kethüda’nın kardeşi Seydi, kardeşinin oğlu Hacı, ortakları Ali, Ahi oğlu Yusuf, Yusuf’un kardeşi İlbey, Ebulhayr Kethüda’nın çobanı Ali, hizmetkârı Musa’nın oturdukları belirtilmektedir. 1455 yılında Ebulhayr Kethüda sağ değildir. Ancak oğlu Mustafa divan başı olarak görev yapmaktadır.
Köyde Subaşı Musa Bey’e ait maden ocakları da bulunmaktadır. 1455 yılında buğday ve arpa ekimi yapıldığı ve meyve yetiştirildiği de alınan vergilerden anlaşılmaktadır. 1485 tarihinde Rumbeğlü Köyü’nde 19 hane bulunmaktadır. Ebulhayr Kethüda’nın oğlu Kethüda Mustafa ve diğer oğlu Musa ile Ebulhayr Kethüda’nın kardeşi Seydi’nin köyün tımarında hisseleri vardır. Ancak bu kez düşük seviyede de olsa vergiye tabi tutulmuşlardır. 1520 tarihinde köyün 31 hane olduğu görülmektedir. Bu hanelerden 3 tanesi müsellemdir. Köyde 1547 tarihinde 58, 1613 tarihinde ise 37 hane olduğu tahrir defteri kayıtlarından anlaşılmaktadır. 1642/43 tarihli Avarız Defteri kayıtları Rumbeğlü Köyü için yeni bilgiler içermektedir. Alibeğlü Köyü gibi Rumbeğlü Köyü de yöredeki nüfus krizinden olumsuz etkilenmiştir. Bunun dışında Rumbeğlü Köyü’nde hisseleri bulunan Ebulhayr Kethüda’nın yakınları, Rumbeğlü köyünden ayrılarak “Ebulhayr Köyü”nü kurmuşlardır. Ebulhayr Köyü’nde ayrıca çevreye hizmet verecek bir de Cuma Camisi yaptırılmıştır. Rumbeğlü, Ebulhayr ve Sayaca köylerinin 19. yüzyılda “Sayaca bi-ism-i Rumbey” diye adlandırılması bu yerleşkelerin bazen tek idari birimde toplandığını ve isimlendirildiğini göstermektedir. Ebulhayr Kazası’nın yönetim merkezi hemen her dönemde “Nefs-i Alibey” olduğuna göre “Ebulhayr” adı, çoğunlukla Aralıcak ve Bedirlü Nahiyelerini de içine alan geniş bir coğrafi alan olarak kullanılmıştır.
Yeni kurulan Ebulhayr Köyü’nde cami yapıldığı ve bu camide berat sahibi Sefer oğlu Ömer’in imam-hatip olduğu anlaşılmaktadır. Ebulhayr Kazası’nda 1642 tarihinde başka hiçbir köyde Cuma Camisi bulunmamaktadır. Ayrıca Rumbeğ ve Bayram Şeh Köyü’nden iki kişinin tımar erbabı olarak köye yerleştikleri, iki kişinin de sipahi oğlu olduğu belirtilmektedir. Köyün camisinin müezzini ise o zaman İhtiyar’a bağlı Uzunisa yakınlarındaki Kayadibi Köyü Tuğlu Mezra’asından Ali oğlu Molla Mahmud idi. Ebulhayr ve Kayadibi Köyü arasındaki uzaklık dikkate alındığında caminin vakit namazlarından çok cuma camisi olarak hizmet verdiğini söylemek mümkündür. Artık Naiplik de bulunan Ebulhayr Kazası’nın merkezi, Cuma camisinin de bulunduğu Ebulhayr Köyü olmuştur. Yukarıda belirtildiği gibi Ebulhayr Köyü, zaman içinde Sayaca Köyü ile bazen de Nefs-i Alibey ile birleşerek bağımsız köy olma özelliğini yitirmiştir. 1834 Nüfus sayımında Rumbey Köyü ile Sayaca Köyü birlikte yazılmışlardır. O tarihte her iki köy bir muhtarlık altında birleştirilmişti. 1834 Nüfus sayımında Sayaca-Rumbey Köy’ünde aşağıdaki aileler bulunmaktaydı: Mollamustafaoğlu, Vaynaoğlu, Hacıoğlu, Aliefendioğlu, Seferoğlu, Küçükhasanoğlu, Hacıkırıkoğlu, Osmancıkoğlu, Nasuhoğlu, Zülfikaroğlu, Kalkanoğlu, Çavuşoğlu, Hacıçavuşoğlu, Gözübüyükoğlu, Kürtoğlu, Lafçıoğlu, Dedeoğlu, Zurnacıoğlu, Hocaoğlu, Garipoğlu, Certekoğlu, Gebeşoğlu, Buturoğlu, Davutoğlu, Emeksizoğlu, Bektaşoğlu, Demircioğlu, Bölükbaşıoğlu, Sancaktaroğlu, Sarımustafaoğlu, Bekiroğlu, Resuloğlu, Eğerlioğlu, İmamoğlu, Hasanreisoğlu, Boşnakoğlu…
Rumbey, Tahrir Defterleri ve Avarız Defterleri döneminde ve 18. yüzyıl boyunca bağımsız köy olarak görünmekte iken, 19. yüzyıl başlarında Sayaca Köyü ile birleşmiştir. İlk nüfus sayımı olan 1834 yılında “Sayaca bi ism-i Rumbey” olarak adlandırılmaktadır. Rumbey, bilahare Sayaca’dan ayrılarak mahalle olan Yeniköy ile birlikte ve Yeniköy adıyla Gülyalı Belediyesi’nin bir mahallesi iken, Gülyalı Belediye Meclisinin 05.03.2007 tarih ve 05 sayılı kararı, 5393 sayılı Belediye kanununun 9. maddesi gereğince onaylanarak Yeniköy Mahallesinden iki mahalle oluşturulmuş, Değirmendere ve Esmanın dere arası bağımsız olarak “Ürümbey Mahallesi” adını almıştır. 2011 yılı itibariyle 559, 2019 yılı verilerine göre 608 nüfusa sahiptir.