1932 yılında Hasankale'nin Alvar köyünde doğdu. Asıl adı Yaşar Yılmaz'dır. İran'dan göçen babası önce Kars'a daha sonra Erzurum'a yerleşti. Aşık Reyhani'nin çocukluğu köyünde geçti. Zaman zaman komşu köylere gitme olanağı bulduysa da daha başka yerlere gidemedi. Okuma yazmayı okula gitmeden öğrendi. Sonraki yıllarda ise dışarıdan sınava girerek diploma aldı.
Küçük yaşlarda köyüne gelen âşıklardan etkilendi. Hem âşıklardan dinleyerek hem de eline geçen kitapları okuyarak birçok halk hikâyesini öğrendi. Kendi âşıklığı ve şiir yazmaya başlaması 18 yaşından sonradır.
Reyhani, rüyasında gördüğü bir kıza âşık oldu. Kısa bir süre sonra da kızı kaçırdı. Birkaç ay geçmeden evliliği geçimsizliğe ve huzursuzluğa dönüştü. Bunun üzerine karısının ailesi kızlarını alarak başka biriyle evlendirdiler. Aşık Reyhani, bu dönemden sonra Dertli mahlasıyla şiirler yazmaya, türkü söylemeye başladı. Ancak bu mahlası uzun süre kullanmadan, Bayburtlu Aşık Hicrani tarafından Reyhani mahlası verildi.
Konya Aşıklar Bayramına aralıksız katılan 7 âşıktan biridir. Eski âşıkların dışında, yetiştiği Huzuri Baba, Nihani, Cevlani, Efkari, Murat Çobanoğlu'nun babası Gülistan Çobanoğlu gibi âşıklardan gelenek ve usul öğrendi.
İran'dan Avrupa'ya birçok ülkede türkü söyleyen Aşık Reyhani, katıldığı yarışmalarda da birçoğu birincilik olmak üzere çeşitli ödüller aldı. 1980'li yılların başında Erzurum'da bulunan Doğu Ozanları Derneğinin başkanlığına getirildi. 1988 yılında kendisini başkanlığı sırasında ziyarete gelen Barış Manço için ''Barış Geldi'' türküsünü söylemiştir.
Şiirleri birçok gazete, dergi ve araştırmada yer alan ve çeşitli radyo ve televizyon programlarına katılan Aşık Reyhani'nin, şiirlerinin bir bölümünü topladığı "Alvarlı Reyhani" (1962), "Böyle Bağlar" (1966), "Kervan" (1988) ve bazı düşünce ve şiirlerinden oluşan "Şu Tepenin Arkasında" adlı kitapları Dilaver Düzgün tarafından hazırlanan "Aşık Yaşar Reyhani", (1997) adlı kitap bulunmaktadır.