Kunigas Juozapas Čaplikas Ryliškiuose, savo tėvo paveldėtoje žemėje, 1918 m. pastatė medinę koplyčią ir pradėjo laikyti pamaldas. 1924 m. įsteigta parapija. 1932 m. pastatyta bažnyčia. 1953 m. pabaigoje bažnyčia sudeginta.
Leidimas atstatyti bažnyčią gautas 1989 m. 1993 m. pastatyta ir pašventinta nauja bažnyčia.