Про храмВ 1701 г. был сооружён деревянный храм. В 1762 г. его разобрали из-за ветхости и построили новую деревянную церковь, названную в честь Вознесения Господня.
В 1855 г. 7 октября взамен деревянной на средства помещицы Надежды Андреевны Ольшевской возвели каменный однопрестольный храм в честь Успения Пресвятой Богородицы. При храме были построены помещения для причта и церковно-приходская школа. Несколько позднее построили отдельно стоящую колокольню. Авторы проекта церкви и колокольни неизвестны.
25 февраля 1880 г. скончалась Надежда Андреевна, и по благословению епископа Харьковского и Ахтырского Иустина, её прах был перенесен в ранее подготовленную ею усыпальницу возле храма.
После октябрьской революции 1917 г. колокольню и ограду храма снесли большевики, а в начале 30-х гг. храм и вовсе закрыли. Прах храмостроительницы был перенесен на кладбище. Началась война. Во время оккупации немецко-фашистскими захватчиками (около 1942 г.) храм открыли. После освобождения села 16 августа 1943 г. богослужения продолжались до первой половины 60 гг. В 50 гг. стены оштукатурены раствором. Гонения на церковь возобновились в конце 50 гг. В 1963-64 гг. приход ликвидировали и храм закрыли. Помещение храма стало колхозным складом, а затем, когда здание совсем обветшало, его и вовсе забросили.
Решением Харьковского областного совета народных депутатов №904 от 5 июня 1995 г. в Малой Рогозянке возобновлена деятельность Свято-Успенского храма. Реставрационные работы начаты весной 1997 г. 29 апреля 1998 г. перед Лазаревой субботой воздвигнут крест на куполе храма. Ремонт крыши завершился 4 мая 1999 г. к Преполовению Пятидесятницы. 26 октября 1999 г. храм освятил Владыка Никодим.
На сегодняшний день реставрация продолжается.
В 2010 г. был перестроен иконостас.
