In 1112 was er reeds een eerste kerk in Ternat, toen nog Nath genoemd. Dat blijkt uit een oorkonde van bisschop Odo van Kamerijk. In Wambeek was er al eeuwen een “altaar” voor de eredienst. Maar in de oorkonde van 1112 spreekt de bisschop ook over “altare de Wambeccha cum appenditio Nath”. “Nath, aanhangsel van Wambeek mocht niet worden verwaarloosd", stelde de bisschop.
Volgens pastoor Lascabanne, die in 1902 en 1904 zijn geschiedenis van de gemeente en de parochie Ternat, uitgaf, was het “altaar” of de “kerk” – volgens mondelinge overlevering - gelegen aan de Zwaluwput. De kerkfabriek had daar een stuk grond, dat onlangs werd verkocht. Deze grond is gelegen op de plaats waar de oude Sempstweg, die het kasteel Kruikenburg met Wambeek verbond, en de Kruisstraat, die de nederzetting met de oude Romeinse heirbaan verbond, samenkomen. Op de Ferrariskaart van de 18de eeuw zie je dat hier dan enkele huizen en een vierkanthoeve staan.
Sempst wordt ook beschouwd als de eerste Ternatse nederzetting, verbonden met de Romeinse heirbaan. Dat de straat Kruisstraat werd genoemd bevestigt dat er op de hoogte van Sempst aan de Zwaluwput een kruis en altaar stond. De plaats wordt nog steeds door de bewoners “de zwolmput” genoemd.
