Nachdem Brände die frühromanische, im Jahr 1082 geweihte Kirche unbrauchbar gemacht hatten, musste ein Neubau errichtet werden.
1277 wurde das Langhaus vollendet. Unter Abt Anton Wolfradt (1613-39) erreichte die erste Barockwelle die Kirche. Ihre endgültige Gestalt bekam sie unter Abt Erenbert Schrevogl (1669-1703). Er beauftragte oberitalienische Baumeister und Stukkateure, die in kurzer Zeit (1680-82) die Kirche dem neuen Ideal anpassten. Das Hochaltarbild von Andreas Wolf wurde nach 12-jähriger Arbeitszeit 1712 vollendet.
Das Kirchlein dürfte bereits vor der Klostergründung (777) als Taufkapelle gedient haben, worauf der frühere Name "St. Johann in der Zagelau" hinweist. (Die Zagelau war der Ort, an dem die Äste und Zweige von der Baumrodung gelagert wurden.)
Abt Heinrich II. (1362 - 1367) begann es umzugestalten, sein Nachfolger Abt Heinrich III. (1367 -1376) vollendete den Bau.
Beim großen Brand am 25. Juni 1802, dem 41 Häuser des Marktes zum Opfer fielen, wurde auch die Kirche zur Gänze zerstört. Den Bemühungen des Kaufmannes und Marktrichters Josef Margelik ist der Wiederaufbau 1806 zu danken.
Ein Bild des hl. Johannes des Täufers, gemalt um 1810 von Anton Meyer, einem Schüler des berühmten "Kremser Schmidt", schmückt den klassizistischen Hochaltar.
Als Stätte des Gottesdienstes steht die Filialkirche heute sowohl Katholiken als auch evangelischen Christen offen.