Ocho meses después se fundó oficialmente el Football Club Borussia 1900. El club pasó los primeros años ascendiendo en el sistema de ligas que existía en aquel momento en Alemania. En 1912 ascendió a la máxima categoría del fútbol alemán El equipo dirigido por Hermann Ditgens consiguió llegar en 1914 a la final del Campeonato de Alemania Occidental pero perdió la final contra el Kölner BC 01 (equipo que más tarde se convertiría en el FC Colonia).

En 1919 el FC Borussia 1900 se fusionó con el Turverein Germania 1889.

En 1920 se proclamó campeón de la Liga Oeste de Alemania tras imponerse en la prórroga 3-1 al Kölner BC. Esta victoria le permitió participar en la ronda final de la Copa de Alemania donde fue eliminado por el SpVgg Greuther Fürth por un contundente 0-7 en cuartos de final.

Al año siguiente tiene lugar la separación del Turnverein Germania 1889, con el que el Borussia se había fusionado dos años antes.

De esta forma el Borussia adoptó su nombre definitivo como Borussia VfL 1900 e.V. Mönchengladbach. Hasta 1929 no volverá a repetir éxitos el Borussia en el que consiguió el campeonato regional de Renania. Sin embargo en el campeonato de Alemania Occidental fue derrotado por el FC Schalke 04 de Ernst Kuzorra. Los siguientes éxitos llegaron en las temporadas 1933/34, 1934/35 y 1935/36 en que el Borussia fue campeón de la Liga de distrito creada por el Comisionado del Reich para la gimnasia y los deportes nazi. El primer jugador internacional que contó el club fue el defensa Heinz Ditgens que jugó con Alemania en los Juegos Olímpicos de Berlín de 1936, debutando contra Luxemburgo en un partido que terminó con la victoria local por 9-0.4

Tras la Segunda Guerra Mundial el primer partido que disputó el Borussia Mönchengladbach fue en 1946 contra el Rheydter Spielverein. El club ascendió en 1950 a la Oberliga Oeste pero a final de temporada descendió tras perder un partido contra el Alemannia Aachen.

En la temporada siguiente (1951/52) el Borussia quedó campeón en la segunda división Oeste por lo que volvió a ascender y en la temporada 1952/53 quedó decimocuarto clasificado manteniendo la categoría. Desde la temporada 1953/54 a la temporada 1955/56 el equipo se mantuvo en mitad de tabla.

En la temporada 1956/57 el Borussia contrata a Toni Turek, quien fuera portero de Alemania Federal en el Mundial de Fútbol de 1954. Esta temporada, sin embargo es mala y el equipo vuelve a descender a la Segunda División Oeste.