Este centro é un dos máis antigos existentes na Península; foi creado en 1892, sobre o antecedente das asociacións "Cofradía de naturales y originarios de Galicia" fundada en 1741 e de "Galicia Cultural" fundada en 1870 polo escritor galego Teodoro Vesteiro.
O acto fundacional estivo presidido por Manuel Becerra, Alfredo Vicetto, P. Carracido, Manuel Curros Enríquez, tendo como presidentes de honra a figuras destacadas como o Marqués de González Besada, a Condesa de Pardo Bazán, Ramón Suárez Picallo, Manuel Castro Gil, Constantino Lobo Romero, éste último presidente desde 1945 ata finais dos anos 60. Outros persoeiros que participaron activamente na devir do centro foron José Sánchez Anido, Manuel López Peña, Antonio Palacios, Basilio Álvarez, Francisco Llorens, Cesáreo González Rodríguez, Dionisio Gamallo, Pío Cabanillas, Feliciano Barrera ou Constantino Lobo Montero.
Nos seus Estatutos (os primeiros datan do 8 de maio de 1893) teñen como finalidade: promover a presencia e manter vivo o recordo de Galicia en Madrid a través de actos culturais, educativos, asistenciais, sociais, deportivos, artísticos, etc.; fomentar a solidariedade entre todos os galegos e simpatizantes; procurar a elevación do nivel social e cultural de todos os seus socios e familiares; prestar en canto sexa posible, asesoramento gratuito e asistencia intelectual, moral e material aos galegos necesitados, sexan ou non socios; fomentar e patrocinar a celebración de concursos, certámenes e exposicións especialmente de productos galegos e de artistas da rexión; celebrar conferencias e actos culturais en especial aqueles que se refiren aos valores galegos etc.
En 1894 a directiva asinou un contrato co Colexio de Isabel la Católica, para que nel poidesen recibir os seus socios unha instrucción completa. Tamén desde o primeiro día do mes de marzo deste ano rixe un servicio especial de beneficencia para os galegos e as súas familias co obxecto de socorrelos e asistilos nas súas enfermidades, establecendo un horario diario e consultas a domicilio. Ten ademais en estudio unha casa de saúde, un consultorio médico e unha botica central. Estableceuse tamén un consultorio xurídico para toda clase de asuntos civís, mercantís, criminais e administrativos.
Xa avanzando o século XX as actividades do Centro estarán cada vez máis centradas en actividades culturais e recreativas como a celebración do Día das Letras Galegas, e de romarías populares, organización de conferencias e exposicións, cursos gratuítos de ensinanza e perfeccionamento do galego, cursos de música galega, de gaitas, de percusión e de bailes, ofertados na súa escola creada en 1994. Non obvian a asistencia social aos galegos, aínda que non sexan socios: facilitando billetes de tren, axudas para dormir, comidas a transeúntes, visitas a hospitais etc.
Fundan en 1923 a Agrupación artística gallega "Rosalía de Castro", que na actualidade está desvinculada do Centro.
Editan un boletín "Galicia en Madrid", mensual e gratuito, como órgano de información ós socios; e as revistas "Mundo Gallego" que aparece por vez primeira en 1952, cun prezo de 6 pesetas e baixo a dirección de Manuel Fraga de Lis ata 1974. En 1996 volve a editarse baixo o mesmo nome e "Galicia en Madrid" creada o ano 1983 e que se segue a publicar na actualidade.