Nació el 16 de agosto de 1916 en París, Francia. Realizó sus estudios primarios en Bruselas en la Ecole des Dames Trinitariesy en el College Saint Boniface. Sus estudios secundarios los empezó en el College Saint Boniface pero, con el regreso de su familia a Colombia, ingresa al colegio San Bartolomé de Bogotá. Más adelante se traslada a Nueva York, en donde estudia en el Blessed Sacrament School, pero termina su bachillerato en el Colegio Alemán de Bogotá. Ingresa a la Universidad Nacional de Colombia de la que se gradúa en 1943 como arquitecto.

En 1945 acepta dictar la cátedra de Introducción a la Arquitectura en la Universidad Nacional de Colombia y es aceptado como miembro del grupo CIAM (Congres Internationaux d’Architecture Moderne). Tras los disturbios del 9 de abril de 1948, Arbeláez y otros arquitectos proponen la creación de un organismo especializado para la reconstrucción de Bogotá, y en 1949 es nombrado Director General de Edificios Nacionales del Ministerio de Obras Públicas. En 1951, además de continuar como catedrático de la Universidad Nacional, dicta catedra de Historia de las Comunidades (Urbanas) en la Pontificia Universidad Javeriana. En 1952 abandona su trabajo para adelantar estudios complementarios en Londres en donde se hace alumno del Ministry of Housing and Local Government, y en el School of Planning and regional Research. En 1953 se traslada a Paris donde estudia en el Ministére de L’Urbanisme.

Pionero en la investigación de la Arquitectura Colonial, realizó estudios sobre la arquitectura del municipio Boyacense de Monguí, la catedral de Tunja y la catedral de Zipaquirá. Así descubre una especial fascinación por el estudio y la preservación del patrimonio artístico y cultural colombianos. En 1961 es nombrado presidente de la Asociación Colombiana de Arquitectos y en 1962 funda y dirige el Instituto de Investigaciones Estéticas de la Pontificia Universidad Javeriana que hoy en día lleva su nombre. Fue miembro fundador de la Sociedad Bolivariana de Arquitectos, en Caracas, 1963, y en 1964 obtiene la Mención de Honor en la II Bienal Colombiana de Arquitectura por los trabajos realizados en el Instituto de Investigaciones Estéticas.

Para 1965 decide dedicarse exclusivamente a la investigación, renunciando así a sus otros cargos, en 1967 fue nombrado Secretario general de la Academia Colombiana de Historia. Muere en Bogotá el 24 de mayo de 1969, a la edad de 52 años.

Carlos Arbeláez se desempeñó no sólo como arquitecto, sino como descubridor de la historia colonial a través de la arquitectura. Entre sus obras principales se cuentan, además de varios artículos en publicaciones seriadas, Las Artes en Colombia. La Arquitectura en la República Escrito junto a Gabriel Uribe Céspedes.