Nació en Ocaña (Santander). Hijo de Antonio José Caro y de Nicolasa Ibáñez y Arias, recibió su primera educación de su abuelo, el español Francisco Javier Caro Obtuvo el título de bachiller en el Colegio de San Bartolomé y allí mismo hizo estudios de Derecho, pero no alcanzó a doctorarse. Desde muy temprano comenzó su carrera política y literaria; a los 20 años se le asignó el cargo de contador del Ministerio de Hacienda, pero pronto renunció a él. Sus primeros poemas los escribió siendo aún un adolescente. La mayor parte de su obra apareció en forma de artículos de periódico en El Granadino y La Civilización. Cuando en 1840 estalló en el sur del país una revolución liberal encabezada por el General Obando, Caro ingresó al ejército nacional y participó durante dos años en campañas de guerra. Regresó a Bogotá en 1842 y continuó la redacción de su periódico El Granadino.

Durante la presidencia del General Pedro Alejandro Alcátara Herrán (1841-1845), y durante la primera presidencia del General Tomás Cipriano de Mosquera (1845-1849) fue diputado al Congreso, Director de Crédito Nacional y Ministro de Hacienda Pública. En estos cargos hizo algunas reformas: redactó un nuevo reglamento pare la Cámara de Diputados, obtuvo la aparición de nuevas leyes de Hacienda, Minería y Agricultura e introdujo la contabilidad pública por el sistema inglés.

Su autodestierro es uno de los episodios más recordados de su vida. Se motivó a raíz de sus publicaciones contra el Presidente José Hilario López y contra el Gobernador de Cundinamarca, siendo sancionado por éste último. Se asiló en Nueva York y en 1853 regresó a Colombia en donde le sorprendió la muerte, al llegar a Santa Marta. Tenía entonces 36 años de edad.

Poesías. Prólogo de José Joaquín Ortiz. Bogotá, 1857.

Obras escogidas en prosa y en verso: Publicaciones inéditas... ordenadas por los redactores de El Tradicionista, con una introducción de su hijo Miguel Antonio Caro y una poesía apologética de Rafael Pombo. Bogotá. 1873.

Poesías. Precedidas de recuerdos necrológicos escritos por D. Pedro Fernández Madrid y D. José Joaquín Ortiz, con notas apéndices. Madrid. 1886.

Antología: versos y prosa. Biblioteca Popular de Cultura Colombiana, Bogotá, 1951.

Epistolario. Edición de Simón Aljure Chalela, Biblioteca de Autores Colombianos, Bogotá, 1953, Ed. A. B. C.

Caro, Miguel Antonio, "José Eusebio Caro", en Obras Completas. Bogotá, 1920, T. II pp. 56-108.

García Prada, Carlos. Antología de líricos colombianos. Bogotá, 1936, vol. I, pp. 105-126. (con selecciones).

Gómez Restrepo, Antonio. La literatura colombiana. Bogotá, 1926. pp.,. 67-70.

"Discurso... en la inauguración del busto de J. E. Caro' Crítica Literaria, Bogotá, 1936, pp. 115-134 (Biblioteca Aldeana de Colombia T. 8).

Historia de la literatura colombiana, (2a ed.), Bogotá, 1946. T. IV, pp. 53-73.

Menéndez y Pelayo, Marcelino. Historia de la poesía hispanoamericana. Madrid, 1913 T. II, pp. 45-54.

Ortega, José J. Historia de la Literatura Colombiana, Bogotá, 1934, pp. 168-171.

Otero Muñoz. Gustavo. "José Eusebio Caro", en Semblanzas Colombianas, Bogotá, 1938. T. II, pp. 92-101. (Biblioteca de Historia Nacional) LVI.

Sanín Cano, Baldomero. Letras Colombianas. México, 1944, pp. 73-77.

Arango Ferrer, Javier. Dos horas de literatura colombiana. Medellín, Imp. Departamental, 1963.

Galvis Salazar, Fernando. José Eusebio Caro. Bogotá, Imp. Nacional, 1956.

Jaramillo Uribe, Jaime. El Pensamiento colombiano en el Siglo XIX, Bogotá, 1963.