Nació en la localidad de Guaja, provincia de La Rioja, en 1798. Poco se conoce sobre su infancia y juventud. Recién hacia 1820 –según referencias- habría dado sus primeras acciones de guerra, integrando las huestes de Facundo Quiroga. Así, en la batalla de El Tala (octubre de 1826), donde el Tigre de los Llanos derrota a las fuerzas unitarias, Peñaloza se destaca, siendo ascendido de teniente a capitán.
Su carrera como militar lo llevó desde comandante del Departamento de Los Llanos a general de la provincia, desde donde tuvo una marcada influencia sobre los acontecimientos políticos que sacudieron a las provincias de Cuyo y noroeste del país. Hacia finales de la década de 1850, acompañó al presidente de la Confederación Argentina, Justo José de Urquiza, interviniendo la provincia en varias oportunidades.
Ángel Vicente Peñaloza inició la resistencia con un numeroso ejército, pero resultó derrotado en varias oportunidades en 1862. Luego de firmar un armisticio con el gobierno mistrista, se levantó nuevamente en mayo de 1863. Entonces, no fue reconocido como ejército federal en combate, sino como una simple cuestión policial. Urquiza no respondió al llamado de Peñaloza, quien fue, derrota tras derrota, obligado a replegarse. Tras desorientar al ejército nacional, intentó avanzar sobre San Juan, pero fue vencido en la entrada de la capital.
Luego de haberse rendido y entregar las armas, fue asesinado brutalmente. Era el 12 de noviembre de 1863. Su cabeza fue exhibida sobre una pica en la plaza de Olta, en medio de los llanos riojanos. Su legado fue retomado por las montoneras federales, que se levantaron para oponerse a la Guerra del Paraguay. Entre ellos, estaban Juan de Dios Videla, los hermanos Saá, Felipe Varela y Ricardo López Jordan.