El AGP reconoce como antecedente más remoto de su creación la orden del gobernador Benavídez para comprar papel y cordobanes (pieles curtidas) para formar el Archivo de Gobierno, en 1840. Pero fue en 1873 cuando el gobierno nombró a un encargado de administrar el Archivo. En 1931, pasó a llamarse Archivo Administrativo e Histórico y con el tiempo cambió de denominaciones, como Archivo Histórico de la Provincia, Museo y Archivo Histórico o Archivo Histórico y Administrativo. La modificación más importante se dio en 1984, cuando por ley se creó el Sistema Provincial de Archivos y el Archivo General de la Provincia, cuyo primer director fue Juan Mariel Erostarbe.

El AGP está conformado por tres áreas: el Departamento Archivo Histórico, el Departamento Archivo Intermedio y el Departamento Biblioteca y Hemeroteca. El Histórico custodia la documentación de guarda desde 1601 hasta 1980, el Intermedio guarda material de menos de 30 años de antigüedad y la Biblioteca y Hemeroteca contiene colecciones bibliográficas y publicaciones periódicas del siglo XIX a la actualidad.