Durante la presidencia de Domingo Faustino Sarmiento (1868 -1874) Argentina comenzó a perfilarse, tras luchas internas y guerras externas, como una gran república. Los adelantos tecnológicos se incorporaban con rapidez (telégrafo y ferrocarriles, entre otros) y durante este período se produjo una serie de avances relacionados con los buques, los puertos y la navegación, que marcaron el destino del país. Uno fue la creación de la Escuela Naval Militar, en 1872, por Domingo F. Sarmiento, a instancia del Sargento Mayor de la Marina, Clodomiro Urtubey, quien fue el primer director de dicha institución.
Sugirió la creación de un instituto que brindó a los jóvenes que de él egresaron, una formación académica que respondía al imperativo de la época. Es por ello heredera de la mejor tradición pedagógica argentina, en especial por el cultivo de las ciencias, el respeto a la libertad y a la democracia, como forma de vida: tal era el ideal sarmientino.
A lo largo de su historia ha tenido diversas sedes, siendo la primera de ellas el Vapor "General Brown", hasta que se produjo el Motín de los Gabanes 1875 y por tal motivo posteriormente fue instalada en la Corbeta "Uruguay"; a bordo de la cual egresó la primera promoción (1879).
Los historiadores han bautizado con el nombre de flota de Sarmiento, o de "fierro”, a la serie de buques que fueron encargados a Inglaterra, principalmente a los astilleros Cammel en los comienzos.
En esa época se tomaron las medidas concretas para la organización definitiva de la armada, gracias a los conocimientos que tomó de la guerra de secesión norteamericana y de la evolución de las armas durante este conflicto.
Sarmiento, de la misma manera que los hombres de Estado, se afirmaba en el esquema geopolítico tradicional, que fundaba la seguridad de la nación en la ocupación de sus territorios, en poblarlo y educarlo. Mientas se resguardaban las entradas al país hacia su interior.
Su figura concilió el pensamiento militar de su generación, al haber sumado su natural clarividencia civilizadora la dura experiencia que había vivido desde la independencia.
Por lo tanto, la visión que de ello resultaba no podía ser otra que sin desconocer la importancia de los confines de la Patria, ligaba sus intereses fundamentales a la región del Río de La Plata
Sobre la base de estos principios, fue organizándose y creciendo nuestra Marina de entonces, aunque también orientados por el pensamiento estratégico y el desarrollo tecnológico de otras potencias marítimas de la época. De esta manera, se vio modificada la estrategia naval nacional, que hizo cambiar en la Armada aquellos conceptos con que fue conformada inicialmente.
En 1874 con la ley de armamentos navales se crea un batallón de marineros de 400 plazas para el servicio de la escuadra. Mediada que va gestando lo que llegaría a ser mas tarde El Cuerpo de Infantería de Marina, la Armada empezaba a tener un carácter orgánico y moderno con la incorporación de los nuevos adelantos.
En 1888 dijo Sarmiento de ella: "Creed que guardo la seguridad de que con la Escuela Naval quedará garantida la Independencia que nos legaron nuestros padres y asegurando el vínculo que une a todas las otras naciones, por el cultivo de las creencias y de las artes que dominan las olas y combaten la injusticia”.
Desde el egreso de la primera promoción hasta la fecha, la Armada Argentina se ha nutrido de oficiales, que no sólo se han destacado en sus tareas profesionales, sino también en el orden científico, pedagógico y humanístico con proyecciones nacionales e internacionales. Contribuyendo en la exploración y reconocimiento de la Patagonia, así también el asentamiento permanente en el sector Antártico Argentino (siendo el Capitán Hermes Quijada el primer argentino en aterrizar en el Polo Sur geográfico).
Desde 1943 hasta hoy se encuentra ubicada en el solar que ocupa a orillas del Río Santiago, próxima al Puerto de la Ciudad de La Plata, aproximadamente a una hora de la Ciudad de Buenos Aires.