Als Gründungsdatum des Museums wird der 15. Mai des Jahres 1878 angegeben. An diesem Tag besprach der Rat der Akademie für Kunst und Design auf einer seiner ersten Sitzungen erstmals die Notwendigkeit einer Kunstsammlung.

Die Sammlung enstand aus Schenkungen von Privatpersonen, die mit der Akademie oder ihren Organisatoren in Verbindung standen. Unter ihnen waren Sammler, Industrielle, Diplomaten, Vertreter der russischen Aristokratie wie z. B. Fürst N. Trubezkoj, Graf A. Bobrinski, die Diplomaten E. Bjutzow, A. Wlangali, der Maler und Sammler M. Botkin, der Maler W. Swertschkow und der Industrielle I. Gromow.

Die Schenkungen waren sowohl Einzelstücke als auch ganze Kollektionen. So erhielt das Museum z. B. Ende 1879 – Anfang 1880 von dem berühmten Archäologen Heinrich Schliemann eine Sammlung von antiken Gegenständen, die für den täglichen Gebrauch und für religiöse Zwecke verwendet worden waren.

Der Finanzier und Menschenfreund Alexander von Stieglitz leitete von 1860 bis 1866 als erster die Staatsbank des Russischen Imperiums.
Seinen Schwiegersohn, den Staatsmann, Historiker und Mäzen Alexander Polowzow, lernte Heinrich Schliemann auf seiner Auslandsreise im Mai 1879 auf einem Schiff in der Nähe der Dardanellen kennen. Kurz vor seinem Tod im Jahre 1884 machte Stieglitz sein Testament, in dem er der Akademie 9.690.642 Rubel und 32 Kopeken stiftete, was zu der Zeit eine gewaltige Summe darstellte.

Die Stiftung verhalf der Schule, sich zu einer unabhängigen Bildungseinrichtung in Russland zuentwickeln. Außerdem konnten die Sammlungen des Museums mit diesen Mitteln entscheidend erweitert werden.

Der Bau des Museumsgebäudes begann im Sommer 1885 unter der Leitung des ersten Direktors Maximilian Mesmacher und konnte erst nach elf Jahren beendet werden.

Während dieser Zeit wurden für die geräumigen Säle des neuen Museums die kostbarsten Gegenstände aus dem Bereich der angewandten Kunst erworben. Darunter befanden sich Erzeugnisse aus den Materialien Porzellan, Glas, Bronze, Gold und Silber sowie Möbelstücke, Stoffe und auch wunderschöne Gobelins.

Als das Gebäude des Stieglitz-Museums am 30. April 1896 eröffnet wurde, konnte es sich sehr schnell außerordentlicher Beliebtheit erfreuen. Auf Grund der zahlreichen Ausstellungsstücke im Großen Saal wurde das Museum zu einem der meist besuchten in der russischen Hauptstadt.

In der Zeit nach der Revolution von 1917 wurden viele Privatsammlungen verstaatlicht und neben Sammlungen aus anderen Museen in das Stieglitz-Museum gebracht.

Gegen Ende des Jahres 1923 wurde das ehemalige Museum der Zentralen Akademie für Technisches Zeichnen dem Amt für wissenschaftlich-künstlerische Einrichtungen in Petrograd unter der Leitung der Ermitage unterstellt.

Am 5. Februar 1945 beschloss der Rat der Volkskommissionäre der UdSSR die Restaurierung der Leningrader Akademie für Kunst und Design. Die Arbeiten dazu begannen im Juni 1947.

Es trafen weiterhin Exponate aus der Ermitage, der Akademie der Künste und aus dem Russischen Museum ein.

Im Jahre 1955 wurde dem Museum eine Sammlung von Gewändern von russisch-orthodoxen und katholischen Geistlichen aus dem Museum für Religions- und Atheismusgeschichte übergeben.