Der jüdische Friedhof bei Tor 1, eröffnet 1879, erwies sich alsbald als zu klein.

Da aufgrund der dortigen örtlichen Verhältnisse Erweiterungen Grenzen gesetzt waren, beschloss die Israelitische Kultusgemeinde am 8. Jänner 1911 ein neues Gelände zu erwerben.

Vom Schwechater Brauereibesitzer Anton Dreher wurde ein an den evangelischen Friedhof angrenzendes Grundstück im Ausmaß von
243 770 m² angekauft um einen neuen jüdischen Friedhof anzulegen.

Der Preis betrug 1 089 382,84 Kronen.

Im Jahre 1913 erfolgte die Ausschreibung eines Wettbewerbs zur Erlangung von Entwürfen für die Errichtung der Friedhofsanlagen.

Von den eingereichten Entwürfen wurde das Projekt des Architekten Adolf Oberländer mit dem ersten Preis ausgezeichnet. Die Verwirklichung des Projektes war jedoch wegen des Ausbruches des Ersten Weltkrieges nicht mehr möglich.

Man beschränkte sich daher auf die Errichtung einer provisorischen Zeremonienhalle (heute Steinmetzwerkstätte), die nach den Plänen von Jakob Gartner vom Baumeister Edmund Melcher in den Jahren 1916 und 1917 erbaut wurde.

Am 4. April 1917 wurde in einer stillen Feier in dieser provisorischen Zeremonienhalle der neue Friedhof eröffnet, die erste Beerdigung erfolgte am 19. April 1917.

Als sich in den Nachkriegsjahren die wirtschaftliche Lage gebessert hatte, wurde ein neuerlicher Wettbewerb für die Errichtung der Friedhofsanlagen ausgeschrieben.

Dem Architekten Ignaz Reiser wurde für sein Projekt „Bet ha-chajim XI” der erste Preis zugesprochen. 1926 begannen die Bauarbeiten, eingeweiht wurde die Halle in der 500 Menschen Platz finden, am 9. September 1928.

Die im Grundriss achteckige, von einer Kuppel gekrönte Zeremonienhalle bildete das Zentrum des Baukomplexes, zu dem auch zwei Leichenhallen (für infektiöse und nichtinfektiöse Leichen), eine Beisetzkammer und ein Verwaltungsgebäude gehörten.

Bemerkenswert sind die nach dem 2. Weltkrieg gestalteten Glasfenster in der Zeremonienhalle: „Zerstörung der Tempel”, „Theresienstadt”, „Todeslager”, „Engel tragen die Menora zur Glorie”.

Der im Jahre 1935 im Ausmaß von 16 000 m² erweiterte Friedhof kam 1938 gemeinsam mit den jüdischen Friedhöfen in Floridsdorf und in Währing sowie der Israelitischen Abteilung beim 1. Tor in die Verwaltung der Stadt Wien.

Im November 1938 wurde die Zeremonienhalle verwüstet und in den letzten Monaten des Zweiten Weltkrieges durch Bombentreffer schwer beschädigt (Wiederaufbau 1967).

Im Jahre 1951 wurde der Beerdigungsdienst von der Israelitischen Kultusgemeinde wieder aufgenommen. Das Rückstellungsverfahren wurde im November 1955 abgeschlossen.

1987 wurden die Reste von den Thorarollen, die während des Novemberprogroms 1938 geschändet wurden, am Platz neben der Zeremonienhalle begraben, 1991 errichtete man hierfür einen Gedenkstein.

Inschrift: Hier wurden am 12. Siwan 5747 (14.6.1987) Reste von Torahrollen begraben, die in der "Kristallnacht" des Jahres 1938 von Nazihorden entweiht, zerissen und verbrannt wurden.
Chewra Kadischa, 1991

Unweit davon befindt sich ein Gedenkstein für gefallene jüdische Soldaten (1948 - 1998).