Die Kirche steht auf dem höchsten natürlichen Punkt Berlins, dem alten Weinberg. Möglicherweise war dies einer der Gründe, warum der Berg Zion ("Der Ort, wo Gott wohnt") in Jerusalem zum Namensgeber der Kirche und der Gemeinde wurde. Die städtebauliche Funktion auf einem fünfeckigen Platz im Schnittpunkt dreier Straßen war für den Architekten Orth so bedeutsam, dass er die übliche Anlage des Chores nach Osten (Ostung) nicht durchführte. Der 67 Meter hohe Turm steht genau im Schnittpunkt von Zionskirch- und Griebenowstraße und diente durch seine Höhe auch als Orientierungs- und Aussichtspunkt. Orth entwarf einen Backstein-Terrakotten-Bau im Stil des Berliner Historismus. Romanischer Stil wurde mit Gotischen Elementen verknüpft. Beide Formen galten als "nationaler Stil". Denn der Bau sollte ja nicht nur ein Ort der Ruhe und inneren Sammlung, sondern als steingewordener Dank des Kaisers auch ein "Patriotisches Monument" sein.