Nachdem die alte Philharmonie Berlins an der Stadt-Peripherie, der Bernburger Straße, durch einen Bombenangriff im Zweiten Weltkrieg zerstört worden war, fand 1956 nach einer Interimszeit mit Nutzung diverser Spielorte die Ausschreibung für einen Neubau statt. Unter den teilnehmenden Architekten wurde der Entwurf von Hans Scharoun angenommen zwischen 1961 und 1963 realisiert. Das Eröffnungskonzert leitete Herbert von Karajan, seine Nachfolger am Dirigentenpult waren Claudio Abbado, Sir Simon Rattle und seit der Spielzeit 2018/19 Kirill Petrenko. Der Bau gehört mit dem Kammermusiksaal, dem Musikinstrumenten-Museum Berlin und weiteren Gebäuden zum Kulturforum Berlin in der Nähe des Potsdamer Platzes.
Die Form des für die damalige Zeit außergewöhnlichen Entwurfs ist asymmetrisch und „zeltartig“ rund um den Kern des Gebäudes – die Bühne – angelegt, gemäß Scharouns Prinzip, Gebäude „von innen nach außen“ zu entwickeln. Der Saal bietet 2250 Zuschauern Platz, der später gebaute Kammermusiksaal bietet 1180 Sitzplätze. Der Konzertsaal selbst besteht aus ringsum ansteigenden Logen, die fast überall gute Sicht auf die Bühne bieten. Diese „Weinberg-Architektur“ war die erste ihrer Art und wurde seither vielfach in weiteren Konzerthäusern aufgegriffen.
Die in der Philharmonie eingebaute Orgel umfasst 91 Register und wurde 1965 von der Firma Schuke erbaut. Seit 2008 ermöglicht die sogenannte Digital Concert Hall, das digitale Medium der Philharmonie, die meisten der stattfindenden Konzerte in hoher Bild- und Tonqualität als Stream im Internet zu verfolgen oder Konzertmitschnitte der letzten fünfzig Jahre anzusehen. Die interne Ton- und Übertragungstechnik des Saals ist so gestaltet, dass Mitschnitte ohne große sichtbare Eingriffe erfolgen können. Mit ihrer Digital Concert Hall leisteten die Berliner Philharmoniker Pionierarbeit.
Die Außenfassade der Philharmonie ist seit 1981 mit goldfarbenen Platten verkleidet, was den weithin gelb leuchtenden Bau zu einem Wahrzeichen der Stadt Berlin gemacht hat. Die Berliner Philharmonie ist die Spielstätte der Berliner Philharmoniker.