Am 13. Juli 1574 entstand das Berlinische Gymnasium „Zum Grauen Kloster“ in der heutigen Klosterstraße. 1271 war am späteren Ort des Gymnasiums vom Bettelorden der Franziskaner das Graue Kloster gegründet worden. Nach dem dem Tod des letzten Franziskaners 1571 im Kloster, bestimmte der Brandenburgische Kurfürst Johann Georg die weitere Nutung des Klosters als Gymnasium und weihte dieses am 13. Juli 1574 ein. Durch den Einzug der bereits 1571 zusammengelegten Pfarrschulen St. Marien und St. Nikolai wurde das Berlinische Gymnasium als höchste Berliner Bildungseinrichtung und als erste Landesschule der Mark Brandenburg gegründet. Es entwickelte sich zur bürgerlichen Berliner Bildungsanstalt ersten Ranges. Im Mai 1767 wurde das Berlinische Gymnasium mit dem Cöllnischen Gymnasium vereint und gemeinsam als Berlinisches Gymnasium zum Grauen Kloster bis 1824 fortgeführt.
Um 1770 ließ der damalige Rektor Anton Friedrich Büsching links neben der Franziskaner-Klosterkirche das neue Schulgebäude errichten. 1819 schenkte Friedrich Wilhelm III. dem Gymnasium das „Lagerhaus“, in dem Aula, Bibliothek und naturwissenschaftliche Lehrsäle beheimatet waren. Durch Bombentreffer im Jahre 1945 wurden das Gebäude des Gymnasiums und die nebenstehende Kirche zerstört. Die Schule zog daher zunächst in das ehemalige Rektorenhaus der Friedrichswerderschen Oberrealschule in der Weinmeisterstraße 15, 1949 in die Gebäude des nach Berlin-Wedding umgezogenen Französischen Gymnasiums in der Niederwallstraße. 1958 wurde der Schule in der Niederwallstraße im Rahmen der SED-Schulpolitik der alte Name Graues Kloster offiziell entzogen. In dem Gebäude bestand dann bis 1984 die EOS Berlin-Mitte.