In einer auf den 30. Dezember 1370 datierten Urkunde wird erstmals eine Büchersammlung im Besitz des Rats fassbar. Der auf juristische Handschriften beschränkte Kernbestand wurde durch Stiftungen und gezielte Zukäufe ausgebaut und 1433 in einem separaten Raum im Rathaus untergebracht. Um 1500 zählte die Ratsbibliothek 317 Handschriften und Drucke mit Texten der an den Universitäten gelehrten Fächer einschließlich der humanistischen Wissenschaften. Die Ratsbibliothek ging nach Einführung der Reformation 1525 in einer weiteren Gründung des Rats auf.
Aus den sechs zwischen 1525 und 1543 aufgehobenen Männerklöstern im Stadtgebiet wurden die dort verbliebenen Büchersammlungen von der Stadt übernommen und 1538/43 im direkt neben dem Rathaus gelegenen ehemaligen Dominikanerkloster zusammengeführt. In die „Bibliotheca publica Norimbergensis“ oder öffentliche Stadtbibliothek gingen 1596 auch die Bestände der beiden dann ausgestorbenen Frauengemeinschaften ein, darunter die bedeutende, meist volkssprachige Klosterbibliothek der Dominikanerinnen von St. Katharina. Die Zahl der Neuerwerbungen für die Stadtbibliothek blieb stets beschränkt; es dominierte das zur Festigung im neuen Glauben beziehungsweise in den konfessionellen Auseinandersetzungen benötigte Schrifttum. Wesentliche Bestandszuwächse kamen durch Ankauf oder Stiftung von Privatbibliotheken einzelner Gelehrter, Patrizier und Bürger zustande. Bis in das 19. Jahrhundert hinein sind neben den Büchern Antiquitäten, Kunstgegenstände, naturhistorische Gegenstände und wissenschaftliche Geräte gezeigt worden.
Mit der Übernahme der Norischen Bibliotheken des Altdorfer Professors Georg Andreas Will (1727-1798) und des Nürnberger Kaufmanns Georg Paul Amberger (1789-1844) wurde der Grundstein für das bis heute gepflegte Spezialgebiet zur möglichst vollständigen Dokumentation des Schrifttums zu und über Nürnberg gelegt.