Historia budynku sięga 1894 roku. Został wybudowany jako okazały gmach dla 135 uczniów. Mieściło się w nim prywatne niemieckie progimnazjum męskie.
Z początkiem 1920 r. ks. dr Paweł Kirstein przejął w imieniu władz polskich owe progimnazjum, a już w drugiej połowie lutego tegoż roku rozpoczęła się nauka w tej szkole. Pierwszym polskim dyrektorem progimnazjum został mianowany przybyły z Krakowa Zygmunt Paulisz - 1 kwietnia 1920 roku.
W 1922 r. w styczniu przemianowano progimnazjum na gimnazjum, a od września tegoż roku nazwano je państwowym gimnazjum ośmioklasowym o profilu klasycznym. Szkoła ponadto dysponowała salą gimnastyczną oraz aulą, w której odbywały się uroczystości szkolne. Biblioteka posiadała księgozbiór dla uczniów i nauczycieli.
W marcu 1932 r. w związku z wydaną ustawą o ustroju szkolnictwa w miejsce
8-klasowego gimnazjum wprowadzono 4-letnie gimnazjum i 2-letnie liceum. W wyniku ustawy szkoła została przemianowana w Państwowe Gimnazjum Męskie im. Józefa Wybickiego. Pierwsi absolwenci tej szkoły zdawali małe matury w 1937 r., a duże matury w maju 1939 roku.
Po wojnie do roku 1963 w budynku przy ulicy Strzeleckiej 1 mieściło się Liceum Ogólnokształcące. Szkołę Podstawową nr 2 powołano w kwietniu 1945 roku. Jej siedzibą był budynek przy ulicy Tkaczyka (dzisiejszy Powiatowy Urząd Pracy). Kierownikiem szkoły został Leon Niedzielski.
Po 18 latach pracy i nauki (tj. 1963r.) z ciasnych pomieszczeń szkoła została przeniesiona do obecnego budynku.
W 1965 r. dzięki staraniom dyrektora B. Walentowskiego szkoła otrzymała imię Leona Heyke. W ścianę szkoły, w której uczył się przed wojną Leon Heyke wmurowano pamiątkową tablicę.
Przez wszystkie lata pracy szkoła cieszyła się dużym prestiżem wśród dzieci i młodzieży, nauczycieli i rodziców. Obecnie w szkole organizuje się różne kółka zainteresowań co ma bezpośrednie odzwierciedlenie w jakości nauczania, rozwijania zainteresowań uczniów, a przede wszystkim promocji szkoły.
W październiku 2005 roku obchodziliśmy 60-lecie Szkoły Podstawowej nr 2 im. ks dra Leona Heyke. Na tej uroczystości uczniowie pod kierunkiem nauczycieli przedstawili dorobek 60 lat istnienia szkoły.