Az 1868. évi népoktatási törvény adta meg azt a keretet, ami a városi szintű iskolakoncepció kialakítását eredményezte. Ezt megelőzően egyházi iskolák működnek a városban: 1664-től református, 1769-től katolikus, a 19. század közepétől izraelita népiskolák, kezdetben 1-2 évfolyammal. A felsővárosi körzetben a Vörösmarty utcában volt iskolája a református egyháznak egy tanteremmel 1912-ig. Ide első osztályos tanulók jártak, fiúk, lányok vegyesen. 1904-től a jelenlegi Felsővárosi Óvoda épületének egy termét iskolai célra használták 1912-ig. 1745-ben épült a református egyház fiúiskolája a templommal szemben. Ezt az épületet 1945 után lebontották, ma a Szilády Áron szobor áll a helyén. A leányiskola a Szűts József Általános Iskola helyén állott. Ezt 1911-ben lebontották az építkezés miatt.
1870-ben református egyház iskoláit átadták a városnak, községi iskolaként egységes irányítás alá kerültek, s a század végéig 4 évfolyammal működtek. A század végétől vezették be a községi iskolában a 6 évfolyamos oktatást, és az 5-6. osztályt összevont formában működtették. A katolikus és zsidó elemi iskolák továbbra is egyházi kezelésben maradtak 1948-ig.
1907-ben az állam átvette az iskolákat a várostól. Az iskolák állami kezelésbe vételét követően városi iskolaépítési program készült. Ennek végrehajtásaként épült fel a Központi Iskola 1911-ben, az Alsóvárosi és Felsővárosi 1912-ben nyílt meg. A Felsővárosi 8 tantermes iskolát Schmidt D. Gyula budapesti építész tervei alapján építették fel, s 1912 szeptemberétől önálló igazgatóságként működik. Felépültével a Vörösmarty utcában, illetve az óvodában működő osztályok megszűntek.
A Felsővárosi Elemi Népiskolában működő osztályokban 1912-1945 között csak 4 évfolyamot lehetett elvégezni. Azok a tanulók, kik nem tanultak tovább, a központi iskolában végezték el az 5-6. osztályt. A fiúkat-lányokat külön oktatták. 1947-ben a Református Polgári Leányiskola beleolvadt a Felsővárosi Általános Iskolába. Ez időtől kezdve a felső tagozatos tanulók a volt Református Polgári Leányiskola épületében, az alsó tagozatosok a Szabadság téri épületben tanultak.
1976-ban készült a Felsővárosi Általános Iskola új szárnya. A Szilády Áron utcai épületet a Kisegítő Iskola kapta meg. A régi épületszárnyat 1977-78-ban újították fel. A megnövekedett létszámok miatt a termek számát belső átépítéssel néggyel növelték. Ebédlőnk 1980-ban készült el.
A Felsővárosi Iskola igazgatója az 1912/13-as tanévtől Paczolay Győző, őt követte Frőhlich Lajos, Mácsai János, Zsubori Károly, Dr. Gszelmann Ádám, Kerekes Katalin és Juhászné Czinkóczi Éva. A jelenlegi igazgató Rekedt-Nagyné Forczek Leona.