Az intézet 1901-ben Ybl Lajos tervei szerint közadakozásból épült, eredetileg állami gyermekmenhely céljára.
A még gyermekmenhely keretében 80 ággyal működő sebészeti-ortopédiai osztály első osztályvezető főorvosa Dr. Schachter Miksa volt (1909-1917) Halála után, 1917-ben az osztály vezetését az akkor 33 éves Dr. Makai Endre vette át, akit 1944-ben kényszernyugdíjaztak. (1948-ban rk. egyetemi tanárrá és az Igazságügyi Orvosi Tanács tagjává nevezik ki, a Sebész Szakcsoport elnökévé választják meg. 1948-ban főorvosi minőségben a Fehér Kereszt Gyermekkórház sebészeti osztályának, s a kórház átszervezése után a II. Gyermekklinika Sebészeti Osztályának lett a vezetője. 1961-ben, 77 éves korában vonult nyugalomba. Sebészeti    működését több mint 100 dolgozat és több monográfia foglalja össze.)
1944-1948-ig Dr.Füzy Márton, majd 1948-1957-ig Dr.Szappanos Mihály vezette a Menhely sebészeti osztályát.
1953-tól az Intézetet az államtól a főváros vette át és 1954. augusztus 1-jétől Gyermekkórházzá minősítette, Bókay János Gyermekkórház néven. Jelenlegi nevét – Heim Pál Gyermekkórház – 1957-ben kapta.
Az akkor 555 ággyal rendelkező kórház az ország legnagyobb gyermekkórháza volt, egyúttal a Fővárosi Tanács VB. Központi Gyermekegészségügyi Módszertani Tudományos Kutató és Továbbképző Intézete 1976-ig. 1977-től lett Fővárosi Heim Pál Gyermekkórház-Rendelőintézet, 84 telephellyel.
1964-től az Orvostovábbképző Intézet (OTKI) I. Gyermekgyógyászati Tanszéke is itt kapott helyet olyan kiváló gyermekgyógyászokkal, mint Dr. Sárkány Jenő, Dr.Dobszay László, Dr.Mátyus Adorján a gyermekneurológia atyja, Dr.Szamosi József a gyermek-toxikológia megteremtője, Dr.Gorácz Gyula a gyermekpathologia    létrehozója.

1957 őszén Dr.Horváth György került a sebészeti osztály élére, aki 72 éves koráig, 1972-ig volt osztályvezető főorvos. Vezetése alatt az osztály igen komoly szakmai fejlődést ért el. A forgalom többszörösére nőtt, és ettől kezdve beszélhetünk a fejlődési rendellenességek műtéti korrekciójáról. Az akkor még hazánkban csak kezdő lépéseket tevő modern aneszteziológiai eljárások (pl. az intratrachealis narkózisok) bevezetése Dr.Hirsch Tibor nevéhez kötődik. A műtéti repertoár felölelte a gyermeksebészet csaknem   minden területét. Horváth főorvosnak köszönhetjük a csontvelőgyulladás korszerű kezelését, a komplex daganat terápiás elvek és mellkassebészeti műtétek bevezetését. Címzetes egyetemi docensként a Budapesti Orvosegyetem II. és III.Sebészeti Klinika medikusait és az OTKI szakorvosjelöltjeit oktatta. Az ország gyermeksebészetéért sokat tett mint a Magyar Sebész Társaság Gyermeksebész Szekciójának elnöke. Ebben az időben több speciális terület vált le a sebészetről: 1958-ban Dr. Berndorfer Alfréd vezetésével 15 ággyal megalakult a Fejlődési Rendellenességek Sebészeti Osztálya, és önállósult az Ortopédia is Dr. Herczeg Miklós vezetésével. 1970-ben létesült az Urológiai Osztály Dr. Tóth József főorvossal az élen. Az ajak-, és szájpadhasadékosok speciális komplex ellátását pedig Dr. Kallai Ferenc főorvos vette át az Orr-Fül-Gége Osztályon.

1972-ben Dr.Rácz Dániel vette át az osztály vezetését. Ekkor alakult ki a kórház-poliklinikai egység, a főváros korszerű gyermeksebészeti ügyeleti rendszerét, majd 1987-ben megszervezte a Központi Gyermekbaleseti Ambulanciát. Új műtéti eljárásokat vezetett be a vastagbél-, az újszülött-, és a máj (portalis) keringés sebészetében. Felülmúlhatatlan volt az akut hasi kórképek kórismézésében – noha akkor még sem ultrahang, sem CT nem állt rendelkezésünkre. Nevéhez fűződik a korszerű baleseti sebészeti elvek és szemlélet bevezetése osztályunkon, amelyet aztán Dr. Pelényi Attila vitt tovább.
Ezidőtájt újabb osztály vált le a Sebészetről: Dr.Hirsch Tibor vezetésével megalakult a főváros első Gyermekanaesthesiológiai- és  Intenzív Therápiás Osztálya. Dr.Tasnádi Géza angiológiai munkájával a magyar gyermeksebészek közül másodikként nyert el tudományos fokozatot 1979-ben. Dr.Zala György pedig az akkoriban még egyedülállónak számító onkológiai-sebészeti tevékenységet alapozta meg.
Rácz főorvos szintén jelentős szerepet vállalt az orvostanhallgatók gyermeksebészeti oktatásában, amiért Ő is címzetes egyetemi docens címet kapott. Az 1979-ben megalakult Magyar Gyermeksebész Társaság alapító és később is vezetőségi tagja volt. 1985-ben a főváros Gyermeksebész Szaktanácsadója lett. 1988-ban nyugalomba vonult, de a mai napig is szívesen látott vendégünk. Bölcs nyugalma, mély humánuma még hosszú ideig példa lesz számunkra.

1989-2001 között Dr.Tasnádi Géza vezette az osztályt. A kórház fejlődésében sokat jelentett a radiológiai osztály korszerűsítése, az ultrahang, CT és intervenciós radiológia létrejötte, nem utolsósorban az igen színvonalas laboratóriumi diagnosztika, amelyek nagyban hozzájárultak az országosan is egyedülálló angiologiai és érsebészeti profil kialakulásához. 1990-ben megtörtént a műtőtraktus korszerűsítése, kiváló felszereléssel.    Ebben az időben már működött az osztály összes mai profilja: angiológia, mellkassebészet, plasztikai sebészet, onkológia, vastagbélsebészet, manometria, gasztroenterológia és endoszkópia valamint baleseti sebészet, amelyekhez az utóbbi években a videoendoszkópos műtétek (artroszkópia, laparoszkópia és torakoszkópia) is felsorakoztak.
Egyedül az újszülöttműtétek száma csökkent, mivel Budapesten a sürgős beavatkozást igénylő veleszületett fejlődési rendellenességek a Gyermekklinikák köré szerveződött Perinatális Intenzív Centrumokba kerülnek. Ezt a gyakorlatot az amúgy is alacsony és csökkenő tendenciát mutató esetszám teszi indokolttá.
Az oktatásban és a tudományos tevékenységben folytatódtak az osztály hagyományai. Dr.Pászti Ildikó kandidátusi fokozatot szerzett, Tasnádi főorvos habilitált és a SOTE egyetemi magántanárrá nyilvánította, az osztály A kategóriájú akkreditációt kapott. 2001. májusában Dr. Pelényi Attila osztályvezető főorvosi kinevezést nyert a Szent János Kórház Gyermeksebészeti osztályán.
Tasnádi Tanár Úr nyugalomba vonulásával 2001 decemberétől Dr.Sárközy Sándor    az osztályvezető.