Po ukončení gymnázia vo Zvolene (1934 – 1938) začal v roku 1938 študovať na Lekárskej fakulte Karlovej univerzity v Prahe, okupácia Čiech a Moravy jeho štúdium ale predčasne ukončila. V rokoch 1942 – 1944 bol väznený v pracovnom tábore v Novákoch. Na jeseň 1944 sa aktívne zapojil do Slovenského národného povstania, bol veliteľom židovskej partizánskej jednotky. Po vojne v roku 1949 absolvoval štúdium slovenčiny a francúzštiny na Filozofickej fakulte Slovenskej univerzity v Bratislave (dnes Univerzita Komenského). Ako novinár začínal v časopise Partizán (1946 – 1950). Neskôr sa stal šéfredaktorom odbojárskeho týždenníka Bojovník. Okrem kultúrno-politických článkov publikoval aj literárne, divadelné a výtvarné recenzie.  Krátky čas (1949 – 1951) pôsobil aj na kultúrnom oddelení Ústredného výboru Komunistickej strany Československa. V rokoch 1951 – 1970 pôsobil v Ústave slovenskej literatúry Slovenskej akadémie vied. Od roku 1970 bol na dôchodku. Manželka Dalma Holanová-Špitzerová, herečka. Dcéra Zuzana Szatmáry, publicistka.

J. Š. publikoval na prelome štyridsiatych a päťdesiatych rokov recenzie na divadelné predstavenia v denníkoch Pravda, Bojovník, Nové slovo. Bol súčasťou kolektívnej kampane v máji 1949 proti hre L. Laholu Atentát. Hra bola po prvej repríze stiahnutá z repertoáru Slovenského národného divadla ako škodlivá a poplatná existencialistickým vzorom. Začiatkom päťdesiatych rokov patril medzi kritikov tzv. buržoázneho nacionalizmu (najmä so zameraním na tvorbu L. Novomeského a na moderné umenie). Na plenárnom zasadnutí Zväzu spisovateľov v máji 1951 vystúpil s referátom kritizujúcim príslušníkov avantgardnej ľavicovej skupiny DAV (knižne vyšiel v roku 1951 pod názvom Proti buržoáznemu nacionalizmu a kosmopolitizmu – za vyššiu ideovosť slovenskej kultúry). Za svoj postoj sa neskôr ospravedlnil a pričinil sa o rehabilitáciu L. Novomeského a L. Laholu.

V päťdesiatych a šesťdesiatych rokoch pôsobil ako šéfredaktor Kultúrneho života (1956 – 1958, 1965 –1967), ktorý bol kritický voči súdobým politickým pomerom v Československu. V roku 1962 v období III. zjazdu Zväzu československých spisovateľov pôsobil ako slovenský tajomník. V roku 1967 spoluorganizoval IV. zjazd Zväzu československých spisovateľov, na ktorom sa otvorene kritizovalo komunistické vedenie krajiny. Vystúpili tu viaceré osobnosti ako M. Kundera, L. Vaculík, P. Kohout, D. Tatarka. Po roku 1968 vylúčili J. Š. z KSČ, Zväzu spisovateľov a zakázali mu publikovať. Následne pracoval vo viacerých manuálnych zamestnaniach a naďalej sa venoval písaniu.

Je autorom monografie Peter Jilemnický (1955). Spolu s Ľ. Smrčkom napísal divadelnú hru s tematikou SNP Búrlivé leto (Armádne divadlo Martin, 1955). Venoval sa aj tvorbe filmových scenárov Posledný návrat (1958), Výlet po Dunaji (1962), Bíla oblaka (1962, v roku 1963 vyšli ako novela pod názvom Biele oblaky). Medzi jeho literárne diela patrí novela Patrím k vám (1964), v ktorej sa vracia k politickým procesom päťdesiatych rokov. V diele Letná nedeľa (1991) zachytáva dejiny človeka a zároveň ľudstva v dejinno-kultúrnych súvislostiach. Svoje vlastné skúsenosti z holokaustu a pobytu v pracovnom tábore v Novákoch popísal v knihe Nechcel som byť žid (1994). Posmrtne vyšla zbierka esejí a reflexií orientovaných na antisemitizmus v priebehu dejín Svitá, až keď je celkom tma (1996). V roku 2001 vyšiel 1. zväzok výberu z pozostalosti J. Š. pod názvom Všedné dni.