Исаак Моисеевич Зальцман родился 26 ноября (9 декабря) 1905 года в поселке Томашполь Ямпольского уезда Подольской губернии (ныне Винницкая область, Украина) в семье портного Моисея и Малки Зальцман. Он был старшим из пяти детей. Во время одного из еврейских погромов петлюровцев отец был искалечен и вскоре умер. Исаак писал в своих воспоминаниях: «Тяжёлым и безрадостным было моё детство. Постоянная нужда, тяжёлая борьба за кусок хлеба были постоянными спутниками нашей семьи. С большим трудом родители смогли дать мне начальное образование. В 1919 году я окончил двухклассную народную школу. С 14 летнего возраста начал свою трудовую деятельность».
Четыре года Исаак Зальцман работал на свекловичных плантациях и на сахарном заводе в Томашполе, где и начал постигать основы общественной работы. В 1922 году вступил в комсомол. Живой, энергичный по натуре он с головой окунулся в комсомольские дела: это и борьба с бандитами, и шефство над местным детским домом. В ту пору на Украине свирепствовали до конца не разбитые вооруженные петлюровские и махновские банды. Части особого назначения (ЧОН), членом которых был Исаак, вели борьбу с бандитами, охраняли хлебные обозы. «Наша комсомольская организация была мобилизована на борьбу с бандитизмом (ЧОН). На заводе, рядом с рабочими местами хранилось наготове оружие, с которым мы не расставались и дома, а жили мы в общежитии. Нас часто поднимали по боевой тревоге, и мы устремлялись на бой с врагом». В одной из перестрелок Исаака Зальцман был ранен.
В 1926 году Зальцмана избрали секретарем Тростяницкого райкома комсомола, а в 1927 году — секретарем комсомольской организации города Брацлава. В апреле 1928 года его приняли в члены ВКП(б). А вскоре юноша без отрыва от производства окончил учебу в Брацлавской профессионально-технической школе и, кроме среднего образования, получил профессию токаря. ХV съездом партии в стране был объявлен курс на коллективизацию, и молодой партиец деятельно участвовал в организации колхозов. Его детище — созданный в селе Гриненко колхоз — был одним из первых в районе.
Годы активной комсомольской работы не помешали осуществить заветную мечту — получить высшее образование. Винницким окружным комитетом партии Зальцман был направлен на учебу в Одесский индустриальный институт на энергетический факультет. Но и здесь беспокойная натура давала о себе знать. Все годы учебы в институте он был секретарем комитета комсомола, членом партбюро. В 1933 году Исаак Зальцман окончил Одесский индустриальный институт и получил направление на ленинградский завод «Красный Путиловец» (позднее — Кировский завод).