Semjons Gelbergs dzimis 1913. gada 5. martā, Dņepropetrovskā, ebreju galdnieku ģimenē. No 1930. gada līdz 1933. gadam mācījies Minskas Politehniskā institūta Arhitektūras fakultātē. Vēlāk iestājies Ļeņingradas Mākslas akadēmijas Arhitektūras fakultātē, kuru pabeidzis 1940. gadā, bet pēc tam palicis tajā strādāt par pedagogu. Sākoties karam, iestājies Ļeņingradas aizstāvju rindās un iecelts par vēsturiskā Ledus ceļa priekšnieka vietnieku; apbalvots ar vairākiem ordeņiem un medaļām.