Organizacja była narzędziem Wszechzwiązkowej Partii Komunistycznej (bolszewików), WKP(b), w walce z religią i kościołem. Jest odpowiedzialna za stosowanie przemocy w celu zwalczania różnych grup wyznaniowych, denuncjowanie osób wierzących, niszczenie obiektów sakralnych, profanację miejsc pochówku (głównie cmentarzy) i przedmiotów kultu religijnego. Działalność związku była wymierzona głównie w Rosyjski Kościół Prawosławny, jako największy związek wyznaniowy w kraju, w mniejszym stopniu w inne działające w ZSRR Kościoły. Ateizm był jednym z głównych elementów ideologii komunistycznej, zmierzającej między innymi do zlikwidowania religii.

Na czele Związku stał Jemielian Jarosławski (wł. Miniej Izrailewicz Gubelman). Organizacja od początku ściśle współpracowała najpierw z OGPU, a następnie z NKWD. Wydawała pisma ateistyczne: "Bezbożnik", "Nauka i Życie" oraz "Antyreligioznik" w których m.in. głoszono tezę, iż rozwój nauki przyczyni się do upadku wszelkich religii i triumfu rewolucji.

W latach największej ateizacji w ZSRR, Józef Stalin, nawiązując do słów Karola Marksa (który w swojej pracy Przyczynek do krytyki heglowskiej filozofii prawa napisał iż "religia jest opium dla ludu" ), stwierdził m.in. iż: "Religia jest jadem dla naszych dzieci", "Kościół uciska wiedzę, pali wynalazki", "Nie istnieją bajeczki opowiadane przez Kościół" oraz że "Od rewolucji światowej dzieli nas tylko Chrystus".

W 1929 rozpoczęto działalność pod zmienioną nazwą (Związek Wojujących Bezbożników) a centralnym organem prasowym stało się pismo "Ateist" (wydawane w wielu językach, m.in. polskim), oprócz tego kontynuowano wydawanie pozostałych tytułów. Przyjęta w ZSRR w 1929 ustawa antyreligijna ułatwiała zwalczanie religii w czasach kolektywizacji - bolszewicy uważali iż zwalczanie wpływów Cerkwi na wsi ułatwi walkę z chłopami. Na początku lat 30. liczba członków związku wyniosła ok. 5 mln. Organizacja zajmowała się w latach 30. i 40. organizowaniem muzeów ateizmu (m.in. w likwidowanych masowo kościołach różnych wyznań religijnych), ekspozycji antyreligijnych w domach kultury oraz szkoleń i kursów z zakresu ateizacji.

W propagandzie ateistycznej związek położył główny nacisk na materializm, kult techniki i przemysłu - widząc w nim główną siłę która miała spowodować zmianę nastawienia społeczeństwa do religii. Sporządzano także tzw. czarne listy księży przeznaczonych do fizycznej likwidacji.

W 1941 w Związku Wojujących Bezbożników było 3,5 mln członków, pozyskanych w większości metodami przymusu administracyjnego. Organizacja nieoficjalnie została rozwiązana w 1941, po napaści Niemiec na ZSRR - ówczesne działania WKP(b) zmierzały do wyciszenia ateistycznej propagandy i wykorzystania religii prawosławnej jako czynnika jednoczącego społeczeństwo radzieckie w obliczu agresji. Ostatni numer pisma "Bezbożnik" ukazał się w lipcu 1941, a oficjalnie Związek Wojujących Bezbożników został rozwiązany w 1947. W jego miejsce powołano nową strukturę mającą się zajmować propagandą ateistyczną - Wszechzwiązkowe Towarzystwo "Wiedza". W PRL jego odpowiednikiem było "Towarzystwo Krzewienia Kultury Świeckiej" powstałe w 1969 z połączenia "Towarzystwa Szkoły Świeckiej" i "Stowarzyszenia Ateistów i Wolnomyślicieli".