Bald nach Abschluss der Sekundarschule trat er der sozialistisch-zionistischen Jugendbewegung HaSchomer HaTzair bei, wo ihm organisatorische und leitende Aufgaben übertragen wurden. Zu Beginn des Jahres 1940 gründete er als Aktivist im Untergrund Jugendgruppen und illegale Zeitungen. Im Sommer 1941 begann Anielewicz damit, die Jugendbewegungen aus dem Untergrund in eine bewaffnete Widerstandsbewegung umzuwandeln und im Warschauer Ghetto Selbsthilfeorganisationen zu errichten.

Im Sommer 1942 befand er sich im südwestlichen Teil von Polen, der 1939 von Nazi-Deutschland besetzt worden war und einen Teil des polnischen Generalgouvernements bildete. Nach seiner Rückkehr nach Warschau verblieben von den ursprünglich 350.000 Juden im Ghetto nur noch 60.000, der Rest war zum größten Teil nach Treblinka deportiert worden. Anielewicz setzte alles daran, die Jüdische Kampforganisation (polnisch Żydowska Organizacja Bojowa, kurz ŻOB) zu stärken, und bekämpfte die Nazis aktiv. Nach den Massendeportationen gab es im Ghetto bedeutend mehr Unterstützung für den bewaffneten Widerstand als je zuvor. Im November 1942 wurde Anielewicz zum Kommandanten der Jüdischen Kampforganisation ernannt. Bis Januar 1943 wurden einige Waffen auf der polnischen Seite der Stadt gesammelt.

Am 18. Januar 1943 wurde der Stab der ZOB von den zweiten Massendeportationen aus dem Warschauer Ghetto überrascht und hatte keine Zeit, die Lage mitzuteilen. Anielewicz kommandierte eine bedeutende Straßenschlacht. Einige Kämpfer schlossen sich bewusst den Deportierten an. Auf ein Signal hin griffen sie die SS-Bewacher an, während die restlichen Juden flohen. Viele jüdische Widerstandskämpfer starben, doch Anielewicz blieb am Leben.

Vier Tage später kamen die Deportationen zum Stillstand. Da dem Stab der ZOB klar war, dass sie die Deportationen nur zu einem zeitweiligen Halt bringen konnten, bereiteten sie sich intensiv auf den nächsten Zusammenstoß mit der SS vor.

Am 19. April 1943 wurde die letzte Deportation der Juden lanciert. Dies war das Signal für die zweite Phase des Aufstands im Warschauer Ghetto. Zunächst fügten die jüdischen Widerstandskämpfer der SS Verluste zu; die Straßenkämpfe dauerten drei Tage.

Zu Beginn des Aufstands war Anielewicz inmitten der Hauptgruppe der Kämpfer. Als die Straßenschlachten endeten und die SS eine massive Truppenanzahl gegen die paar hundert jüdischen Kämpfer einsetzten, zog er sich mit seinem Stab in den Bunker in Mila 18 zurück. Die SS brannte das Ghetto Block um Block nieder. Am 8. Mai 1943 kamen Anielewicz und der größte Teil des Stabs der ZOB im Bunker ums Leben.

In einem Abschiedsbrief an einen Freund schrieb Anielewicz am 23. April 1943 (Auszug):

„Leb wohl, mein Freund! Vielleicht werden wir uns wiedersehen. Am wichtigsten ist, dass der Traum meines Lebens wahr geworden ist. Jüdische Selbstverteidigung im Ghetto ist verwirklicht worden. Vergeltung und Widerstand von jüdischer Seite ist eine Tatsache geworden. Ich bin Zeuge des heldenhaften Mutes der jüdischen Kämpfer gewesen.“

Dem Andenken von Mordechaj Anielewicz ist unter anderem der Kibbuz Jad Mordechai in Israel gewidmet, der 1943 gegründet wurde. Außerdem sind zahlreiche Straßen in Israel nach ihm benannt und in Yad Vashem steht ein Denkmal für ihn auf dem Warschauer-Ghetto-Platz. Auch in Warschau trägt eine Straße seinen Namen; und an seinem Geburtsort steht ein Denkmal mit einer polnischen, hebräischen und englischen Aufschrift.