הרב איסר זלמן מלצר נולד בשנת תר"ל בעיר מיר שברוסיה, ומגיל צעיר הפתיע את בני משפחתו ואת למדני עירו בלמדנותו וברצינותו.
כילד התחיל ללמוד בישיבת מיר שסמוך אליה התגורר עם בחורים מבוגרים ממנו בהרבה, ומעט לאחר בר המצוה שלו עבר ללמוד בישיבת וולוז'ין המפורסמת, והיה התלמיד הצעיר ביותר בישיבה.
שבע שנים למד בוולוז'ין, והוא נחשב שם בין התלמידים המקורבים ביותר לרבי חיים הלוי סולוביצ'יק, וגם לראש הישיבה הנצי"ב. בישיבה היה חבר באגודת תלמידים סודית של חובבי ציון בשם 'נס ציונה', וחיבתו לארץ הקודש בערה בו כל ימי חייו.
הוא וחברו ללימודים רבי משה מרדכי אפשטיין, לימים ראש ישיבת 'כנסת ישראל' בסלובודקה ובחברון ואח"כ בירושלים, נישאו לשתי אחיות בנות הגביר שרגא פייבל פרנק.
בין האירוסין לנישואין עבר ללמוד אצל החפץ חיים בראדין, שם חלה רא"ז בשחפת שהייתה אז מחלה מסוכנת וחשוכת מרפא. הוא הציע לארוסתו בילא הינדא לבטל את האירוסין, אבל למרות שבני משפחתה לחצו עליה לקבל את ההצעה היא קיבלה את המלצת החפץ חיים וסירבה, וכשמצבו השתפר הם נישאו. בהמשך התקרב לרבי נתן צבי פינקל ה'סבא' מסלובודקה ולתנועת המוסר, ובגיל 24 מונה ע"י הסבא לאחד מראשי ישיבת סלובודקה. בשנת תרנ"ז מונה לראשות ישיבת-הבת של סלובודקה בעיירה סלוצק.
שש שנים מאוחר יותר בשנת תרס"ג היגר רב העיירה הרידב"ז וילבסקי לארה"ב (משם עבר לצפת), ורא"ז מונה למלא את מקומו כרבה של סלוצק, והוא שימש בתפקיד זה במשך עשרים שנה. השנים האחרונות שלו בסלוצק תחת השלטון הקומוניסטי היו קשות ומרות, ובשנת תרפ"ג הצליח להימלט לפולין עם משפחתו, שם שימש כראש ישיבת קלֶצק שהמשיכה למעשה את ישיבת סלוצק שנסגרה ע"י הקומוניסטים. בקלצק הרביץ תורה לתלמידיו עם חתנו רבי אהרן קוטלר ואחיינו הרב אלעזר מנחם מן שך, ולאחר פחות משנתיים, בשנת תרפ"ה, הוזמן לשמש כראש ישיבת 'עץ חיים' בירושלים, והוא עלה ארצה ושימש בתפקיד זה עד יומו האחרון.
הוא היה ידיד קרוב של הראי"ה קוק, הרב הראשי ורבה של ירושלים, איתו למד בישיבת וולוז'ין, ובמקביל היה גם בקשר הדוק עם הרב ראובן זליג בענגיס אב"ד העדה החרדית בירושלים, שהיה בזמנו החברותא המבוגר שלו בוולוז'ין. באלול תרצ"ה כשנפטר חברו הראי"ה התאבל עליו ראז"מ מרה, והספיד אותו הספד גדול במהלך הלווייתו.
כל חייו עסק גם בצרכי ציבור. היה ממייסדי 'ועד הישיבות' עוד בווילנה, ושימש כנשיא ועד הישיבות בארץ ישראל. היה ממנהיגי אגודת ישראל העולמית, וכיהן שנים רבות כיו"ר מועצת גדולי התורה שלה. הוא נטה לשיתוף פעולה עם מוסדות 'המדינה שבדרך' וגם עם ממשלות ישראל אחרי שקמה, והדגיש תמיד את חשיבות ישוב ארץ ישראל. הוא התנגד באופן נחרץ שהמדינה תחייב נשים מצד אחד ובחורי ישיבות מצד שני בגיוס לצבא, ואף נפגש לצורך הדגשת עמדה זו עם ראשי המדינה ואף עם בן גוריון.
בעולם הישיבות הוא מפורסם בעיקר בגלל חיבורו 'אבן האזל' על הרמב"ם (שבעה כרכים), ובזכות הספר חידושי הרמב"ן על הש"ס שערך והגיה והוסיף לו הערות, ומהדורה זו של הרמב"ן בשני כרכים הייתה במשך עשרות שנים המהדורה היחידה של הרמב"ן בעולם הספר התורני. בהקדמה לספרו 'אבן האזל' הוא מודה לאשתו בילא הינדא על עזרתה בהעתקת כתב היד והכנתו לדפוס. שמועות אומרות שרא"ז נהג להרצות לעיתים את חידושיו לפניה והיא הייתה מביעה את דעתה עליהם. הכרך השביעי והאחרון של אבן האזל על הרמב"ם יצא לאור לאחר פטירתו, ואחיינו הרב שך ראש ישיבת פוניבז' הקדים לו הקדמה מרגשת.
בנו הרב צבי יהודה מלצר שימש כרבה של פרדס חנה ואח"כ כרבה של רחובות, והיה מייסדה וראשה של 'ישיבת הדרום'. בן אחר פרופ' פייבל מלצר היה מחנך ות"ח ולימד תנ"ך במוסדות שונים בירושלים. בת אחת שלו נישאה כאמור לרבי אהרן קוטלר שמילא את מקומו בראשות ישיבת קלצק והקים אח"כ את ישיבת לייקווד בארה"ב ונחשב מגדולי הדור, וחתן אחר היה רבי יצחק מאיר בן מנחם (פצ'ינר) שהיה דיין בבית הדין הגדול. מגדולי תלמידיו בסלוצק ובירושלים ניתן למנות את אב"ד ביירות רבי בן ציון ליכטמן בעל שו"ת 'בני ציון', רש"ז אוירבך, הרב חיים יעקב גולדוויכט מייסד וראש ישיבת כרם ביבנה, הרב שלמה גורן, הרב יוסף אליהו הנקין מארה"ב, הרב אברהם יעקב זלזניק ששימש גם הוא אחרי שנים כראש ישיבת 'עץ חיים' ואחיו הרב שמעון דב זלזניק ששימש שנים רבות כר"מ ראשי בישיבת שעלבים, הרב ראובן כץ רבה של פ"ת, הרב מיכל יהודה לפקוביץ ראש ישיבת פוניבז' לצעירים, הרב יחיאל מיכל פיינשטיין חתנו של הגרי"ז סולוביצ'יק ומגדולי הרבנים בבני ברק, הרב משה פיינשטיין, הרב ישראל יעקב פישר, הרב יצחק קוליץ רבה של ירושלים, הרב יעקב ניסן רוזנטל אב"ד חיפה, הרב שך, הרב אברהם אלקנה שפירא, וגם בעל נכדתו מורי הרב יהודה עמיטל ראש ישיבת הר עציון.
בדרך כלל, למרות ששימש כיו"ר מועצת גדולי התורה, לא התערב פומבית במאבקים ציבוריים-הלכתיים, אך היו גם מקרים חריגים. כך למשל בוויכוח על קו התאריך ועל השאלה באיזה יום חל יום כיפור ליושבים ביפן ואוסטרליה וכו', שאלה שהתעוררה לפני יום הכיפורים תש"ג בגלל הקבוצה הגדולה של היהודים, בהם תלמידי ישיבת מיר, שהצליחו לברוח מהנאצים והתגוררו בעיר קובֶּה שביפן, לא קיבל רא"ז את דעת החזו"א שעליהם לאחר את הצום ואת מצוות היום ביום אחד, וכתב מכתב מנומק לחזו"א ובו הוא מראה את גאוניותו גם בסוגיות שלא מרבים לעסוק בהן ודוחה את רוב דבריו. מסקנתו הייתה שאין לשנות את היום מהמקובל, אולם בגלל עדינותו סירב לפרסם את התשובה שלו ואת עצם זה שהוא חולק על החזו"א.
בגאונותו העצומה בתורה, בסבר פניו היפות, בעדינותו ונעימותו, הוא נחשב מהדמויות הבולטות והמיוחדות של ירושלים. הרב יחזקאל אברמסקי זצ"ל, אחד מגדולי חכמי ירושלים, נהג לומר שגם אם רבי איסר זלמן לא היה יודע כלל ללמוד תורה הוא היה נחשב במידותיו ובהנהגותיו כפארה והדרה של ירושלים, ועכשיו שהוא גם גאון עולם מה נאמר ומה נדבר... רא"ז נפטר בי' כסלו תשי"ד, וכבוד גדול עשו לו במותו. הרחוב בו גר בשכונת 'נחלאות' בירושלים נקרא כעת על שמו 'רחוב האר"ז' (=הרב איסר זלמן). תנצב"ה.