לאחר פטירתו של הראשון לציון, הרב הראשי לישראל, הרב מרדכי אליהו זצוק"ל מצאו בני ביתו בכיסו תפילה שכתב הרב ונהג לומר אותה בכל יום.
שלוש שנים אחרי, תפילתו של הרב הולחנה לשיר חדש על ידי היוצר והזמר יונתן רזאל. את השיר מבצע זמר בית הרב, יוסף הרקדן בליוויו של רזאל.
מי שעומד מאחורי הפרויקט ומלווה אותו כבר במשך 3 שנים הוא מקורבו של הרב, דוד וזאנה, ובשיחה עם ערוץ הוא מספר התהליך, "מיד לאחר פטירתו של הרב נמצא מכתב התפילה המרגש. בני המשפחה פנו אליי ואל יוסף הרקדן ומיד הבנו שהתפילה חייבת להפוך לשיר על מנת להגיע לכל בית בישראל. אני שמח שהשיר מגיע לסיומו לאחר עמל רב ומקווה שכשם שהמכתב ריגש אלפי ישראל אין ספק שהשיר יעורר את ליבם של כלל עם ישראל ואת דייני ושופטי ישראל לשפוט משפט צדק ובענווה".
לאולפן ההקלטות הצטרפה הרבנית צביה אליהו, על פניה התרגשות רבה, זו הפעם הראשונה שהיא שומעת את תפילת הרב כשיר חדש, "אף אחד בעולם לא ידע על התפילה, חיפשנו צוואה ומצאנו את התפילה. מהתפילה אפשר לדעת שהוא לא היה אדם הוא היה איש אלוקים קדוש. זו תפילה אמיתית לכל מקום שהוא היה נכנס הוא היה אומר אותה. אני מתרגשת ומתחברת לכל מילה ומילה שכתב הרב".
יונתן רזאל סיפר לערוץ 7 על הלחנת השיר "להוציא שיר זה תהליך, ובטח אם זו תפילה שהרב אליהו החזיק צמוד לליבו. 'תפילת הרב' שם השיר מסמלת בעצם שהרב היה של כולנו". רזאל מוסיף, "מילות השיר מדהימות. הרב מדבר על עצמו בענווה, זה כל כך גדול להתעסק בתפילת הרב ובלי בקשת המשפחה אני לא חושב שהייתי ראוי לזה".
"ראיתי את הרב אליהו מספר פעמים", מספר רזאל, "אבל לא הייתה לי היכרות איתו ברמה האישית. בסיפור של הבת שלי (בתו רבקה, נפצעה קשה מאוד כשנפלה מגובה של חמישה מטרים) הרב הושיט יד אליי - ככה אני מרגיש".
לפני הקלטת השיר, באחד מאולפני הסטודיו הטובים בישראל "סך הקול", מספר יוסף הרקדן כי לא הצליח לישון מרוב התרגשות, "כל פעם שהייתי קורא את התפילה היתה לי מוזיקה בראש וביקשתי מהרבנית לעשות מהתפילה שיר. הבנו שיש רק אדם אחד שיכול לכתוב מוזיקה לתפילה הזאת -יונתן רזאל שחשוב לו כל צליל וכל מילה. כל פעם שאני שר את זה אני רואה את הרב מולי".
"הרב הוא הרב של כולם ואהב את כל עם ישראל ולא חשוב אם האדם דתי או לא, ולא הייתה חשובה לו איזה סוג כיפה הוא חובש".
נציין כי לא מעט אנשים עבדו על השיר, עמית הראל על הקלידים, תופים וכלי הקשה אלון יופה, קונטרה בס גלעד אפרת, ניהול הפקה שרון משדי וחלמיש הפקות.