יהושע בן נון הוא דוגמא של מנהיג הצומח מלמטה, אמנם כבר ביציאת מצרים מיד אחרי קריעת ים־סוף, בבוא עמלק להלחם בישראל, נקרא יהושע אל הדגל, ומשה מצוהו לבחור אנשים ולצאת להלחם בעמלק. את הערכתו של משה ליהושע מוצאים אנו בסגנונו של משה: "בחר לנו אנשים" שחז"ל למדו ממנו "מכאן שהיה עושהו כמותו" (מכילתא). בקשתו זו של משה באה ליהושע בהפתעה: "אמר יהושע כמה גדולים יש כאן בדור הזה, ולא ציוה משה אלא לי" (פסיקתא דרב כהנא). ובאמת בחירתו של יהושע לא היתה בזכות עצמו אלא בזכות מוצאו, משבט יוסף שהיה מבני בניה של רחל, מפני שאין עשו נופל אלא ביד יוסף.
והנה אחרי הצלחתו של יהושע ככתוב: "ויחלוש יהושע את עמלק ואת עמו לפי חרב", אין יהושע מחזיק טובה לעצמו אלא שב לתפקידו הקודם, תפקיד המשרת, "ומשרתו יהושע בן נון - שהיה משמש את משה ביום ובלילה" - "ומה שירות היה משרתו? היה נוטל את הדלי ואת הבלנרים ומוליכן לפניו לבית המרחץ. והיה מעריב ומשכים לבית הועד (של משה) והיה מסדר את הספסלים, והוא פורס את המחצלאות" (במד"ר כא יד). מכל זאת רואים אנו שיהושע אינו בוחל בשום תפקיד, כך כשהוטל עליו להיות מפקד הצבא, או להיות בלן בבית המרחץ או שמש של בית המדרש, את כולם מילא באותה אמונה מפני שהוא ראה עצמו כמשרת ציבור ולכן קיבל עליו כל תפקיד שהוטל עליו בשליחות ציבורית.
בדאגתו זו לטובת הציבור המשיך יהושע גם לאחר מות משה וכאשר נתמנה להיות מנהיגם של ישראל, הוא אינו מסתפק בכיבוש הארץ אלא בה בעת הוא דואג גם לתקן תקנות לטובת הציבור, כמו שאמרו חז"ל: "עשרה תנאים התנה יהושע (בזמן חלוקת הארץ)" כמו: להרשות לרעות בחורשין, שהכל יסתפקו ממי המעין, דיג חופשי בימת טבריא, מת מצוה קונה מקומו וכדומה. (עיין ב"ק פא א) ועל זה אמרו במסכת עירובין (כב ב): "יהושע אוהב ישראל היה, עמד ותקן להם דרכים ורחובות, כל מקום שתשמישו נוח מסרו לרבים, וכל מקום שאין תשמישו נח מסרו ליחיד".
יהושע הגיע לגדלותו גם בזכות תכונת ההתמדה שהייתה בו, ככתוב: "לא ימיש מתוך האהל", והתמדה זו זיכתה אותו לא רק להיות מנהיגם של ישראל אלא גם להיות גדול בתורה. "יהושע בן נון היה עוסק בתורה מקטנותו ועד זקנתו", ולמרות שבתחילה היה יהושע חסר כישורים לימודיים, כדרשת המדרש: "וכסיל אדם יבלענו" (משלי כא) - "זה יהושע, שלא היה בן־תורה, והיו ישראל קוראים אותו כסיל, ובשביל שהיה משרת משה זכה לירושתו" (ילק"ש שם). חסרון זה לא הרתיע אותו ולא מנע ממנו לדבוק במטרתו לדעת את התורה. נוסף להתמדתו קיים יהושע בעצמו גם את הכלל: "לא הביישן למד", ולכן "עשה עצמו כסיל לפני משה, והיה מטריח עליו ללמוד בכל שעה, עד שלמד כל התורה כולה" (מדרש הגדול, סוף דברים), ובזכות זאת הפך להיות אחד ממוסרי התורה, כמו שאמרו: "משה קבל תורה מסיני ומסרה ליהושע, ויהושע לזקנים". לא רק בהיותו תלמיד אלא גם אחרי שנתמנה למנהיגם של ישראל נמשכה התמדתו של יהושע, כמו שמובא (מנחות צט ב): "ראה הקב"ה את יהושע שדברי תורה חביבים עליו ביותר, אמר לו הקב"ה: לא ימיש ספר התורה הזה מפיך". ואפילו בשדה הקרב בשעת כיבוש הארץ הוא מנצל כל רגע פנוי ללימוד תורה, כמו שדרשו (סנהדרין מד א): "וילן יהושע בלילה ההוא בתוך העמק - מלמד שלן בעומקה של הלכה".