הייג נולד ב-2 בדצמבר ב-1924 בפילדלפיה, החל את לימודיו באקדמיה היוקרתית "ווסט פוינט" ובהמשך מונה לגנרל ארבעה כוכבים על ידי הנשיא ריצ'רד ניקסון.
הוא השתתף בלחימה בקוריאה ובווייטנאם עד שמונה ליועצו הצבאי של הנרי קיסינג'ר, בעת ששימש היועץ לביטחון לאומי של הנשיא ריצ'רד ניקסון. ב-30 במרץ 1981, שעות ספורות לאחר שהנשיא רייגן נורה ונפצע קשה, הופיע הייג מול המצלמות והכריז: "נכון לעכשיו, אני שולט במתרחש בבית הלבן, עד שובו של סגן הנשיא". במשך שנים הייג נחשד כמי שהיה "גרון עמוק" - המקור של פרשת "ווטרגייט" שנחשפה בעיתון "וושינגטןו פוסט".
הייג נחשב לאחד ממזכירי המדינה האוהדים ביותר את ישראל. התבטאות מפורסמת שלו הגדירה את ישראל כ"נושאת המטוסים האמריקאית הגדולה ביותר בעולם, שאי אפשר להטביעה, שאין על סיפונה ולו חייל אמריקאי אחד, והממוקמת באזור חיוני לביטחון הלאומי האמריקאי".