יואב גלנט התגייס בשנת 1976 לשייטת 13 (הקומנדו הימי) בה שירת כלוחם וכמפקד. השתחרר מהצבא בשנת 1982 ונסע לאלסקה שבארצות הברית שם עבד כחוטב עצים. גלנט שב לישראל ולשירות בצה"ל בשנת 1984, עבר קורס חובלים ומונה כשנה לאחר מכן לסגן מפקד ספינת הטילים "אח"י קשת".
בשנת 1986 מונה למפקד פלגת הלוחמים של שייטת 13 והועלה לדרגת סגן-אלוף. לאחר שנתיים שימש מפקד חטיבת ג'נין (חטיבת מנשה) באוגדת איו"ש. בשנת 1994 חזר לשייטת 13 כמפקד השייטת, תפקיד בו שימש עד לשנת 1997 בדרגת אלוף-משנה. לאחר תום כהונתו בשייטת הועלה לדרגת תת-אלוף ופיקד על אוגדת עזה עד 1999 ולאחר מכן, עד שנת 2001, שימש כמפקד אוגדת השריון עוצבת עידן לאחר שעבר הסבה לשריון. בין השנים 2001-2002 שימש כראש המטה במפקדת זרוע היבשה.
בשנת 2002 מונה לתפקיד המזכיר הצבאי של ראש ממשלת ישראל אריאל שרון והועלה לדרגת אלוף. בשנת 2005 מונה לתפקיד מפקד פיקוד הדרום, מספר חודשים אחרי ביצוע תוכנית ההתנתקות. במסגרת תפקיד זה הוטל על גלנט להשלים את היערכות צה"ל סביב רצועת עזה ולהגביר את המאבק בהברחות דרך גבול ישראל-מצרים. גלנט הגביר את שיתוף הפעולה בין פיקוד הדרום לחיל האוויר הישראלי במאבק נגד ירי הקסאם על יישובי עוטף עזה וערים כמו שדרות ואשקלון. במהלך 2006 גלנט משך לכיוון של תגובה התקפית נגד ירי הקסאמים, בניגוד לעמדת שר הביטחון.
לאחר מלחמת לבנון השנייה פורסם כי שר הביטחון עמיר פרץ ביקש למנות את גלנט למפקד פיקוד הצפון במקום האלוף אודי אדם שהתפטר, אולם גדי אייזנקוט, המועמד שבו תמך הרמטכ"ל דן חלוץ, זכה בתפקיד. בסוף 2008 ובתחילת 2009 התנהל תחת פיקודו מבצע עופרת יצוקה בו נלחמו חיל האוויר, חיל הים וכוחות היבשה של צה"ל תחת פיקודו נגד חמאס ברצועת עזה וירי הרקטות על יישובי עוטף עזה. במבצע נהרגו למעלה מ-1,100 פלסטינים ו-13 ישראלים (מהם 3 אזרחים). המבצע נחשב להצלחה צבאית עקב הישגיו, יחס ההרוגים הגבוה, התגוננות העורף והשבת השקט לאזור הדרום - ירי הרקטות קטן בצורה משמעותית בפחות משנה שלאחר המבצע. המבצע ספג ביקורת קשה בעולם, כולל טענות על פשעי מלחמה, והביאה להקמת ועדת גולדסטון.