הרב יוסף סבור שלמלחמות ישראל יש תוקף של “מלחמת מצווה”. אף על פי כן הוא מעודד את הצעירים להשאר בישיבות ולא להתגייס לצבא, כך ש”למרות הרגישות שחש הרב עובדיה ביחס לצה”ל הוא נטוע עמוק במסורת הרבנית של הישיבות בארץ ישראל, ומחזיק בעמדתם השוללת השתלבות בני ישיבות בצבא”. (בנימין לאו, אורתודוקסיה ליטאית בגוון מזרחי בתוך שלמון יוסף, אביעזר רביצקי ואדם פרזיגר (עורכים) אורתודוקסייה יהודית – היבטים חדשים. הוצאת מגנס: ירושלים. עמ’ 512).
נכדו של הרב יוסף מצביע על יחסו החיובי של סבו לחיילי צה”ל בכך שבכל פתיחת ההיכל הרב מברך “מי שבירך” לחיילי צה”ל. בנו של הרב יוסף, הרב אברהם יוסף, שירת בצה”ל בקבע כרב צבאי במשך כ-13 שנה.