צבאי לאומי" בארץ ישראל (אצ"ל) שעד אז (1937) אברהם תהומי-זילברג (בכינוי: המפקד גדעון) , היה מפקדו הראשי (ראה כרך חמישי, עמוד 2127).
עבר קורס מפקדים בכפר-סבא, וביצע יחד עם חברו לשורה את הפעולה הראשונה בסביבה נגד שני רוכבי גמלים ערבים שנפצעו כתגובה על רצח יהודים במקום.
עם היווסד אצ"ל נמנה מבין מפקדיו בהנהלת מפקדו הראשי דוד רזיאל ( ראה כרך שני, עמוד 976).
עם גבור פעולות האירגון, בוצעו בסביבה פעולות רבות בהנהלתו ובהשתתפותו, החשובה ביניהן היתה ההתקפה על הכפר הערבי "ביר-עדס" אשר היתה ההתקפה הראשונה שבוצעה בארץ על כפר ערבי.
כאשר נודע לו שהמשטרה הבריטית מחפשת אחריו נאלץ לרדת למחתרת, ומילא תפקידים אחראיים בירושלים, בחיפה ובשומרון, ולאחרונה נתמנה למפקד הראשי באיזור הדרום.
בין הכינויים הרבים שנקרא במחתרת: אפרים, דן , מאיר, שפירא ועוד.
עם פרוץ הפילוג באצ"ל על רקע המלחמה בשליט הבריטי, הלכו הוא וחבריו בראשותו של יאיר (אב רהם שטרן (ראה כרך שני, עמוד 1014) והקימו את "האירגון הצבאי הלאומי בישראל" (ההבדל בין האירגון של אצ"ל - בארץ-ישראל , ולח"י - ביש ראל) , אשר היה הראשון במחתרות להכריז על הבריטים כעל האוייב מספר אחד של עם ישראל בארצו, אשר גזר את חוק קרקעות, חוק העלייה והטביעו ספינות פליטים יהודיים שהצליחו להגיע לחופי הארץ מאירופה הנאצית (החלק השני של אצ"ל בראשותו של דוד רזיאל החליט על שביתת נשק זמנית כלפי השלטון הבריטי, כל עוד נמשכת המלחמה ברוצח הנאצי, ומתוך פיקוח מתמיד על התפתחות הענינים, ואשר בזמנו קיבל גם תפקיד מיוחד לביצוע בעירק נגד המופתי וראשיד עלי , ונהרג שם ע"י פצצה שהוטלה ע"י אווירון גרמני.
האירגון שינה לאחר זמן את שמו ל"לוחמי חירות ישראל (לח"י), כתנועת חירות לוחמת בלתי מפלגתית ובלתי תלויה.
הפעולה הראשונה של לח"י - החרמת כספים למימוש המלחמה, נעשתה ובוצעה בראשותו. היה זה שוד בנק אפ"ק (כיום, הבנק הלאומי לישראל בע"מ) בסניף ברחוב בן-יהודה בתל-אביב בשנת 1940, שבוצעה לאחר הפגזה ולאחר השתלטות על האיזור. בפעולה זו הוחרם סכום של 5000 לא"י. בזמנו היה לסכום זה ערך רב אשר איפשר ללח"י לרכוש נשק, חומר להדרכה, לשכור חדרים, הדפסת דברי דפוס ותעמולה וכו'.
המלחמה הלכה וכבדה ולוחמי חירות ישראל (לח"י) נרדפו לא רק ע"י הבריטים, אלא גם ע"י רובו של הישוב אשר בחלקו פעל מחוסר הבנה לרקע מלחמתם. בחלקו התנדב ועזר להם, ורובו מתוך פחד לעצם ההעזה להרים את נס המרד נגד אימפריה גדולה וחרדו לגורל הישוב אשר יבוא בעקבות מלחמה זו (כך נהג רוב הישוב נגד ניל"י במלחמת העולם הראשונה שנלחמו נגד התורכים שהחרימו את הנשק מידי היהודים, גרשו את תושבי תל-אביב ויפו לצפון הארץ ועוד).
בעקב הלשנה נאסר יהושע לראשונה בדירתו של חברו במחתרת משה סבוראי אשר בשדרות קק"ל בתל-אביב. כן נאסרו שם בעל הדירה הנ"ל, יעקב אורנשטיין ואשתו, ויעקב פולני. הם הועברו למשטרת הצפון בתל-אביב, ולמחרת בצהרי היום, למרות השמירה הקפדנית של שוטרים בריטיים ויהודיים, ביצעו - יהושע ופולני חברו את הבלתי אפשרי כמעט, קפצו את הגדר הגבוהה של חצר בית הסוהר והצליחו להמלט, כאשר שוטרים יורים אחריהם וקהל אזרחים רב רודף בעקבותיהם.
רבים מהחברים נאסרו, אחרים הסגירו עצמם ורבים נטשו את המערכה. לאחר עזיבת חנוך סטרליץ ובנימין זרעוני את שורות לח"י נתמנה יהושע למפקד הפעולות של לח"י בארץ וראש המטה הכללי שלו, כשבראשות ההנהגה הפוליטית והתעמולתית עמד יאיר (אברהם שטרן הנ"ל).
יהושע נאסר שנית בשכונת נוה שאנן 1 בתלאביב, יחד אתו נאסר בעל הדירה יצחק סימן-טוב, איש לח"י. המשטרה הסתתרה בדירה ובסביבה והצליחו לאסור 7 חברי לח"י נוספים שבאו לדירה מבלי לדעת שיהושע נאסר. בין ה-7 היו: יצחק יזרניצקי (שמיר), יוסף ברושי, מסרי ועוד.
יהושע הועמד למשפט ונידון תחילה לחודש ימים מאסר עבור הבריחה ממשטרת הצפון, ולאחר כמה ימים נידון שנית - לחמש עשרה שנה, עבור ניהול השוד בבנק אפ"ק הנ"ל.
הועבר לבית הכלא במגרש הרוסים בירושלים. שם ישב חמש שנים, וחצי שנה בכלא עכו. ממנו ברח בפריצת הכלא הידועה בשנת 1947 (ראה פרטים להלן).
ביושבו בבית הכלא המשיך בלימודים ע"י קורספונדנציה עם הבריטיש אינסטיטיוט בלונדון, בלימוד הנדסה אזרחית גבוהה - במטרה לקבל תואר של מהנדס אזרחי.
באותו זמן עסק עם חבריו לתא בחפירת פתח בחומה ובתאום עם חבריו מבחוץ. צריכה היתה להתבצע פריצת כלא ירושלים ושיחרור אסירי לח"י ואצ"ל. פעולת חברי האירגונים בחוץ נכשלה, כשאחד הפורצים, יוסף לונץ נפצע ונאסר, והאסירים נאלצו לסגור את הפתח חזרה.
כשפרצה הקטטה הגדולה בכלא ירושלים בין האסירים הערבים והיהודים, בשעה שגנרל רומל הגרמני הנאצי התקרב לגבולות מצרים, התלהבו האסירים הערביים והחליטו להשמיד את היהודים. בקטטה נפצעו רבים משני הצדדים. בין היהודים נפצע אריה קלפר (חבר ההגנה, כיום ידוע בשם אריה ניר , נציב בתי הסוהר במשטרת ישראל).
יהושע שהיה האחראי בכלא על האסירים היהודים, הואשם ע"י הנהלת בית הסוהר הבריטיים, כאילו