בגיל צעיר החל מפרסם מאמרים וחיבורים בדברי הורה ובעניני צבור למען אחדות האומה בדרך הקודש. בכוון זה החל מוציא בתרמ"ח קובץ בשם "עטור סופרים". באותה שנה נבחר לרב בעיירה זיימל שבליטה. בתרנ"א הוציא בעילום-שם ספר קטן בשם "חבש-פאר" לחיבוב מצות תפילין ולחיזוק קיומה ואף ערך למטרה זו מסעי תעמולה ותוכחה נקהלות רבות. כן הרבה באותה תקופה לרשום בכתב חידושי תורה בהלכה ובאגדה ובקבלה (בבירור ההלכה דרכו בדרך הפשטות עפ"י שיטת הגר"א). בתרנ"ה הוזמן לכסא הרבנות בבויסק, לאטביה. באן פרסם דברי תורה בהלכה בקובץ ''תורה מציון" שיצא בירושלים ומאמרים ספרותיים ("תעודת ישראל ולאומיותו"' "עצות מרחוק", "אפיקים בנגב") בירחון הרבני "הפלס" לביסוס הרעיון הלאומי על תורת ישראל והשפעה עליו ברוח התורה ובירורי השקפת-עולמה. במאמריו אלה יצר את הבסיס האידיאולוגי לתכנית "המזרחי", שנוסד אח"כ בתרס"ב בלידא.
בתרס"ג הוזמן לכסא הרבנות לקהלת יפו והמושבות, וגאוני ירושלים, הר"ש סלנט והאדר"ת הודיעו אז, כי "כל בית ישראל סומכים עליו בהוראת ההלכות התלויות בארץ".
בכ"ח אייר תרס"ד עלה ארצה לשבת על כסא רבנות זו. כאן התמסר לשרות בנין הישוב וחיזוקו ברוח ובחומר. מצד אחד השתדל להשפיע על הדור החדש, שישאב את ההשראה לבנין הארץ ממקור הקדושה של נצח ישראל ויתנהג לפיה, ומן הצד השני למד סניגוריה על בוני הארץ כלפי מקטרגים קנאים והשתדל למשוך את הצבור החרדי והרבנים לעזרה והשתתפות פעילה בבנין הארץ. בתקופת רבנותו ביפו המשיך בעבודה ספרותית בבירור הלכה ובמחשבה הישראלית, בפרסום ספריו "עקבי הצאן", מאמריו בקבצים "הניר", "תחכמוני", "התרבות הישראלית", "חבצלת", "העולם" ובהכנת רבים ממאמריו ומכתביו שהופיעו אח"כ בספריו הגדולים והקטנים. כן שקד לעזור בפועל לקידום הישוב וחיזוקו, שכלול תוצרתו ותעשייתו, המריץ במכתביו את יהודי חו"ל לקנות קרקעות בארץ וגם עזר להם בכך. עזר בעצה ובהמלצה ובעידוד לעולים בעלי יזמה מסחרית ותעשיתית להתגבר על קשיי ההתחלה. פרסם בתרס"ז ספר בהלכה בשם "עץ הדר" למען אתרוגי ארצנו. ובעת הפולמוס בדבר השמיטה בתר"ע פרסם ספר "שבת הארץ" על הלכות שמיטה, בו ביסס את ההיתר לעבודת האדמה בשנת השמיטה, כדי שהישוב החקלאי יוכל להתקיים, ועמד בקשרי מלחמה כלפי המחמירים שהתקיפו אותו, - אף כי בדרך כלל היה מכובד על כל חוגי הצבור החרדי וגדולי הרבנים כצדיק וחסיד.
גם בעבודתו היום-יומית בתפקידו הרשמי עשה שרותים רבי ערך לצבור בתור שופט, שבן באותה תקופה נזקקו היהודים בארץ ברובם הגדול לדיני ישראל והרב היה צריך לשפוט בסכסוכים בשטחיכלכלה מרובים וענפים הרבה יותר מבקהלה שבמדינה מתוקנת בגולה. כן הוטל עליו להורות הלכה למעשה ולהתקין תקנות במצוות התלויות בארץ ובסדרי הצבור והנהגת הישוב, ולהמשיך בהרבצת תורה בקיבוץ של לומדי-תורה שריכז סביבו.
בקיץ תרע"ד הוזמן לועידה העולמית של "אגודת ישראל" שעמדה להתכנס בפרנקפורט-דמאין ונסע שמד. בכוונה למשוך את החרדים להשתתפות פעילה בבניו הארץ כדי שיוכלו להשפיע על המפעל ברוח התורה. בהגיעו לברלין פרצה מלחמת-העולם הראשונה והוא יצא לשוייץ הנייטרלית וישב שם כשנתים בעיר סנטגאלן. שם הרבה להעלות על הכתב הגיונות-קודש בשאלות-החיים השונות של הצבור והיחיד.
בתרע"ו הוזמן לכהן ברבנות בקהלת "מחזיקי הדת" בלונדון והסכים לכך בתנאי שברגע שיוכל לשוב ארצה יהיה רשאי לעזוב את קהלתו בלונדון. בהגיעו שמה החלה הפעולה המדינית הגדולה, שהביאה לידי פרסום הצהרת בלפור. בתקופה זו הפעיל את השפעתו למניעת שילוח היהודים יוצאי-רוסיה חזרה לרוסיה, ואח"כ בהכרעת משקל נגד ההפרעות מצד המתבוללים שהתנגדו להכרת היהודים ע"י הצהרת בלפור בתור עם בעל דרישות וזכויות מדיניות מיוחדות. משניתנה הצהרת בלפור, שראה בה "אתחלתא דגאולה", יסד הסתדרות בשם "דגל ירושלים" במטרה לבסס את הקמת "הבית הלאומי" על יסוד הקדושה, ופעל להרחבת מסגרתה הארגונית של הסתדרות זו.
בתרע"ט הוזמן לרב ראשי של עדת האשכנזים הפרושים בירושלים וחזר ארצה, בג' אלול תרע"ט, ופתח בפעולה למען הקמת סמכות דתית עליונה, כעין חידוש הסנהדרין בגבולות האפשרות. כשהוגשמה דרישתו, על אף ההתנגדות של חוגים מסוימים לעצם הריכוז של הסמכות הדתית, נבחר בחודש אב תרפ"א לנשיא האשכנזי של הרבנות הראשית לארץ-ישראל, שנוסדה אז וקיבלה סמכות חוקית ומשפטית מסוימת.