היה משתתף בעבודה הציונית היום-יומית, בכנוסים הציונים השונים, השתתף בועידת מינסק בשנת 1902, עזר לד"ר כהן-ברנשטיין ב"לשכת המכתבים" שלו.
בקיץ תרס"ד (1904) עלה ארצה, ונתקבל למורה בבית הספר לבנות ביפו, וגם כאן התחבב עד מהרה על חבריו לעבודה ועל תלמידותיו.
בקיץ תרס"ז עובדה לפי הצעת מרכז המורים בארץ ישראל הצעה לתכנית הלמודים של בתי הספר העממיים בארץ ישראל. הוא היה אחד מהשלשה שחיברו את התכנית הנ"ל.
כשנוסדה תל-אביב היה ממיסדיה הראשונים, ובין ששים הבתים הראשונים שנבנו בתרס"ט בת"א, היה גם ביתו.
בשנת תרע"ד יצא בהוצאת "קהלת" ספר חשוב בשם "שעורי הסתכלות וידיעת המולדת" לשלש שנות הלמוד הראשונות מאת י. עזריהו, מ. אזרחי ויחיאל יחיאלי.
כעבור זמן קצר יצא גם ספר למוד שלו לחשבון בשם "תרגילי חשבון" ואח"כ לפני מלחמת העולם הראשונה ואחריה יצאו ספרי למוד שונים בהשתתפותו, והם: "תרגילי הסגנון", "כרמנו", "ספרנו". מלבד זה פרסם שורה של מאמרים בפדגוגיה, תרגם ספר פדגוגי לעברית וגם שורה של מאמרים פדגוגיים תרגם מלועזית לעברית.
בזמן המלחמה (1918-1914) נסגר בית הספר לבנות אחרי הגירוש מת"א (1916), אך בשנת 1918, עם תום המלחמה, נפתח בית הספר הזה מחדש והוא נתמנה למנהל בית הספר לבנות, ובתפקיד זה עמד עד יומו האחרון.
היה חבר ועד הקהלת ביפו-תל-אביב, חבר ועד תל-אביב במשך שנים אחדות, מזכיר ויו"ר מרכז המורים, חבר האספה המכוננת והמיסדת של הועד הזמני ליהודי ארץ ישראל, שנוסד אז אחרי הכבוש הבריטי.
ביתו היה תמיד בית ועד לחכמים, סופרים ומורים.
דמותו האצילה, דמות ישיש נחמד והדור-פנים, זקוף-קומה ועטור שיבה עשתה רושם נעים על כל יודעיו ורואיו.
אם כי הגיע מזמן לגיל הפנסיה, לא הסכים לעזוב את ההוראה, והמשיך לעבוד עד יומו האחרון. גם ביומו האחרון, כ"ד חשון תרצ"ח (31.10.1937), בא לבית הספר, ישב על כסאו, אבל לפתע הרגיש את עצמו רע, צנח מן הכסא ובין רגע בא המות. נקבר בבית הקברות הישן.
מנהלת בית הספר לבנות גב' שפרה יחיאליקפלן - בתו.
צאצאיו: שפרה יחיאלי-קפלן (מהנהלת ביה"ס לבנות); חנה ; מאירה .
שמחה מנדלבוים
נולד בעיר טורוב, פלך מינסק, רוסיה הלבנה ט"ו שבט תרכ"ט (1869), לאביו הרב ברוך שהיה מגדולי חסידי קרלין, דרשן מפורסם, מצאצאי ר' יואל סירקש בעל הב"ח ורש"י ולמעלה עד דוד המלך, ולאמו לאה לבית טייטלבוים.
בשנת תרל"ד עלה לא"י עם הוריו, אחיו ואחיותיו והתישבו בירושלים. קבל חנוך מסורתי בחדר ובישיבות.
נשא לאשה את אסתר ליבה בת הרב נחום אפשטין, האדמו"ר מקוברין.
מהראשונים שיסד בא"י בית חרשת לטוית חוטים וייצור גרבים.
מעסקני הצבור בירושלים. היה בין מיסדי ועד האשכנזים וועד העיר ליהודי ירושלים.
ממיסדי המושבה כפר סבא.
ממיסדי ועד העזרה ליהודי ירושלים במלחמה העולמית הראשונה, שחילק אוכל וכסף לנצרכים מכספי העזרה שהגיעו מאמריקה.
נפטר בירושלים, ה' אייר תר"צ.
צאצאיו: חיה אשת הרב אהרן טיטלבוים, חנה אשת חיים רקובר, דבורה אשת בן ציון לבל, אלתר (רב באמריקה), חיים, מתתיהו, יחיאל, ברוך, מרדכי , רחל אשת הרב רפאל קוק.