עלה גם הוא לירושלים ומשום שהיה האשכנזי הראשון שהחל לדבר רק בעברית נקרא ר' אליהו בעלה"ק , כלומר: בעל לשון הקודש. ילדי ר' אליהו מתו עליו בקטנותם, וכשנולד לו בנו זה, יוסף יואל, הפקיר אותו לשם "סגולה" (כדי להפקיעו מן הגזירה שאולי נגזרה עליו ועל ביתו), ואז זכה בו מן ההפקר ר' ראובן בר' ירוחם כהן מפינסק וגידלהו בביתו (היה פרנס העדה בצפת ונציגה כלפי השלטונות בצפת ובירושלים. הגן בתוקף בעמידה נגד הפורעים בעת ה"ביזה" הראשונה בשנת תקצ"ד, הציל במסירות-נפש את משפחת ר' ישראל משקלוב בעת הרעש בצפת בתקצ"ז, והיה שליח העדה להבאת כספי ה"חלוקה" מאיסטמבול), וכשגדל השיא לו לאשה את בתו רבקה (שבעת הרעש בצפת היתה קבורה יומיים תחת המפולת ובנם נשארה בחיים והאריכה ימים עד שנת תרס"ד). באותו רעש נהרגה אחותו הנערה דרויזה .
אחרי הרעש עבר ר' יוסף יואל עם אשתו וחותנו לירושלים, יחד עם רוב שרידי הפרושים וחיזקו בה את הישוב האשכנזי. (הוא היה בין החתומים על המכתב ששלחו פליטי הרעש מצפת נתיני רוסיה, פרוסיה ואוסטריה לקונסולי החוץ בירושלים ביום כ"ו ניסן תקצ"ט).
משעלה דודו ר' משה מגיד ונתמנה בתר"א למנהל הכולל בירושלים, נתמנה ר' יוסף יואל לסופר וגזבר הכולל ושימש בתפקיד זה באמונה ובמסירות במשך כ"ה שנה, עד יומו האחרון. עד פטירתו של ר' ישעיהו ברדקי (תרכ"ג) עבד אתו כסופר ואח"כ עבד עם הרב שמואל סלנט שמלא את מקומו.
אחרי מותו של ברדקי ,שהספיק לפני פטירתו למסור לו את כספי הצבור שהיו בידו), פנה במכתב להרב אולמן בפריז בדבר המצב הכלכלי הקשה של המשפחה ועל הצורך לבוא לעזרתה. מכתב זה נדפס ב"הלבנון" של בריל שהופיע אז בפריז. דירתו היתה בחדר אפל בחצר "אור החיים" מול חצר ר' ישעיהו ברדקי, ע"י בית הכנסת ''סוכת שלום" והיה חי בדחקות ושקד לעזור לעניים במאור פנים ובדברי הרגעה ופיוס. רוב ימיו ולילותיו היה יושב והוגה בתורה בבית המדרש "מנחם-ציון" ושוחח בדברי תורה עם הרב שמואל סלנט , שכנו לחצר, וחוץ מזמן עבודתו בלשכת הכולל היה יוצא פעמים רבות להתהלך ברחובות היהודיים, נושא בכיסו מטבעות ותחת איצטלתו מעל לחגורה היה נושא מצד אחר את מזונו העיקרי, לחם ותאנים (כי היה חי בצמצום ובפרישות ואף בשבתות לא היה רגיל לאכול בשר) ובצד שני את הפנקס ובלי כתיבה, והיה מחפש אחרי זקוקים לעזרה דחופה (חולים, יולדות וכדומה) ונתן להם מיד את העזרה מבלי שיצטרכו לבוא ולבקש, והיה מוסיף להם דברי ברכה וניחומים, והיה מתנהג בענוה עם כל אדם.
כל מוסדות הישוב התבססו בימי כהונתו. כסופר הכולל היה לו חלק רב בהנהלת בנין ביהכ"נ הגדול ''בית יעקב" בחורבה.
מכתבים רבים ותזכירים על מצב הישוב ומוסדותיו שחיבר במשך השנים תר"א-כ"ו נמצאים באוצר הספרים של משה מונטיפיורי בבוקינגהאם.
מ-15 ילדים שנולדו לו מתו עליו 11 ,וגם יסורי הדחקות, ולפעמים גם רעב, נפלו בחלקו, ואת הכל קיבל ונשא באהבה, ואשתו בת עשירים היתה עזר כנגדו גם בסבל היסורים והדחקות באומץ.
משעברו שרידי הישוב של הפרושים מצפת לירושלים היו מרגישים חובה לנסוע להילולת ל"ג. בעומר למירון כמנהגם בעת שהיו תושבי צפת. והואיל והנסיעה אז מירושלים למירון היתה כרוכה בהוצאות. מרובות, בטלטולי דרך מיגעים במשך ימים ולילות ולפעמים אף בסכנות, - לכן הנהיג לערוך הילולא בל"ג בעומר בירושלים עצמה, על קבר שמעון הצדיק. המנהג נתקבל על דעת כל העדות ולאחר שנים אחדות. קנו ועדי כוללות הספרדים והאשכנזים את המערה והמגרש והתקינום למקום תפילה והילולה עד היום.
בראשית תרכ"ו פרצה בירושלים מגפת החולירע: שארכה חדשים אחדים ומתו בה יותר מאלף נפש מישראל. בו פגעה המחלה ביום י"א כסלו תרכ"ו, ולמחרת, ביום י"ב כסלו תרכ"ו נפטר ומיד אחרי מותו נעצרה המגפה, והעם האמין כי הוא עצר אותה.
אלמנתו ויתומיו נשארו בלי מזון אפילו לסעודה אחת והרב ישעיה אורנשטיין ור' אריה ליב הורביץ ("ר' ליב לומזר") כלכלו את המשפחה בימי האבל.
צאצאיו: הלל (ראש השומרים בשכונת מאה שערים בהוסדה. נקרא בשם "דער מיטן גלעקיל" ע"ש שהיה מצלצל בשעת סכנה להזעקת התושבים), בנימין (ת"ח מפורסם, אביו של ר' אליעזר ריבלין, חוקר תולדות ירושלים והישוב), אשר (ממיסדי בית המחסה לחולי רוח בירושלים), ראובן (מזכיר ועד הכוללים במשך 40 שנה, גיסו של אברהם שפירא, גבור פתח-תקוה,ואביו של החוקר והמלומד ד"ד יוסף יואל ריבלין בירושלים).
יחיאל מיכל פינס
נולד ברוזינוי, פלך גרודנה (רוסיה הלבנה) כ"ג תשרי (שמחת תורה) תר"ד (1843), לאביו ר' נח ולאמו הינדה לבית כהן . למד בחדרים ואח"כ היה תלמידו המובהק של הגאון הרב מרדכי גימפל יפה , רבה של רוזינוי, ולשפות ולימודים כלליים שכר לו אביו מורים מיוחדים (ביניהם: היה יעקב בראפמאן הידוע, שהתנצר אח"כ, הפך לצורר ישראל וחיבר את ספר-השטנה "הקהל היהודי" ברוסית, אפשטיין מזגר מליטא, ואחיו של הד"ר אל. זאמנהוף מביאליסטוק, יוצר שפת אספראנטו).
נשא לאשה את חיה צפורה בת הגביר העסקן והנדבן ר' שמריהו לוריא ממוהילב (קבלן ממשלתי