בראשית קיומה של העדה האשכנזית הקטנה בירושלים היה לה מקום אחד קטן לתורה ולתפלה בביתהמדרש ששכר ר' הלל ריבלין בבית שלפנים היו בו בית-מדרשו וישיבתו של רבי חיים בן עטר , בעל "אור החיים" על התורה. משגדל הישוב, בעקב בוא שיירות חדשות של עולים והצטרפות שרידי הפרושים שנמלטו מצפת אחרי הביזות והרעש של שנת תקצ"ז ועלו ירושלימה, קם הצורך בבית-מדרש גדול לעדה האשכנזית. אז נדב הרב צבי לעהרין , ראש הועד האמסטרדמי לתמיכה בישוב ("ראש פקידי ואמרכלי אה"ק") סך 25.000 פרנק לרכישת חצר גדולה שיהיו בה ביתמדרש ודירות ומוסדות העדה. האם כי היתה שאיפת כל בני העדה להשיג מהממשלה המרכזית דבר-מלכות שיחזיר לאשכנזים את חצר חורבת ר' יהודה החסיד, שלפני למעלה ממאה שנה היתה שייכת לאשכנזים ונפלה אח"כ בידי הערבים כמשכון על חובם של תלמידי ר' יהודה החסיד, ובה צריך להקים את מוסדות העדה, - אך מאחר שהסיכויים לגאולת החורבה לא נראו ברורים, הסכימה סיעה אחת של העדה, ובראשה הרב ישעיה ברדקי חתן הרב ישראל משקלוב (מחבר "תקלין חדתין" ו"פאת השלחן") לקבל את עזרת ר' צבי לעהרין, והם קנו חצר ויסדו בה בית-מדרש שחלונותיו פתוחים למקום המקדש וקראו לו "סוכת שלום". סיעה זו נקראה "הסיעה האמסטרדמית" או סיעת ה"חצר".
כנגדה דרשה "הסיעה הוילנאית", ובראשה הרב נתן נטע בן הרב מנחם מנדל משקלוב ואתו ר' אברהם שלמה זלמן צורף , לרכז את כל המאמצים לגאולת ה"חורבה" שבה צריך להקים את בית-המדרש ומוסדות העדה. ואכן עלה בידה לגאול את ה"חורבה" ואחד מבתיה תיקנו לבית-מדרש וקראו לו "מנחם ציון" (ר"ח שבט תקצ"ז). ומאז היו לעדה האשכנזית שני מרכזים, ושתי הסיעות התחרו ורבו ביניהן, ובעקב המרץ הרב שבוזבז בריב הלכו ונשתבשו דרכי התמיכה ונתערערו יסודות הקיום של כל העדה.
באותו זמן החליט ר' משה מגיד לעזוב את משרתו בשקלוב ולעלות לארץ הקודש. אז הציעו לו גבאי הכולל בוילנה וברייסין למנותו למגיד ולמנהל העדה בירושלים "לנטוע מטעי השלום בעיר השלום" והוא נסע לוילנה, מינסק וקארלין וקיבל כתבי מנוי בחתימות גאוני וילנה, שקלוב ומינסק וראשי הכולל ובראשם הגאון ר' יצחק בן הגאון ר' חיים מוולוזין, שלפיהם הוטל על שתי הסיעות בעדה שבירושלים לציית לו בדרך השלום ולקבל את הנהגתו.
בחודש אב ת"ר יצא לדרכו לעלות ארצה ואליו נלוה האברך הגדול בתורה רבי שמואל סלנט (שהיה אח"כ רבה הראשי של עדת האשכנזים בירושלים). הם נסעו בעגלות ובספינת-מפרש דרך אודיסה והגיעו לפני ראש-השנה לאיסטמבול ונשארו שם עד לאחרי החגים. שם נפגשו עם סיר משה מונטיפיורי שנסע אז עם מזכירו הד"ר אליעזר הלוי להשתדל למען ביטול עלילת הדם הידועה בשם "עלילת דמשק", וידידות נתקשרה ביניהם ובין השר והיו ביניהם התיעצויות בדבר ביצור מצב הישוב היהודי בירושלים. אך אחרי החגים לא יכלו להמשיך את דרכם, בגלל המלחמה שפרצה אז בין ממשלת השולטן הטורקי ובין מחמד עלי מושל מצרים, שבתוצאותיה הוחזר השלטון הטורקי על ארץ-ישראל וסוריה, - ורק בסוף החורף יכלו להמשיך את דרכם באנית-קיטור עד בירות ומשם בספינת-מפרש עד יפו ובאדר תר"א הגיעו ירושלימה.
ר' משה נתקבל בכבוד גדול ובמהרה הצליח להשכין שלום בעדה. הוא היה דורש שבת אחת ב"סוכת שלום" ושבת שניה ב"מנחם ציון" והרב של כל אחד מבתי-מדרש אלה היה בא לשמוע את דרשתו בביתהמדרש של הצד שכנגד. גם בעניני כספים שיפר את המצב. סידר את הסכסוך עם הספרדים בדבר החוב של האשכנזים, ואחרי שהקים את השלום אצל האשכנזים כרת ברית שלום בין האשכנזים והספרדים שהביאה תועלת רבה להרחבת הישוב בירושלים, הנהיג סדרים מתוקנים בחלוקת התמיכה והשתדל בלב טוב ובהסברת פנים לעזור לכל נצרך כפי היכולת, ובכך הצליח לעקור את שרשי המרירות שבלבבות. הקדיש את כל זמנו לעניני העדה, שקד על טובת הכלל והפרטים ובהנהגתו הניח את היסוד להתפתחותו של הישוב בירושלים. ביזמתו יצאו עשרות שליחים מארץ-ישראל והפיצו את רעיונות שיבת ציון בכל קצוי התפוצות וכן הביאו להגדלת העליה והתמיכה הכספית לישוב.
גאל חלק מאדמת כפר השלוח למטע ולזריעה לשם קיום המצוות התלויות בארץ.
בעל לב טוב, היה מסביר פנים לעניים ושידל אותם בדברי פיוסים והחיה את נפשם.
ידידות מיוחדת היתה בינו ובין הרב יעקב ענתבי מאסירי עלילת דמשק (זקנו של אלברט ענתבי). נפטר בירושלים, כ"ח אלול תר"ו.
כמה מדרשותיו נדפסו, יחד עם דרשות של בנו הרב יצחק אייזיק המגיד משקלוב ושל נכדו הרב בנימין המגיד מטולוצין, בספר "בית-מדרש", וילנה תרכ"א. נדפסה ממנו הסכמה על ספר "תכלת ישראל" בירושלים - תר"א והרבה מכתבים ממשה מונטיפיורי אליו כמנהיג כולל הפרושים.
צאצאיו: הרב יצחק אייזיק , ממלא מקומו כמגיד בשקלוב מאז עלותו ארצה; הרב אברהם בנימין (אביו של ר' יוסף ריבלין , סופרו ומנהיגו של הועד הכללי כנסת ישראל ומיסד השכונות הראשונות מחוץ לחומת ירושלים); הרב אליהו יהושע; ראשע אשת הרב שמואל סלנט (נישאה לו אחרי שנתאלמן מאשתו טויבה , בתו של הרב יוסף זונדל מסלנט) ; מינה אשת הרב נחום בן הרב אברהם אבד"ק שאדיק (אחד משלשת האחים לבית לוי , שעלו בשנת ת"ר והקימו משפחות גדולות ומפורסמות בירושלים), אביו של הרב דוד בהר"ן לוי.