הכירו את גודל ערכו ואמרו למנותו לסגן להרב הראשי ר' שמואל סלנט , אך באותו הזמן היה צורך למנות רב ראשון לקהלה שנוסדה ביפו ולמושבות שבסביבתה ובהסכמת הר"ש סלנט ורי"ל דיסקין מבריסק נתמנה למשרה זו בשנת תרמ"ו.
ביפו מצא לו כר נרחב לפעולה בהנחת יסוד לרבנות שלא היתה קיימת לפניו. הסדיר את השרותים הדתיים: שחיטה, בית-מטבחיים וכדומה, ריכז סביבו את יודעי התורה שבקהלה לחוג תורני פעיל, נתן את ידו לעסקני העדה ביסוד הכנסת אורחים, בית-החולים "שער ציון" והתלמוד-תורה "שערי תורה" ומצא מקורות לקיומו ולהחזקתו והדריך את העבודה בו ופיקח עליה. ניהל בתבונה רבה את פעולתו כנושא הסמכות בהנהגה צבורית ובשיפוט אף בענפים שבחו"ל אינם מתפקידו של הרב: רישום נשואין וגיטין באישור השלטון והקונסולים, אישור קניני קרקעות ומשפטי קרקעות, שהתנהלו או אך ורק בדיני ישראל ולא בערכאות, הוראת איסור והיתר במצוות התלויות בארץ, ובכלל זד, גם ביקב ראשון לציון (אחר כך נתמנה בנו הרב יוסף הלוי לרב קבוע ביקב), על-ידי זהירות מאיסורי יין נסך, ערלה וכלאים והפרשת תרומות ומעשרות. ביחוד הגדיל לעשות בענין היתר עיבוד האדמה בשמיטה הראשונה בארץ מאז גלות ישראל מעל אדמתו. בתרמ"ב היתה רק מושבה חקלאית אחת בארץ, היא פתח-תקוה, ובגלל הקדחת נטשוה תושביה באותה שנה. אך בערב-שביעית שבשנת תרמ"ח כבר היו כמה ישובים חקלאים בארץ, והיה צורך למצוא תקנה להתרת עיבוד האדמה. אז קבע הרב את הנוסח למכירת הקרקע לנכרי כדי להתיר את העבודה. הגאונים רי"ל דיסקין מירושלים, ר' יצחק אלחנן ספקטור מקובנה ור' שמואל מוהליבר ועוד אחרים סמכו את ידם על תקנתו, וכנגדם קמו רבנים אחרים יעוררו מחלוקת למען איסור העבודה, והוא עמד בתוקף על תקנתו למען קיום הישוב וביסס אותה בידיעתו הרבה בהלכה.
עוד בהיותו בחו"ל ערך והגיד, והוציא לאור ספרים חשובים בחכמת הקבלה, והם: יהל אור על הזוהר, מאת הגר"א; קרני אור על הזוהר, מאת ר' אלכסנדר זיסקינד בעל הספר "יסוד ושורש העבודה''; ספר הבהיר לרבי נחוניה בן הקנה עם פירוש "אור הגנוז" מאת אחד מתלמידי הרשב"א ; עומר מן על האדרא זוטא, מאת ר' מנחם די לונזאנו. בארץ הוציא את סידור הגר"א בשני חלקים וכתב עליו את הביאורים "שער נפתלי" ו"אמרי שפר"; שנות אליהו מהגר"א על משניות מסכת שבת; את החלק השני של הספר ברית עולם מאת מקובל קדמון (שהיה שמור בכתב-יד בגנזי ר' יצחק איוויער , אחי הצדיק ר' משה איוויער) וכתב לו את הפירוש "לוחות הברית". (דף אחד מכת"י של פירושו זה אבד בירושלים כשהשאילו לאדם אחד וכשהוחזר לו כתב-היד לא הרגיש בחסרונו, וכך מסר בנו ר' יוסף הלוי את הספר- להדפסה בלי דף זה. כששלח אח"כ את הספר לבנו ר' נפתלי הרץ הלוי ללוס אנג'לוס שבקליפורניה, שם שימש אז בתור חזן ומורה באחת הקהלות, כתב לו בנו, שאצל הרב של אותה קהלה גם כן נמצא פירוש זה בשם זה מאת אביו ומתאים מלה במלה לפירוש של הרנ"ה הלוי. נתברר שהרנ"ה השאיל את כתב-ידו לקריאה לאיש אחד בביאליסטוק עוד לפני שנים רבות וההוא העתיקו בלי רשות וקרא עליו את שם עצמו. כך נתגלגלה העתקה של הפירוש הזה לאמריקה בידי בנו של האיש ההוא, ומשם העתיק נכדו של המחבר בצילום את הדף החסר ושלחו לאביו לארץ-ישראל והוא הדפיסו אח"כ בדף מיוחד כהשלמה לספר). כן גילה הרב את הספר "פסקי חלה" להרשב"א והכינו להדפסה מחדש (יצא על-ידי בנו הרב יוסף הלוי בתוספת הגהות והערות ממנו). ועוד נשארו אחריו כתבים בהלכה, באגדה ובקבלה.
ניהל את הקהלה בענוה אך גם בתקיפות כשהיה צורך לעמוד על משמר הקודש. היה מכובד על הכל בשל מדותיו התרומיות ושנאת הבצע ואהבתו לכל אדם ועזרתו לכושלים, ובנשיאותו נתאחדו הספרדים והאשכנזים ביפו לקהלה אחת.
המחלוקת שפרצה בקהלת יפו בתרנ"ח מוטטה את בריאותו והוא נפטר בירושלים ביום י"ד סיון תרס"ב.
יעקב רמון
נולד בעיירה דובזין בפולין ביום ג' טבת תרס"ג (ראשית 1903) לאביו ר' אפרים אליעזר ולאמו אסתר חוה (גראנאט) רמון. בן שש עלה ארצה עם כל ביתאביו והשתקעו ביפו. כאן למד בת"ת "שערי תורה" שבנוה-שלום ואח"כ בביה"ס "תחכמוני" בתל-אביב.
יצא עם המגורשים מיפו לכפר-סבא ומשם אל השומרון. בנדודים אלה נתיתם מאמו וחדשים מעטים אחרי השיבה ליפו - גם מאביו. בתרע"ט יסד אגודת