בשנות העשרים, עם התרחבות של תל-אביב, עשה הרבה לגאולת קרקעות בסביבת תל-אביב מידי בעליהם הקודמים ובאירגון משתכנים, לפתרון הדיור של העולים החדשים, שחלק גדול מהם השתקע בתלאביב. לאחר הפרעות ביפו במאי 1921 היה יחד עם ידידו יצחק חיותמן, ממייסדי תל-אביב (ראה בכרך א', עמוד 437) מראשי המייסדים של שכונת "נוה שאנן" שבמזרח-דרום העיר תל-אביב (כיום: אזור מסחרי תוסס, ובו גם תחנת-האוטובוסים המרכזית, בפינת רחובות לוינסקי והגדוד העברי מקום ששכן בעבר ביתו, נמצא שלט המודיע על חלקו ביסוד השכונה, ושנת היסוד). היה שנים רבות מעסקניה הראשיים של השכונה, ודאג לכל צרכיה. החברה הציבה לה למטרה לרכוש קרקע למגרשים להקמת בתי מגורים לפליטי הפרעות מיפו ונוה שלום. נרכש שטח של 214 דונם שנתחלק ל-338 מגרשים בני 800 אמה כל מגרש.
בשנים 1926-1925 היה חבר מועצת-העירייה השניה של תל-אביב, וחבר ועדות עירוניות שונות.
ביום י' ניסן תרפ"ד (14.4.1924) נרשמה ע"י הרושם הכללי של החברות, אגודה הדדית בע"מ "כפר גנים" בע"מ ליד פתח-תקוה, במטרה לרכוש קרקעות ושיכלולה לשם אירגון כפר גנים ומושבים חדשים בסביבות פתח-תקוה ובנין בתים בשביל חבריה. פרסם פרוספקט לחברה. כפר גנים נבנתה דרומית-מערבית למושבה.
עם כל פעלתנותו המעשית, הציבורית, נשאר תמיד איש-הספר וידיד האמנות היהודית. היה משורר, חוקר התנ"ך, איש מדע, מחכמי האשורולוגיה החשובים בארץ (מחקריו הם בעלי ערך גם למדענים בשטח זה בחו"ל). פרופ' נפתלי הרץ טור-סיני הגדירו כ"חלוץ האשורולוגיה" בארץ. היה אחד האספנים הגדולים של ספרות-פולקלור יהודית וכללית. בהיותו ידוע בעיקר כאיש-מעשה ומכיוון שלא נמצאו מו"לים לחיבוריו, הוא היה בעצמו המו"ל של ספריו.
ביתו ברחוב מקוה-ישראל 18 בתל-אביב היה מרכז תרבותי ועסקני במשך שנים רבות בשל הספריה ששכנה שם וכן בגלל הכנסת האורחים, מסורת שבה המשיכה רעיתו כאן בארץ. הספריה היתה לעזר רב, לסופרים, חוקרים ואנשי עט. מבאי ביתו המקורבים היו אישים רבים (אביגדור המאירי, פרופ' יוסף קלויז נר, פרופ' נחום סלושץ, ד"ר ירוחם קורנגרין ואחרים וכן עסקנים בשטחים אחרים ביישוב), לא נעדרו מבאי ביתו גם נכבדים ערביים שקשרו עמו קשרי ידידות (אחד מהם הציל את בנו נתן בתחילת מאורעות 1935, כשעבד כמהנדס בנמל יפו). את ביתו זה מכר לפני פרוץ מלחמת העולם השניה, ובכסף המכירה העביר לארץ מגרמניה את הספריה האשורולוגית, אוסף נדיר שנמסר גם הוא לאוניברסיטה של תלאביב, יחד עם כל ספריו ליסוד ספריה אוניברסיטאית בתל-אביב. הספריה נקראת על שמו "ספריה אוניברסיטאית מיסודו של יעקב פארמן" (לפי חוזה שנחתם בינו ובין העירייה שהבטיחה לכבד זכרו לעולמי עד). הספריה מכילה 18 אלף ספרים, בהם ספרים וכתבי-עת במקצועות חקר המקרא, מדעי היהדות, דברי הימים, א"י, ספרי יובל וזכרונות, ידע-עם, בלשנות ואשורולוגיה - ב-33 ארונות ברזל. בתנאי, לעשותה ספריה לעיון ולקריאה ולעבודה מדעית בכתליה בלבד, והספריה לא תהפך בשום פנים לספריה להשאלת ספרים לקוראים לבתיהם.
ב-12.1.1954 מסר את תמונתו ההיסטורית של הצייר אבל פאן (אבל פפרמן) "למחרת פרעות קישינוב" (1903) למוזיאום של איגוד יוצאי בסרביה בישראל, בשנת תשט"ז (1956) למלאות לו 75 שנה נדפסה חוברת מיוחדת, דברי הערכה, להארת פועלו, מנחת יובל מאת "הוצאת ספרים בישראל למדע המזרח העתיק" (תל-אביב, תשט"ז-תשי"ז).
במסיבה חגיגית להופעת ספרו על נחום "ספר משא-נינוה חזון נחום האלקושי" , נאמרו דברים ע"י עסקנים, סופרים וכו'. ביניהם: פרופ' יוסף קלוזנר, פרופ' נחום סלושץ ועוד, שהדגישו כי האשורולוגיה היתה הפינה הזנוחה ביותר במחקר העברי, והדגישו, כי בספרו "משלי אשור ובבל" יש בו משום תרומה לכך ובייחוד לחסיפת הפתגמים הקדמונים.
ספריו: "אלשם" (דו-ירחון לספרות. ארי אבן-זהב, יעקב פארמן, תרפ"ד); "מלקוש" (שירים א'. תלאביב, תרפ"ו); "במורד" (שירים ב'. תל-אביב, תרפ"ז); "חומותיך ירושלים" (מתוך "ספר שירים", תרצ"ה); "ספל מאדם" (מתוך "ספר שירים", תרצ"ה); "ספר שירים" (לכבוד שנת 15 לעלייתנו באניה "רוסלאן", תרצ"ה); "לבני קרח מזמור" (תהלים מ"ט, השקפה קדומה בצורה פיוטית על גורל העשירים בחייהם ובמותם, לזכר אמו דבורה ז"ל, תרצ"ז); "תחש" - הערה בלשנית (תדפיס מ"תרביץ", שנה י"ב, ספר ג', תש"א); "ספר היובל" של מפלגת רדיקל פועלי-ציון (בעריכת י. פארמן, הוצאת ועד היובל, תש"ב) ; "ספר משלי אשור ובבל (טקסט עם תרגום עברי. מבוא, הערות ומלונים, תש"ז, חלק ראשון, 216 עמודים, תוספת: תמצית שיטתית בחקר גזעי לשונות שם ועבר, ס"ד עמודים); הנ"ל, חלק שני (מוכן לדפוס); "ספר ללשון אשורית-בבלית וכתב היתדות"; "ספר נחום" - לאור השירה המזמורית (תל-אביב, תשט"ז) ; "ספר דוד בן-ישי" - לקראת יובל 3000 שנה מראשית יצירתו ומלכותו. שיטה חדשה לחקר השירה המזמורית (תלאביב, תשט"ז); "ספר דוד בן-ישי" - מזמורי תהלים אלפין ושונים עם פרקי מבוא, הערות והשוואות (תלאביב, תשי"ז) ; "חומר לביבליוגרפיה על תהלים" (תדפיס. תל-אביב, תשט"ז); "ספר דוד בן-ישי ודורו" - באגדות חז"ל (תל-אביב, תשט"ז); "דברי הערכה" שנאמרו במסיבה לכבודו, כשמלאו לו 75 שנה (תשט"ז-1956), בהופיע ספרו על נחום , גם מאמרים שהוקדשו לעבודתו המדעית בספרי דוד-בן-ישי על תהלים (ת"א, תשי"ז); חוברת "מאה שנה אשורולוגיה בעולם וניצני אשורולוגיה בישראל" (18571957) (תל-אביב, תשי"ז); מאמר "סוד שבעת עמודי