בצורתה הקדומה, אבל היא שונה ורחוקה מאד מהדת היהודית המקובלת בכל האומה, ואם יוזנחו וישארו מנותקים מגוף האומה סופם להגרר אחרי סוכני האמונה הנוצרית ויאבדו לגמרי לעם ישראל. לפיכך ראה חובה קדושה לעם ישראל לקרב את האחים הנדחים, לחנך אותם ליהדות המקובלת בכל ישראל ולצרף אותם לגוף האומה. הוא עצמו לא הספיק לעשות למטרה זו בביקורו בחבש, כי הצבא האנגלי ניגף לפני חיל חבש והוכרח לצאת מהארץ, ויוסף הלוי הוכרח גם הוא, מטעם זה, להחיש את יציאתו. אך הרעיון לא הרפה עוד ממנו, ובכל שעת כושר השתדל לעשות לו נפשות. וכשנתמנה לאחר זמן למרצה בבית-הספר הגבוה שבפאריס וכבודו גדל בין המלומדים הצרפתים, זכה לכבוד רב גם מצד עשירי היהודים שם והשתדל לשכנעם בדבר הצורך לעשות למען קירוב הפלשים ליהדות, אך המשימה היתה גדולה וקשה מכדי שדיבוריו של מלומד קשיש יספיקו להזיזם למעשה רב, והיה צורך בכוחות צעירים שיסעו בעקבותיו לחבש, יבואו במגע עם הפלשים יתחילו בפעולה ביניהם בתנאים חלוציים קשים, ואח"כ אולי תבוא עזרה גם מצד יהודי אירופה. לשם כך נשתדל לתת לתלמידיו היהודים "תורה ותעודה" ביחד "תורה - להעשיר את ידיעותיהם בהרצאותיו ובמחקריו, "תעודה" - יעוד להתמסר למפעל החזרת האחים הנדחים "אשר מעבר לנהרי כוש" ליהדות השלמה. אחר, תעמולה במשך שנים נמצאו סוף-סוף שנים מתלמידי, שנטלו על עצמם את המשימה, ואף כי ראשי חברת "אליאנס" התנגדו למפעל כולו, באשר לא היה נאה להם לצרף בני "הגזע השחור" לעם היהודי, נענה לבקשת הפרופ' הלוי, משום כבודו ו"למען קידום המדע" הקציבו תמיכה למשלחת, אך כשהגיעו שני הסטודנטים. יוצאי ליטא, לקאהיר ובאו במגע עם אנשי "אליאנס" שם, הפחידום הללו בתיאור הסכנות העצומות, המאיימות עליהם במסע במדבר וביחוד מצד הקנאים הנוצרים בחבש, והם נפחדו וחזרו לפאריס. הפרופ' הלוי הצטער על הכשלון אך לא ויתר על רעיונו והוסיף להטיף לו בין תלמידיו, וסוף-סוף נמצא הסטודנט יעקב נח פייטלוביץ מלודז' שהביע את נכונותו ללכת בשליחות הקדושה על אף כל הסכנות. הפעם סירבו אנשי ''אליאנס" לתת כסף למטרה זו, שלא היתה רצויה להם, כאמור, ובהשתדלות הרב הראשי צדוק הכהן הקציב הבארון אדמונד (בנימין) רוטשילד סך 5000 פראנק. זה היה סכום פעוט ביחס לגודל המשימה, אך מתוך התלהבות ליעוד הקדוש נטל הסטודנט פייטלוביץ על עצמו את כל חומרות הצנע וההסתפקות במועט והסכים לצאת לדרך גם כך.
אחרי שהושג פתרון זה לבעית ההוצאות, היה צורך בהמלצות ממדינה אירופאית בעלת יחסים עם ממשלת חבש, שהשלטונות שם יגינו עליו ולא יפריעוהו בעבודתו, - ולצורך זה באה בחשבון ממשלת איטליה, שבתור בעלת המושבה אריתריאה הגובלת עם חבש היתה לה ההשפעה הגדולה ביותר בחבש. הודות להמלצות מכס נורדאו למדינאים ברומא קיבל מהם המלצות לשלטונות האיטלקיים באריתריאה ולשלטונות חבש, ומאת הרב הראשי ומנהל בית-המדרש לרבנים ד''ר מרגליות מפירנצה שבאיטליה קיבל אגרת ברכה והמלצה לקהלות הפלשים, וכך נסע לחבש בפעם הראשונה בשנת 1904 והצליח ליצור את הקשר הראשון בין הפלשים ובין היהדות העולמית. הם נתנו בו אמון ואף נתנו אתו שני בחורים שחרחרים מבניהם. שיתחנכו באירופה למורים, על מנת שבשובם אח"כ לארצם יתחילו בחינוך הפלשים ליהדות נכונה, כפי שהיא מקובלת בכל תפוצות ישראל (להם היו, ובמדה מרובה נשתמרו עד היום, מנהגים משונים, שמקצתם מקורם בתורה, כגון דיני טומאה וטהרה, ומקצתם ממקורות זרים). אך כשהגיע עם שני הבחורים לפאריס סירבה הנהלת "אליאנס" לקבלם לבית-המדרש שלה למורים, ורק בהשתדלות הרב צדוק הכהן נתקבלו בו כתלמידי-חוץ על חשבון הברון רוטשילד. אך אחרי מות הרב צדוק הכהן גברה ביהודים הצרפתים ההתנגדות לסיבות "השבט השחור" ליהדות. ה"אליאנס" הפסיקה את תמיכתה בשני הבחורים המתלמדים וסירבה לתת יד ועזרה ליסוד בתי-ספר לפלשים בחבש. אז נסע לאיטליה, שם השיג אצל היהודים המעטים הרבה אהדה אבל כסף מעט מאד. אח"כ נסע לגרמניה, שם פרסם ספר בגרמנית על הפלשים ועל גילוייו בחבש והצליח ליסד ועד למען הפלשים, שבעזרתו הכספית גמרו שני הבחורים את לימודיהם והוסמכו למורים, חזרו לארצם להתחילו בעבודה (אחד מהם היה עמנואל תאמרת , שהיה מורה בשמך שנים רבות, ואחרי שחרור חבש במלחמת העולם השניה נתמנה מטעם הקיסר חילה סלאסיה למנהל החינוך של המדינה כולה ; והשני ירמיה גיתה , עבד בהוראה עד שמת בגיל צעיר, ובזמן האחרון בא נכדו ארצה בין הנערים שנשלחו משם להשתלם כמדריכי-נוער), והתחילה הפעולה ליסד בתי-ספר יהודיים לילדי הפלשים בחבש.
תוך מאמצים בלתי-פוסקים למען הפלשים הצליח לגמור את לימודיו ובשנת 1907 הוסמך לפילוסופיה ולמדעי המזרח, ובספריו ובהרצאותיו באגודות מדעיות ובאוניברסיטאות שונות נודע כאחד הגדולים בשפה ובתרבות של חבש העתיקה. ובעשרות שנות חיים המשיך בפעולתו למען הפלשים, עד מלחמת העולם הראשונה באירופה ואחריה בעיקר באמריקה, והובאו משם עוד בחורים להשתלם בהוראה בצרפת ובאמריקה, ובארץ-ישראל והוקמו רשת בתי-ספר בישובי הפלשים בחבש, ובענינים אלה נסע עוד כמה פעמים לחבש ועשה שם זמן ממושך (בשנים 1908/09, 1913/14, 1920, 1923, 1946) והנגוס (הקיסר) החבשי כיבד אותו ורחש לו תודה על פעולתו להפצת תרבות והשכלה בארצו, וזמן-מה אף שימש (1914) בתפקיד יועץ הצירות החבשית בקהיר (מצרים). ולפני שנים נוסד ביזמתו באסמרה בי"ס לילדי היהודים בחבש מטעם הסוכנות.
אחרי כמה ביקורים בארץ השתקע כאן בתל-אביב, בנה לו בית וסידר בו את ספריתו הגדולה, שהיא אחת מהחשובות שבעולם בחקר התרבות החבשית וחקר פזורי ישראל והפלשים.