חונך על ברכי סבו המקובל מארי שלום מנצורה, ולמד מפי מארי יוסף כהן צדק, ומארי חיים קורח.
בשנת תרנ"ו (1896) מארי יוסף יצחק הלוי נשא לאישה את מרת נעמי בת יחיא, אשר הייתה יד ימינו בכל פעולותיו בקהילה, ונולדו להם שלושה בנים, וארבע בנות.
מארי יוסף יצחק הלוי התפרנס מעיבוד עורות, ובהתנדבות עסק בענייני ציבור, וייצג את הקהילה אל מול השלטונות, יחד עם אחיו מארי יחיא יצחק הלוי, ששימש הרב הראשי של יהודי תימן.
בשנת תרע"ב (1912) מארי יוסף יצחק הלוי קיבל פנייה מארגון 'כל ישראל חברים', ובה מכתב מטעמם לאימאם, בו הם מבקשים להסדיר את זכויות הקהילה היהודית. מארי יוסף יצחק הלוי נסע לעיר קפלה לפגישה עם האימאם, ובנועם דרכיו הצליח להשיג מממנו מכתב ותעודות אשר יסדירו את מצב הקהילה.
בשנת תרצ"א (1931) זכה ועלה יחד עם משפחתו לארץ ישראל. הוא התיישב בשכונת נורדייה בצפון תל אביב, בשכונה זו גרו רבים מיוצאי תימן, ומארי יוסף יצחק הלוי הפך במהרה לרב ומנהיג הקהילה. הוא הקים את בית הכנסת 'עץ החיים' על שם המהרי"ץ, שהיה לבית הכנסת הראשון בשכונה אשר נהגו בו מנהג תימן. מסר שיעורים קבועים בתורה וגמרא. לימים הוא ייסד את ישיבת 'אוהל תורה' בתל אביב.
בשנת תרצ"ז (1937) הוזמן מארי יוסף יצחק הלוי לשמש כחבר השופטים שעל יד המועצה הדתית ליהודי תימן בארץ ישראל, ובשנת ת"ש (1940) מונה באופן רשמי לרב שכונת נורדייה, ושימש בתפקידו עד יומו האחרון.
מארי יוסף יצחק הלוי נפטר ביום א' ניסן תשכ"ג (1963) ונטמן בבית קברות הישן בתל אביב.
מארי יוסף יצחק הלוי כתב חידושים לתורה אשר אוגדו בספר 'עדות ביהוסף', וקונטרס 'קורות הזמן בתימן'.
