גדל בתורה וביראה על ברכי חכמי העיר אלג'יר למשפחת אלנקאווה, צאצאי החכם המקובל אפרים אלנקאווה, רב העיר תלמסאן. אביו, דוד בן אהרון עסק במסחר, ובנו היה סמוך על שולחנו, והקדיש עצמו ללימוד תורה.
בשנת תרנ"ד (1893) הקים גיסו, חכם יצחק מרעלי יחד עם חכם יוסף מרעלי את תלמוד תורה 'עץ חיים', ובו למדו כ-600 תלמידים. חכם יוסף אלנקאווה שימש רב ומורה בתלמוד תורה.
בשנת תרס"ב (1902) הוציא לאור חכם חיים בלייח, רב העיר תלמסאן, את ספרו של החכם המקובל אפרים אלנקאווה, 'שער כבוד ה'' עם פירושו 'פתח השער'. בהקדמה הוא מודה לידיד נפשו דוד אלנקאווה, ולבניו אהרון, יונה, וחכם יוסף אלנקאווה על עזרתם בהוצאה לאור של הספר.
בשנת תרס"ה (1905) ייסד בית כנסת ברובע בלקורט באלג'יר, יחד עם אחיו יונה אלנקאווה, באישור הקונסיסטואר.
בשנת תרס"ז (1907) הוציא לאור בירושלים את ספרו 'שומע יוסף' - רמזים לכת"ר מצוות בפרשיות קריאת שמע. בפתיחת הספר הסכמת הראשון לציון, החכם באשי יעקב מאיר, איתו היה בקשרים מאז ביקורו באלג'יר. לספר צורף חיבורו של גיסו, חכם יצחק מרעלי 'מ"י יבין שמוע"ה', מעין מכתב הסכמה מפורט על הספר 'שומע יוסף'.
בשנת תרס"ח (1908) הקים חברה לעזרה לחולים ולעניים.
בשנת תרע"ב (1912) חכם יוסף אלנקאווה נשא לאישה את מרת לואיס, אחייניתו של גיסו, החכם יצחק מרעלי.
בשנת תרפ"ג (1923) חכם יוסף אלנקאווה יצא לאירופה ולארץ ישראל, ובשנת תרפ"ז (1927) יצא לביקור נוסף.
חכם יוסף אלנקאווה נפטר ביום כ' כסליו תש"ז (1946) בעיר אלג'יר.
