הרב אברהם יהודה חן נולד לאמו ולאביו הרב דוד צבי חן בשנת תרל"ח (1878) בצ'רניגוב, באימפריה הרוסית.
גדל בתורה וביראה על ברכי סבו, הרב פרץ חן, תלמידו של האדמו"ר הזקן, הרב שניאור זלמן מלאדי, ורב העיר צ'רניגוב (היום אוקראינה) במשפחה של חסידי חב"ד, ממגורשי קטלוניה בספרד. ראשית תורתו למד מפי אביו, הרב דוד צבי חן, ששימש, החל משנת תרמ"ג (1883), אחרי פטירת הסבא, כרב העיר צ'רניגוב.
הרב אברהם יהודה חן למד מפי הרב שלמה הכהן אהרונסון, שבשנת תרנ"ז (1897) החל לשמש רב העיר ניז'ין הסמוכה. הוא הרחיב השכלתו גם בלימודים כלליים, והוסמך לרבנות ע"י מייסד חסידות הורניסטייפול, הרב מרדכי דב טברסקי, וע"י הרב יחזקאל ליבשיץ, רב העיר קאליש. הוא נשא ונתן בהלכה עם חברו הרב אריה לייב האפט, רב העיר קונוטופ, ומכתביו הודפסו בספרו של הרב האפט 'דין ודברים'.
בשנת תרס"ב (1902) נשא לאשה את לאה בת משה מינצברג, ונולדו להם שלושה ילדים: דב, דבורה ושושנה.
בשנת תרס"ט (1909) התמנה לרבנות בעיר נובוזיבקוב, בפלך צ'רניגוב, ושימש ברבנות מספר שנים. בהמשך ביקר בעיר לובביץ', והיה לחסיד, האדמו"ר החמישי, הרב שלום דובער שניאורסון מלובביץ'. בשנת תרע"ד (1914) ביקר בעיר באברויסק, והיה לחסיד האדמו"ר חב"ד-קאפוסט, הרב שמריה נח שניאורסון.
בשנת תרע"ט (1919), בשל החשש מהשלטון הבולשביקי, ברח לביאליסטוק פולין. משם עבר לגרמניה, והתיישב בעיר דנציג. בשנת תרפ"ג (1923) התמנה לרב העיירה צופוט, ובשנת תרצ"ג (1933) עבר לפאריס.
בשנת תרצ"ה (1935) זכה ועלה לארץ ישראל, התיישב בעיר תל אביב, והיה מראשוני המתפללים בבית כנסת חב"ד ברחוב מונטיפיורי. בשנת ה'תרצ"ז (1937) עבר לירושלים, בה שימש כרב ב'בית מדרש הרמב"ם'.
בשנת תרצ"ט (1939) החל לשמש ראש המרכז לתרבות דתית שליד המחלקה לתרבות של הועד הלאומי. ובשנת תש"א (1941) החל לשמש גם כרב שכונת בית הכרם. עם קום המדינה מונה למנהל המחלקה לתרבות תורנית במשרד החינוך. בביתו ברחביה ייסד שיעור שבועי בתורת החסידות, שלאחר מותו נודע בשם 'חוגי חן'.
חכם אברהם יהודה חן נפטר ביום הכיפורים י' בתשרי תשי"ח (1957) ומנוחתו כבוד בבית העלמין סנהדריה.
הוא חיבר מאמרים רבים, שנאספו לאחר מותו בספר 'במלכות היהדות'. וכן הספרים: 'למנחמי' ו'היהדות והדם'.
