בתחילה (1969) השתמשו המתפללים רק במבואה של בית הכנסת ,באולם הכניסה מרחוב לייב יפה ,ורק לתפילות בימים הנוראים. שאר שטח הקומה שימש כמחסן . השכונה הייתה דלילה והמקום הספיק למתפללים מלבד לתפילות "כל נדרי" ו"נעילה". לפני יום הכיפורים תשל"ד (1973) פינו את המחסן והחזירו גם את האולם הגדול לבית כנסת. 

בשנת 1972 החכירה העיריה את המבנה לעמותת המתפללים. בעקבות כך  בחודש אלול שנת תשל"ב (1971) נחנך בית הכנסת מחדש בתהלוכה להעברת ספרי תורה מהצריף. 

בית הכנסת נקרא על שמו של ש"י עגנון, הן בשל מעורבותו ב"גאולת" בית הכנסת, והן בשל העובדה שהתפלל במניין בצריף בקביעות. 

בשנות ה-70 פעל גן ילדים בקומה התחתונה של בית הכנסת. כיום ישנה במקום הספרייה המפוארת של בית הכנסת.