Zgrada u kojoj se nalazi Jevrejski Istorijski Muzej podignuta je 1928 godine za potrebe Jevrejske sefardske optine u Beogradu. Arhitekta zdanja bio je Samuel Sumbul. Za vreme Drugog svetskog rata u zgradi se nalazio nemaki "kulturbund". Posle Drugog svetskog rata deo zgrade je nacionalizovan. Danas se na prvom spratu nalaziMuzej. Na drugom spratuprostorije ima
kao i . Na treem spratu su prostorije i kancelarija . U okviru SJOJ nalazi se biblioteka, a od 1992 godine i humanitarna apoteka.