În anii 30 ai secolului al XIX-lea arhitectul oraşului O. Gasket a construit o casă într-un parter pe strada Alexandrovskaia, astăzi Ştefan cel Mare, aflat între străzile sfatul Ţării şi Serghei Lazo. În 1845 această casă este achiziţionată de către moşierul Iorgu Balş, pe care a dăruit-o orfelinatului, care i-a purtat numele. În anul 1903 această casă este achiziţionată de către nobilul Vladimir Herţa, consilier titular, care demolează construcţiile şi în locul lor, în 1905 a fost construită o vilă într-unparter. În subsolul clădirii se află sistema de încălzire a casei. Arhitectul clădirii, se presupune că este Henrik Lonsky. Arhitectura casei este soluţionată în stil eclectic, în formele barocului vienez.
Este construită într-un etaj, aliniată cu faţadele la linia roşie a străzii. Compoziţia faţadei este cu o simetrie a volumelor, ritmate în trei rezalite, dar cu o disimetrie a organizării spaţiale a interioarelor. Intrarea este amplasată lateral spre dreapta, într-un rezalit, alături de poarta de acces în curte, volum căruia îi corespunde un rezalit lateral la stânga, în interiorul căruia se afla un cabinet sau o capelă, ambele rezalite dominate de cupole de forme complexe, baroce. Rezalitul central este încununat de o cupolă cuplată din patru fâşii cilindrice, care susţine un parapet din metal forjat. Faţada principală este decorată abundent prin reliefuri sculptate – bareliefuri, herb, ornamente vegetale, grile. Decoraţia interioarelor abundă în ciubuce aurite, fresce şi zugrăveli ale tavanelor şi pereţilor.
