Больница открыта в 1894 году на средства меценатов. Сбор средств проходил по инициативе городского головы Москвы Н. А. Алексеева. Существует легенда, что один из купцов (предположительно, Ермаков) заявил Алексееву: «Поклонись при всех в ноги — дам миллион (по другим источникам — 300 000) на больницу». Алексеев так и сделал — и получил деньги. Для строительства был приобретен земельный участок за Серпуховской заставой у купца Канатчикова, а на деньги Ермакова был выстроен Ермаковский корпус.

Проектировал больницу опытный психиатр, соратник С.С. Корсакова, сторонник системы нестеснения Виктор Романович Буцке, ставший впоследствии первым главным врачом больницы. Архитектором был Л.О. Васильев, построивший больницу в неорусском («кирпичном») стиле. Первоначальный комплекс больницы состоял из нескольких небольших двухэтажных павильонов, соединенных теплыми переходами и приюта для мужчин-хроников им. Ф.Я. Ермакова, при каждом отделении имелся огороженный забором садик. Первые корпуса больницы, на 508 коек, открыты в 1894 и 1896 гг., уже после смерти Алексеева. В 1900 г. на пожертвования С.А. Капцова был построен корпус для женского приюта. Вторую очередь (открыта в 1905) строил А. Ф. Мейснер. Впоследствии неоднократно расширялась. В 1994 году была выстроена часовня в память Алексеева.