水戸に、水戸藩士酒井捨彦、寿恵の長男として生まれる。幼名秀蔵、秀松。のちに、秀麿。母方の親戚の養子となり、横山姓となる。結城正明に学んだ後、開校した東京美術学校に一期生として入学。橋本雅邦、岡倉天心の指導を受ける。卒業後、日本絵画協会絵画共進会などで受賞を重ねた。東京美術学校助教授となるが、明治３１年（１８９８）天心に殉じて美術学校を辞職し、日本美術院の創立に参加。正員、評議員となる。明治３３年（１９００）、絵画協会と美術院の連合絵画共進会で、「朦朧体」との酷評を受けた。インド、欧米への旅行から帰国後、天心に従い、茨城県五浦で研究を重ね、文展開催以後は審査員を歴任。天心の没後は、文展を離れ、日本美術院を再興。一貫して指導的立場にあった。帝室技芸員、帝国美術院会員、帝国芸術院会員、日本美術報国会会長などを勤めた。第一回文化勲章受賞、第一回文化功労者となった。（「近代日本画への道程　「日本画」の１９世紀」図録　１９９７年）