Родился в 1865г. в Западной Армении (в настоящее время территория Турции) в семье землевладельца.
В 1870-х самостоятельно занимался рисунком.
В 1880–1885 учился в студии Партугаляна в Ване.
В начале 1890-х за участие в армянском освободительном движении был приговорен правительством Турции к смертной казни и бежал через Персию в Россию.
В 1895–1897 учился в Рисовальной школе Общества поощрения художеств у Л. Е. Дмитриева-Кавказского. Ездил на этюды в Эстляндию. После ареста и заключения (в тюрьмах Ревеля, Тифлиса и Эривани, 1897–1899) был выслан в Персию, откуда эмигрировал во Францию.
Поселился в Париже, в 1899–1904 посещал Академию Р. Жюльена, где занимался под руководством Ж.-П. Лорана и Ж.-Ж. Бенжамен-Констана. Работал в Бретани, периодически приезжал в Россию. Выставлялся в Осеннем салоне (1901).
В середине 1900-х жил в Эривани, работал над росписями в монастыре Эчмиадзин. Преподавал в Нерсисяновском и Овановском училищах в Тифлисе.
В 1908 вернулся в Париж. В 1910 поселился в Константинополе. Много путешествовал по Европе, Азии, Африке. В середине 1910-х вместе с художником С. Комитасом совершил поездку по территории Турецкой Армении, посетил Ван.
В 1913 был награжден золотой медалью на Международной художественной выставке в Мюнхене за картину «Притвор Санаинского монастыря». В 1914 принял участие в антитурецком восстании в Ване.
В 1916 стал одним из основателей Союза художников-армян в Тифлисе и его филиала в Ростове-на-Дону, экспонировал свои работы на выставках Союза (1917, 1921). В 1919 провел персональную выставку в Париже.
С 1920 жил в США. В 1928 по приглашению советского правительства вернулся в Армению.
Являлся членом армянского филиала АХРР. Участвовал во многих групповых выставках, в том числе «Изобразительное искусство Армянской ССР за 11 лет» (1931), «Галерея ударников» (1932), в выставке, посвященной XVII годовщине Красной Армии (1935) в Ереване «Выставке лучших произведений советских художников» в Москве (1941). Неоднократно совершал творчески командировки по Армении. В 1935 был удостоен звания народного художника Армянской ССР.
Ретроспективные выставки творчества Терлемезяна состоялись в Ереване (1941, 1965) и Москве (1949).
Терлемезян — один из крупнейших армянских художников. Работал как пейзажист и портретист, писал натюрморты. В своем творчестве испытал влияние импрессионизма, его картины отличаются тонкостью светотеневых моделировок и сдержанностью колористического решения.
Произведения Терлемезяна находятся во многих музейных и частных собраниях, в том числе в Государственной Третьяковской галерее, Государственной картинной галерее Армении в Ереване и других.
