Яков Яковлевич родился 6 августа 1870 г. в селении Голым Карамыше Сосновской волости Камышинского уезда Саратовской губернии (ныне г. Красноармейск).

Вебер любил рисовать с детства. В 16 лет впервые написал большую картину маслом «Спасение жертв на корабле "Вера"». Художник лично наблюдал драматическую сцену, которая его сильно впечатлила. В дальнейшем Вебер более всего проявлял себя именно в пейзажной живописи. Все его работы очень живописны и реалистичны, насыщены эмоциональным состоянием, поэтому очень нравились зрителям.

Работы художника рождались именно по наблюдениям натуры, были реалистическими. Причем краски Вебер изготавливал сам, по совету местного аптекаря.

Повзрослев, Яков отправился учиться и работать в Саратов. В 1891 г. художник устроился работать копиистом в Радищевский музей.

В 1897 г. переехал в Москву, где работал в мастерской художника К. Коровина. В 1898-1901 гг. Вебер учился в Пензенском художественном училище, с 1902 г. - студент Высшего художественного училища при Императо
рской Академии художеств в Санкт-Петербурге.

В 1915 г. Яков Яковлевич вернулся на родину, жил в селе Щербаковка Саратовской губернии (ныне Волгоградской области). С 1922 г. преподавал в трудовой коммуне для беспризорных детей в селе Щербаковка, с 1932 г. - в Энгельсской художественной студии для одаренных подростков.

С 1927 г. участвовал в художественных выставках, проводимых Центральным музеем АССР немцев Поволжья (ныне Энгельсский краеведческий музей).

Творчество художника получило широкое признание, как в России, так и за рубежом: картины Я.Я. Вебера экспонировались на выставках в России, Италии, Швеции, Голландии.

Яков Яковлевич Вебер скончался 20 февраля 1958 г. в городе Цивильске Чувашской АССР.