Наиболее типичные места обитания — пустыни и полупустыни.

Селится как на равнинах, так и в горах, где поднимается до 3000 м над ур. м. (центральный Тянь-Шань, Памир). Предпочитает защищённые места с кустарниковой и высокой травянистой растительностью, в том числе бугристые пески с зарослями саксаула, песчаной акации и тамариска, межбугровые балки, долины рек и озёр, тугайные леса. Встречается на орошаемых землях. В горах держится по долинам рек, в нагорных степях, по опушкам лесов. В горно-лесном поясе наиболее благоприятные для него условия — в арчевых и орехово-плодовых лесах. Тяготеет к водоёмам, хотя длительное время может обходиться без воды. В глинистой пустыне, на солончаках и бесплодных такырах редок. На территории России заяц-толай водится в сухих степях, поросших кустарниками (карагана, чий), с выходами скал или россыпями камней. Очень характерен для долин рек и озёрных котловин, где держится по окраинам кустарниковых зарослей. Местами населяет опушки сухих лиственничных лесов. На Алтае и в Саянах поднимается в горах до гольцового пояса, где также держится вблизи валунных осыпей.
Толай ведёт оседлый образ жизни, совершая лишь короткие кочёвки, связанные с поиском корма, размножением, прессом хищников или неблагоприятными погодными условиями. Например, снежными зимами он перебирается в места с неглубоким снеговым покровом, поближе к населённым пунктам. После установления глубокого снежного покрова в горах толаи перебираются вниз по склонам или совершают ежедневные откочевки в долины, где кормятся на свободных от снега местах. В благоприятных условиях толай постоянно обитает на одном и том же участке, в пределах которого имеет несколько лёжек и кормовые (жировочные) участки. Площадь индивидуального участка около 2 га. Одиночен; временные группы до 30 особей образует только во время гона и иногда в зимний период в удобных местообитаниях. Активен преимущественно в сумерках и ночью, но в периоды гона и расселения молодых также и в светлое время суток. Иногда может кормиться днём в пасмурную погоду, особенно в высокогорных районах, где его реже беспокоят. Лёжки устраивает в ямках глубиной 5-15 см (реже до 60), вырытых под прикрытием кустов и камней; они похожи на лёжки русака, но немного меньше по размерам. Иногда отдыхает в заброшенных норах сурков, сусликов, лисиц, черепах. Молодые зверьки часто прячутся в норах грызунов. Сам толай нор, как правило, не роет, исключения встречаются в песчаных пустынях, где он выкапывает неглубокие норы около 50 см длиной. Места кормежки иногда находятся на значительном расстоянии от лёжек и, идя на жировку, зайцы порой натаптывают хорошо заметные тропы. Возвращаясь на лёжку, толай, подобно всем зайцам, запутывает следы.