Як — крупное животное с длинным телом, относительно короткими ногами, широкими, округлыми копытами и тяжёлой, низко посаженной головой.

Высота в холке до 2 м, масса до 1000 кг. Длина тела старого самца до 4,25 м, из них 0,75 м приходится на хвост. Длина самки до 2,8 м, высота 1,6 м, вес 325—360 кг.
На холке у яка небольшой горб, отчего спина кажется покатой. Рога у обоих полов длинные, но не толстые, широко расставленные, от основания направлены в стороны, а затем загибаются вперед-вверх; длина их до 95 см, а расстояние между концами 90 см.
Як отличается длинной косматой шерстью, которая свисает с туловища и почти полностью закрывает ноги. Шерсть темно-бурая или серовато-чёрная всюду, кроме морды, где часто бывают белые отметины.
От зимних холодов яка защищает густой свалявшийся подшерсток, который весной и летом выпадает большими клочьями. Шерсть яков широко используется тибетцами, причём на животных нередко можно видеть упряжь, сплетенную из их собственного волоса. Если на большей части тела шерсть густая и ровная, то на ногах, боках и брюхе длинная и косматая, образует своего рода сплошную «юбку», почти доходящую до земли.
Хвост также покрыт длинным жестким волосом и напоминает лошадиный. Отличают диких (mutus — «немой») и домашних (grunniens — хрюкающий) яков.