В возрасте 18 лет Макаров дебютировал за местный «Трактор» и провел в команде два сезона. В 1978 году, после призыва в армию, Макаров получил приглашение в ЦСКА.

В составе ЦСКА Макаров стал 13-кратным победителем первенств СССР и 12-кратным обладателем Кубка европейских чемпионов.
Обладатель Кубка СССР, 1979 и 1988

Трижды он признавался лучшим хоккеистом страны по итогам года (1980,1985, 1989). За армейский клуб Макаров забросил 303 шайбы в 472 матчах. В чемпионатах СССР набрал 710 очков в 519 играх — 322 заброшенные шайбы и 388 результативных передач. По обоим показателям Макаров был рекордсменом на тот момент. В октябре 2008 года в ЦСКА был выведен из обращения 24-й номер, под которым играл Макаров.

За 11 лет в составе ЦСКА Макаров пропустил всего 14 матчей, когда лег на операцию, чтобы избавиться от вывиха плеча, полученного на чемпионате мира 1982 года.

В конце 1980-х Макаров решил попробовать свои силы в НХЛ. В 1989 году Макаров дебютировал в составе «Калгари», который на тот момент был действующим обладателем Кубка Стэнли. В дебютном сезоне Макаров забросил 24 шайбы и сделал 62 результативные передачи, получив по итогам сезона приз, вручаемый лучшему новичку сезона в лиге — «Колдер Трофи». Он стал первым из россиян, получившим этот приз.

.
25 февраля 1990 года Макаров набрал 7 очков (2+5) в игре против «Эдмонтон Ойлерз». Это остаётся рекордом для советских и российских хоккеистов в истории НХЛ по очкам за одну игру.

В 1993 году Макаров стал игроком «Сан-Хосе». В первом сезоне Макаров забросил 30 шайб и сделал 38 передач. Всего за «Сан-Хосе» он провёл два сезона[

В 1996 году Макаров сыграл четыре матча за «Даллас»

Сергей Макаров был лучшим бомбардиром мирового первенства в 1979, 1983, 1985 и 1986 годах.

Трижды обладатель звания «Лучший Хоккеист Года» по опросам еженедельника «Футбол-Хоккей» (1979-80, 84-85, 88-89).
Обладатель Кубка Вызова 1979
Обладатель Кубка Канады 1981

Двукратный олимпийский чемпион, 8-кратный чемпион мира.