Джеймс Юджин Керри родился 17 января 1962 года в городе Ньюмаркет, Канада.

Его родителями были Кэтлин Керри (в девичестве Орам), певица[2], а позже домохозяйка, и Перси Керри, саксофонист-самоучка и бухгалтер. У Джима есть старшие сестры Пэт и Рита, и старший брат Джон. Джим рос в католической семье. Его предками были ирландцы, шотландцы, французы, и изначально его фамилия звучала как Каррэ[2]. Когда Джиму исполнилось 14 лет, его семья переехала в Скарборо (Онтарио), где Джим в течение двух лет посещал Школу Благословенной Троицы в Северном Йорке. Следующий год он учился в Агинкортском Институте, а затем недолго посещал Среднюю Школу Норсвью (в целом Джим провёл три года в 10-ом классе).
Финансовые проблемы в семье начались ещё когда Джим учился в школе. Когда его отца уволили с работы, всей семье пришлось переехать в Скарборо, где Перси нашёл себе работу охранника на фабрике «Титановые колеса» в пригороде Торонто, производившей стальные ободы и шины. Там же приходилось работать и всей семье Керри. После школы Джиму и его сестрам и брату приходилось делать уборку, мыть полы и унитазы. В это время Джим становится замкнутым ребёнком. Как вспоминает сам актёр:
Я приходил в школу и засыпал на уроках.
Я не хотел дружить с одноклассниками потому, что мне их проблемы казались мелкими и пустячковыми[3].
Мать Джима, Кэтлин, страдала одной из форм невроза: ипохондрическим синдромом — она приписывала себе симптомы различных болезней. Поэтому иногда его мать считали сумасшедшей[4].
Когда же вся семья решила бросить эту работу, им пришлось жить в автофургоне Фольксваген. После того, как Перси нашёл работу, семья переехала в Берлингтон, Онтарио. Здесь он прожил 8 лет, посещал Высшую Школу Элдершот и в 1979 году основал группу «Новой волны» «Spoons». Здесь он также работал на сталелитейном заводе Дофаско. В феврале 2007 года в интервью газете «The Hamilton Spectator» Керри отметил, что если бы его карьера в шоу-бизнесе не заладилась, то он по-прежнему бы работал на заводе Дофаско.