Город Сумы находится на берегу реки Псёл в месте впадения в неё реки Сумки (прежней Сумы). Сумка в черте города принимает притоки Стрелку (прежнюю Сумку) и Попадьку.
На территории города находится большое озеро Чеха и несколько больших гидрокарьеров.
Через город проходят автомобильные дороги Н-07, Н-12, Т-1901, Р-45, Р-61, Р-44 и железная дорога, станции Сумы, Сумы-Товарная, Олдыш и Басы.
Своё название город получил от речек Сума и Сумка, которые омывали его с двух сторон. До наших дней дошла легенда, что на месте, где стоят Сумы, были найдены охотничьи сумки. Это нашло отражение в гербе города, утверждённом в 1781 году: три чёрные сумки с перевязями и золотыми пуговицами на щите прямоугольной формы.