«MY JOY» была записана Depeche Mode во время работы над альбомом Songs of Faith and Devotion (1993).

Изначально песня не входила в трек-лист альбома и была выпущена в качестве би-сайда для второго сингла альбома «Walking in My Shoes». В 2006 году она получила широкое распространение как часть коллекционного издания альбома.