É interessante a forma como a canção tenta envolver o ouvinte com menções aterrorizantes, tenebrosas e medonhas através de breves sonoridades ambientes. Do ranger da porta a vocais ululantes de desenho fantasmagórico, a obra é capaz de enaltecer tanto a insegurança quanto uma espécie de curiosidade masoquista por parte do ouvinte.
Depois que um breve enredo rítmico é apresentado em meio à sua estrutura crua, a faixa é rapidamente abrilhantada com a presença de uma voz feminina áspera em virtude da adoção de toques sintéticos e digitais. Evidenciando sua natureza crua enquanto explora os pulsos percussivos e uma veia melódica áspera, Things That Go Bump In The Night se mostra uma canção feita sob medida ao halloween.
