Barry Harris nasceu e foi criado em Toronto, Ontário, identificando-se como um "viciado em música" desde muito jovem. Ele começou aulas formais de piano aos sete anos, o que serviu como sua introdução à teoria musical e composição. Aos onze anos, ampliou seu repertório ao iniciar aulas de guitarra, adicionando uma base de cordas ao seu conjunto de habilidades. Harris participou do coral do colégio, o que desenvolveu seus instintos para arranjos vocais e consciência de conjunto. Seus primeiros anos foram profundamente influenciados pela cultura local de rádio e pela cena de música ao vivo de Toronto, que moldaram sua criatividade pré-adolescente.