A cette époque, il suit des leçons de solfège et des cours de saxophone. Sa passion pour la musique ne fait alors que commencer. A l'âge de 14 ans Pierre Perret, son certificat d'études en poche (l'équivalent du
Brevet des Collèges), entre au Conservatoire de musique de
Toulouse, où il étudiera entre-autre le solfège, le saxophone, la comédie dramatique et la diction. Il y sortira diplômé à 19 ans et partira pour
Paris afin d'y effectuer son service miltaire. Entre 1956 et 1957, Pierre Perret accompagne à la guitare une chanteuse Françoise Marin dans un cabaret parisien « La Colombe », et y chante timidement, parfois ses propres chansons. C'est ainsi qu'il est découvert un soir par
Boris Vian et l'agent Emile Hebey qui le présente à
Eddie Barclay. Il enregistre alors en 1957, le 45 tours « Moi, j'attends Adèle » et rencontre même dans les bureaux d'enregistrement sa futur femme Simone Mazaltarim, qui lui donnera des
jumeaux. Continuant à écumer les cabarets et salles de concerts , notamment en première partie de « The Platters », Pierre Perret voyage en France et en Afrique mais un maladie, la pleurésie, l'obligera à rentrer et s'arrêter deux ans.