1936 kehrt die Familie nach Mar del Plata zurück. Piazzolla intensiviert sein Bandoneon-Spiel in verschiedenen Tango-Orchestern. Wegweisend wird für ihn die Begegnung mit dem Violinisten Elvino Vardaro, der den Tango mit seinem Ensemble auf eine alternative, neuartige Weise interpretiert.

1938 zieht Piazzolla nach Buenos Aires und wird bald darauf Mitglied eines der besten Tango-Orchester der damaligen Zeit von Anibal Troilo, für den er auch Stücke komponiert. Der polnische Pianist Arthur Rubinstein (1887 - 1982) stellt 1941 den Kontakt zwischen Piazzolla und Alberto Ginastera (1916 - 1983) her, der zu einem der wichtigsten lateinamerikanischen Komponisten des zwanzigsten Jahrhunderts werden wird.

"Es war, als würde ich zu meiner Freundin gehen", erinnerte sich Piazzolla. "Er offenbarte mir das Mysterium des Orchesters, er zeigte mir seine Partituren, lehrte mich, Stravinsky zu analysieren. Ich tauchte in die Welt von ‚Das Frühlingsopfer' ein, lernte es Note um Note...".

Piazzolla beginnt zu komponieren: Sinfonien, Ouvertüren, Klavierkonzerte, Kammermusik, Sonaten. - Den Tango gibt er in dieser Zeit nahezu auf. Zwar gründet er 1946 ein eigenes Orchester, dessen Tangos erste kontroverse Auseinandersetzungen unter den Traditionalisten entfachen. 1949 löst sich das Ensemble jedoch auf; Piazzolla schreibt noch einige Stücke, tritt mit diesen aber nicht an die Öffentlichkeit, denn der Tango hat als Bordelltanz einen schlechten Ruf.

So urteilt der langjährige argentinische Botschafter in Paris, Enrique Larreta: "Der Tango ist in Buenos Aires ausschließlich ein Tanz schlecht beleumdeter Häuser und Tavernen der übelsten Art. Niemals tanzt man ihn in anständigen Salons oder unter feinen Leuten. Für argentinische Ohren erweckt die Musik des Tango wirklich unangenehme Vorstellungen."

Piazzolla kehrt daher dem Tango den Rücken, konzentriert sich auf Jazz und klassische Musik und gewinnt 1953 den nationalen Kritikerpreis für sein Werk "Sinfonietta". Das damit verbundene Stipendium am Pariser Musikkonservatorium bei Nadja Boulanger wird zum Wendepunkt in seinem Leben.