Sukces W 1957 za zgodą rodziców wyjechał do Nowego Jorku szukać szczęścia w show-businessie. Grupa z Kanady The Rover Boys pomogła mu dostać się na nagranie do nowo otwartej wytwórni ABC Paramount. Don Costa, szef muzyczny ABC, był pod wrażeniem głosu i entuzjazmu młodego wykonawcy, podziwiał też jego talent do pisania chwytliwych melodii i słów, które mówiły o problemach nastolatków. Pierwszą piosenką, jaką Anka nagrał dla ABC, była „Diana”, opowiadająca o nieszczęśliwej miłości do starszej dziewczyny; napisał utwór jeszcze w Ottawie, z myślą o swojej starszej o trzy lata opiekunce, Dianie Ayoub. Singiel stał się hitem – latem 1957 doszedł do pierwszego miejsca listy przebojów w USA. Anka w latach 1958/1959 umieścił kolejne cztery piosenki w TOP 20 tygodnika Billboard.

W 1958 wystąpił u boku Mamie Van Doren w swoim pierwszym filmie muzycznym – Let’s Rock. W 1959 jego kolejne dwa single – „Lonely Boy” z filmu Girls Town oraz „Put Your Head on My Shoulder” – znalazły się na pierwszym miejscu listy Hot 100. Stał się jednym z najpopularniejszych wykonawców młodzieżowych w USA.