New York’da doğan Sonny Rollins, ilk saksafonunu 13 yaşında aldı. Doğu Harlem’de ki Benjamin Franklin Lisesinde okudu. Katıldığı bir Frank Sinatra konserinin tüm hayatını değiştirdiğini söylüyordu.
İlk piyano çalmaya başlayan Rollins, enstrümanını daha sonra alto saksafon ile değişti ve son olarak 1946 yılında tenor saksafona geçti. Lise yıllarında, gelecek diğer caz yıldızları olacak Jackie McLean, Kenny Drew ve Art Taylor dahil olduğu bir grupta çalmaya başladı. İlk plağını 1949 yılında, Babs Gonzales ile birlikte yaptı. 1954’e kadar olan kayıtlarında Miles Davis, Charlie Parker ve Thelonious Monk gibi müzisyenler ile birlikte çaldı.
Rollins 1950 yılında, silahlı soygun suçuyla göz altına alındı ve üç yıllık hapis cezası aldı. Şartlı tahliye olmadan önce 10 ayını Rikers Island’da ki cezaevinde geçirdi. 1952’ye gelindiğinde, bu defa şartlı tahliye kararlarını eroin kullanarak ihlal ettiği için tekrar göz altına alındı. Birleşik Devletler’in uyuşturucu kullanan kişilere yardım etmek amacıyla kurduğu Lexington’da ki Federal Tıp Merkezinde yatırıldı. Tıp Merkezinde geçirdiği süre zarfında, gönüllü olarak ‘deneysel metadon terapisine’ katıldı ve bunun sayesinde eroin bağımlılığından kurtuldu. Her ne kadar başlangıçta müzik kariyerini yok ettiğini düşünse de, kısa zamanda büyük başarılar elde etti.
Saksafoncu olarak ilk olarak blues türü olan jump ve R&B alanlarında ki Louis Jordan gibi müzisyenleri takip etti fakat kısa bir süre sonra ana akım tenor saksafon geleneğine dahil oldu.