Swój sukces potwierdził gościnnym występem w remiksie do utworu „P.I.M.P., 50 Centa.
Podczas wykonywania kary przez Yayo, G-Unit pracował nad debiutanckim albumem Beg for Mercy. Kompozycja została wydana 14 listopada, 2003 roku. Tony Yayo występuje tylko w dwóch utworach na płycie, które zostały nagrane przed jego aresztowaniem.
W 2008 roku ukazał się drugi album grupy pt. Terminate on Sight. Grupa w składzie 50 Cent, Lloyd Banks i Tony Yayo pracowała nad płytą od 2007 r. Zadebiutowała na 4. miejscu notowania Billboard 200 ze sprzedażą ponad 100.000 egzemplarzy. W drugim tygodniu sprzedaży, uzyskano 36.000 kopii, spadając na pozycję 9. W trzecim i czwartym sprzedano kolejno 21.000 i 14.000. Dotychczas album uzyskał notę ok. 300.000 egzemplarzy w Stanach Zjednoczonych. Pomimo tego, produkcja przez krytyków była oceniana różnorodnie, od portalu AllMusic, płyta dostała 3.5/5 gwiazdek, a od PopMatters już tylko 2/10.