11 stycznia 2007 podczas gruntownej rekonstrukcji składu ekipy rządzącej przeprowadzonej przez prezydenta Nursułtana Nazarbajewa, Tokajew został odwołany z funkcji ministra i mianowany przewodniczącym Senatu Parlamentu Kazachstanu. Stanowisko to trzymał do 15 kwietnia 2011, kiedy zastąpił go Kajrat Mämi.
W latach 2008–2009 był wiceprzewodniczącym Zgromadzenia Parlamentarnego Organizacji Bezpieczeństwa i Współpracy w Europie. Od 12 marca 2011 do 16 października 2013 pełnił funkcję Dyrektora Generalnego ONZ w Genewie. Piastowanie tej funkcji wywindowało jego pozycję na arenie międzynarodowej i stanowiło dobre tło dla prowadzonej przez Kazachstan polityki międzynarodowej.
16 października 2013 ponownie został zaprzysiężony na stanowisku przewodniczącego Senatu Parlamentu Kazachstanu zastępując Kajrata Mamiego, który został powołany na szefa Sądu Najwyższego. Tokajew był typowany jako potencjalny następca prezydenta Nursułtana NazarbajewaKazakhstan: Senate Reshuffle Sparks Succession Talk.. Jako przewodniczący Senatu Tokajew pozostał swego rodzaju globalnym ambasadorem Kazachstanu, nie tylko reprezentując go na forach organizacji międzynarodowych (m.in. wizyta w Nowym Jorku 4 marca 2015 i spotkanie z sekretarzem generalnym ONZ Ban Ki-moonem dot.