1963 yılında Sivas’ta dünyaya gelen Yusuf Büyük, ilk orta ve lise öğrenimini burada tamamladı. 1984 yılında Marmara Üniversitesi İlahiyat Fakültesinden mezun oldu.

1985 yılında öğretmenlik mesleğine başlayıp 2000 yılına kadar Zonguldak’ta çeşitli okullarda öğretmenlik ve yöneticilik yaptı. 2000 yılında İstanbul Kartal Aziz Bayraktar İmam Hatip Lisesine Müdür olarak atandı. 2004 yılında AK PARTİ’den Samandıra Belediye Başkanı seçildikten sonra 2009 yılına kadar bu görevini sürdürdü. 2009 - 2010 yılları arasında Milli Eğitim Bakanlığında Bakan Müşavirliği yaptı. 2010 - 2013 yılları arasında Milli Eğitim Bakanlığı Çıraklık ve Yaygın Eğitim Genel Müdür Yardımcısı olarak görev yaptı.

2013-2018 yılları arasında Milli Eğitim Bakanlığı Müsteşar Yardımcılığı görevinde bulunduktan sonra Cumhurbaşkanlığı Hükümet Sistemine geçilmesinin ardından 05.12.2018 tarihinde Yükseköğretim ve Yurtdışı Eğitim Genel Müdürü olarak görevlendirildi. Bu görevine devam ederken 30.04.2019-11.12.2019 tarihleri arasında ayrıca Ortaöğretim Genel Müdürlüğü görevini de yürüttü.

09.01.2020 - 09.08.2021 tarihleri arasında Milli Eğitim Bakanlığı Hayat Boyu Öğrenme Genel Müdürlüğü görevini yürüttü.

Çeşitli sivil toplum kuruluşlarında yöneticilikler yapan Yusuf Büyük, 27 Şubat 2017’den 15 Ağustos 2021’e kadar UNESCO Türkiye Milli Komisyonu Yönetim Kurulu üyeliğini yaptı.  05 Eylül 2020 tarihi itibarı ile Milli Eğitim Vakfı Yönetim Kurulu üyeliğini ve 19 Mart 2021 tarihi itibari ile 15 Temmuz Derneği (Vatan Millet Aşkına) Yönetim Kurulu Üyeliğini sürdürmektedir. 

15.11.2022 tarihinden itibaren Maltepe Üniversitesi Mütevelli Heyet üyeliğine başladı. 

29.07.2024 tarihinden itibaren Türkiye Futbol Federasyonu Dış İlişkiler Kurulu Başkanvekilliği görevine başlamıştır. 

Evli ve iki çocuk babasıdır.