Eğitim yaşamını sırasıyla Mekteb-i Osmânî, Vefâ İdâdîsi, Cağaloğlu Darülmuallimin-i Âli'ye (yüksek öğretmen okulu) okullarında tamamladı. İstanbul Üniversitesi edebiyat fakültesi felsefe bölümünü bitirdi. 1922'de öğretmenliğe başladı. 1932 tarihinde Türk Dili Tetkik Cemiyeti'nin (Türk Dil Kurumu) kurulmasıyla Hasan Âli Yücel etimoloji kolu başkanlığına getirildi. 1935 yılında Cumhuriyet Halk Partisi'nden, İzmir milletvekili olarak meclise girdi ve art arda dört dönem milletvekilliği yaptı. 1938'de, 2. Celal BAYAR hükümetinde millî eğitim bakanlığına getirildi. Üniversite reformu (Ankara Üniversitesi Fen Fakültesi'nin kurulması, Yüksek Mühendis Okulu'nun İTÜ'ye dönüştürülmesi ve Ankara Tıp Fakültesi'nin kurulması), Köy Enstitüleri'nin kurulması, dünya klasiklerinin Türkçeye tercüme edilmesi ve ilk resmî ve telifli Türkçe ansiklopedi olan İnönü Ansiklopedisi'nin ön çalışmaları, bakanlığı döneminde gerçekleşti. Devlet Konservatuvarının kurulması, Türkiye'nin UNESCO'ya girişi onun çabaları sonucunda oldu. 1946'da Üniversiteler Yasası çıkartılır. "Bu yasayla, yüksek öğretim kurumlarının Bakanlıkla olan "sıkı bağı" önemli ölçüde gevşetildi, mevcut kuruluşlar yapısal bir bütünlüğe kavuşturuldu, böylece üniversiteye organik bir karakter kazandırıldı. 1946'da 7 yıl 5 ay sürdürdüğü bakanlık görevinden istifa etti. İstifasından sonra gazetecilik görevine döndü. 26 Şubat 1961 tarihinde konuk olarak kaldığı Prof. Dr. Tevfik SAĞLAM'ın evinde hayatını kaybetti. Hasan Âli Yücel, şair Can YÜCEL'in babasıdır.
