Kehidupan Agus Salim berubah drastis ketika masuk ke dunia pergerakan. Ia menjalani hidupnya secara sederhana tapi bahagia.

Terhadap keluarga, Salim memiliki perhatian yang besar. Ia bertekad bahwa pendidikan anaknya tidak akan diserahkan pada pendidikan formal. Salim berargumen bahwa pendidikan saat itu hanya akan menjerat anak pada pola pikir ala barat. Karenanya, Salim memutuskan untuk mendidik sendiri anak-anaknya, atau dalam istilah sekarang dikenal dengan homeschooling.

Ternyata usaha Salim membuahkan hasil. Pada usia belia anak-anaknya telah fasih berbahasa Belanda. Bahkan Bibsy, salah satu anak Salim, adalah seorang poliglot yang fasih menguasai banyak bahasa.

Kesederhanaan Salim lainnya terlihat dari tempat tinggalnya. Mekipun terus berpindah-pindah kontrakan, keluarga Salim menikmati hidup yang tenang. Kontrakan di jalan Gereja Theresia 20 adalah rumah terakhir yang Salim sewa hingga wafatnya.

Meskipun hidup dalam kesederhanaan Salim menoreh banyak prestasi sebagai bapak bangsa.

Salah satunya adalah sebagai dosen tamu di Universitas Cornell University, Amerika. Salim merasa senang mendapat kesempatan itu karena dirinya dapat menyampaikan Islam di sana. Pernah juga salim memberi ceramah dihadapan 350 mahasiswa yang berasal dari 62 universitas di AS. Pada kuliah inilah Salim menyampaikan Islam lewat keahliannya berbicara dalam berbagai bahasa.

Pada 4 November 1954, KH Agus Salim meninggal dunia. Jasadnya disemayamkan di Taman Makam Pahlawan Kalibata. Lautan massa ikut mengantarkan Salim ke tempat pemakaman. Presiden Soekarno bahkan sempat malayat ke rumah kontrakannya di jalan Gereja Theresia.