AIPI adalah suatu lembaga mandiri yang menghimpun para ilmuwan terkemuka Indonesia. Walaupun pendiriannya baru diundang-undangkan pada tahun 1990, pentingnya keberadaan suatu “akademi ilmu Pengetahuan” nasional sudah dirasakan sejak awal kemerdekaan Indonesia. Akademi ilmu Pengetahuan merupakan perangkat peradaban bangsa. Dari tahun 1928, misalnya, telah ada Natuurwetenschappelijke Raad voor Nederlandsch-Indie (Science Council of Netherlands-Indies) yang berfungsi sebagai akademi ilmu Pengetahuan Hindia-Belanda; anggotanya juga anggota akademi ilmu pengetahuan Belanda (Koninklijke Nederlandse Akademie van Wetenschappen; KNAW) yang didirikan tahun 1808.
Pada tahun 1956 Majelis Ilmu Pengetahuan Indonesia (MIPI) didirikan sebagai cikal bakal AIPI, dengan tugas membimbing perkembangan ilmu pengetahuan di Indonesia, dan memberi pertimbangan kepaa pemerintah dalam hal kebijakan ilmu pengetahuan. Dalam perkembangannya MIPI beralih fungsi menjadi suatu lembaga penelitian, dan disatukan dengan Lembaga Riset Nasional sebagai Lembaga Ilmu Pengetahuan Indonesia (LIPI) pada tahun 1967.