Постановлением Кабинета Министров Казахской ССР № 496 от 28 августа 1991 года и Постановлением Президиума АН КазССР № 73 от 06 сентября 1991 года был создан Институт археологии, которому было присвоено имя выдающегося ученого археолога, историка, этнографа, востоковеда, филолога, академика А. Х. Маргулана.
Как самостоятельное научное направление обществоведения Казахстана археология сформировалась в системе, созданной в 1946 году, Академии наук Казахской ССР. Первым руководителем отдела археологии стал А.Х. Маргулан, а с 1953 года отдел возглавил К.А. Акишев.
Создание в 1991 году самостоятельного Института было подготовлено всем ходом развития археологической и исторической науки в Казахстане, которая связана с изучением истоков развития народа, его далекому прошлому, культурному наследию как части мировой цивилизации. Институт является координирующим центром археологических исследований в стране.
У истоков развития археологии Казахстана стоят выдающиеся русские востоковеды и историки: В.В. Бартольд, В.В. Радлов, П.И. Лерх, а также представители передовой русской интеллигенции. В становлении археологической науки республики велика роль советских археологов М.Е. Массона, С.П. Толстова, А.Н. Бернштама, М.П. Грязнова, С.С. Черникова, П.И. Борисковского, А.П. Окладникова, Л.Р. Кызласова, В.М. Массона.
Период, который охватывает довоенное время и заканчивается концом 60-х годов, характеризовался организацией крупных экспедиций, работами в зоне целинных земель, могильников эпохи бронзы в Центральном Казахстане, сакского могильника Бесшатыр в Жетысу. В это время проводили исследования А.Х. Маргулан, А.Г. Максимова, Е.И. Агеева, Г.И. Пацевич, Т.Н. Сенигова, К.А. Акишев, М.К. Кадырбаев, Х.А. Алпысбаев, Г.А. Кушаев, Ф.Х. Арсланов, В.И. Садомсков, А.М. Оразбаев.
Во второй половине 60-х, в 70-е–80-е годы сложилось новое поколение археологов: Б.Н. Нурмуханбетов, Л.Б. Ерзакович, К.М. Байпаков, С.М. Ахинжанов, М.С. Мерщиев, С.Ж. Жолдасбаев, В.А. Грошев, Ж.К. Таймагамбетов, Ж.К. Курманкулов, А.К. Акишев, З.С. Самашев, Е.А. Смагулов, Т.В. Савельева, А.С. Ермолаева, Ю.А. Мотов, А.А. Макарова, Т.Н. Нурумов; нумизматов: Р.З. Бурнашева, В.Н. Настич.
Организационная обеспеченность научных исследований регулируется Ученым советом. Работает Совет молодых ученых.
Институт археологии активно поддерживает и развивает международные связи, что находит свое отражение в совместных международных программах и проектах, в организации международных экспедиций, выставок, в совместных публикациях научных трудов, участия в работе международных симпозиумов, конференций.
Ежегодно в процессе археологического исследования памятников появляются новые материалы, несущие дополнительную информацию. Пополнение фондов и расширение информационного поля являются необходимым и обязательным звеном в процессе археологических исследований. Казахстанской археологией накоплена значительная источниковая база, позволяющая разрабатывать и совершенствовать типологию и классификацию памятников, выделять новые археологические культуры, хозяйственно-культурные типы, историко-культурные общности, успешно решать вопросы хронологии и периодизации. Археологические источники являются важнейшей основной для восстановления исторической картины древней и средневековой истории Казахстана в широких хронологических рамках от палеолита до позднего средневековья.
С 1991 по 2011 годы Институт участвовал в разработке программ фундаментальных исследований, определивших приоритетные направления развития современной археологической науки Казахстана. В результате проведенных комплексных исследований, выявления новых памятников разработан широкий пласт проблем, способствующих воссозданию конкретной исторической реальности в социально-экономическом, политическом, этнокультурном аспектах.
С 2012 года Институтом выполняется грантовая программа по приоритету «Интеллектуальный потенциал страны». Проводятся исследования по целевой программе Междисциплинарного совета общественно-гуманитарных институтов «Ғылыми қазына: «Археологические исследования по древней и средневековой истории Казахстана». А также по целевой программе «Археологические исследования объектов историко-культурного наследия» (администратор программы - Комитет по культуре Министерства культуры и информации РК).
Одним из важнейших направлений в научно-организационной деятельности Института является участие в реализации Государственной программы «Культурное наследие» (2004–2013 годы). Проблема сохранения культурного наследия приобретает исключительное значение для современного общества. Вещественный блок культурного наследия представляет собой как бы материальную память народа. В связи с чем принятие Государственной программы «Культурное наследие» является знаковым, ибо на всем пространстве СНГ только в Казахстане проблеме сохранения культурного наследия придан государственный статус. В данном случае это выступает как показатель цивилизованного отношения к прошлому.
Согласно данной программе археологические объекты выбирались с учетом их значимости и наличия определенного задела в предыдущих заделах. По сути дела они являются эталонными памятниками, несущими важную историко-культурную нагрузку, выполняющую своеобразную роль носителей генетической памяти народа, а также вошедшие в список будущих номинантов Всемирного культурного наследия.
Исследования по Программе ведутся комплексно, вслед за раскопочными работами и параллельно им следуют мероприятия, связанные с подготовкой проекта, затем консервация и восстановление раскопанных объектов и их музеефикация.
Проблема сохранения и изучения памятников археологии невозможна без организации целостной системы мер по их защите и использованию. В связи с этим Институт археологии предложил внедрить программу совершенствования мероприятий по выявлению археологических памятников, суть которой сводится к проведению археологической экспертизы, предваряющей процессы строительства и хозяйственной деятельности.
За годы своей деятельности Институтом археологии им. А.Х. Маргулана достигнуты не только значительные результаты, разработаны и успешно реализуются новые направления, но и сформирована концептуальная основа для дальнейших археологических исследований в Казахстане.