成立于1958年4月,其前身为安徽省文化局文物工作队,1964年2月,根据当时研究工作的需要,合并至安徽省博物馆,与安徽省博物馆合署办公,业务分开,经费单独核算。1984年5月本所正式挂牌,是全国成立最早的省级文物考古研究所之一。本所还是省考古学会的挂靠单位,承担学会各项具体工作。
安徽省文物考古研究所遵循“保护为主,抢救第一,合理利用,加强管理”的文物工作方针,以安徽省文物事业发展战略为指导,以配合经济建设为中心,围绕重大学术课题,开展全省文物的调查与考古发掘、地面文物保护、文物科技保护、科学研究和技术指导任务。是全省惟一具有国家颁发的团体考古领队资格、文物保护规划、文物修缮设计甲级资质的专业单位。主要承担全省文物调查、考古发掘、研究和古建筑维修方案设计、文物科技保护以及相关业务指导工作。
近年来,本所还承担着全省第三次文物普查办公室的具体工作和南水北调文物保护工作河南段的监理任务。本所高度重视安全工作,连续27年实现文物安全无事故。