Чільне місце в палеонтологічній колекції Музею займають залишки  викопних тварин із села Келеберда Горішньоплавнівської територіальної громади Кременчуцького району. Перші зразки з Келеберди (тоді містечко Келеберда Кременчуцького повіту) надійшли до Природничо-історичного музею Полтавського губернського земства (первісна назва Музею) ще у 1891 році, стали основою палеонтологічної колекції закладу. Так, у звіті Полтавської губернської земської управи за 1891 рік подано, що серед залишків мамонтів у колекції музею «наилучше сохранилась нижняя челюсть мамонта с зубами, найденная рыбаками в русле р. Днепра около м. Келеберды, Кременчугского уезда».

На початку ХХ ст. палеонтологічна колекція була досить чисельна. На жаль, під час Другої світової війни частина палеонтологічних експонатів була втрачена, частина − депаспортизована. Нині в Музеї зберігається 26 зразків викопних тварин з Келеберди. Вони представлені остеологічними залишками мамонта (20 од.), шерстистого носорога (2 од.), первісного бика (3 од.) та частиною черепа з лівим роговим стрижнем зубра (1 од).
У 1962 році частину палеонтологічного матеріалу з Келеберди було використано при монтуванні кістяка мамонта, що представлений нині в експозиції Музею.

Цікаво, що серед  палеонтологічних зразків зберігся експонат із первісних колекцій Музею − променева кістка шерстистого носорога з написом на етикетці «Полтавский музей Губернского земства Отд. геологии» .
Палеонтологічні зразки з села Келеберда Кременчуцького району є складовою частиною музейної колекції, мають наукове, освітнє та пізнавальне значення, потребують детального вивчення.

Див. Палеонтологічні зразки з села Келеберда Кременчуцького району в колекції Полтавського краєзнавчого музею імені Василя Кричевського /  О.О. Шиян, В.І. Старченко // Свічадо Придніпров’я. Краєзнавчий альманах: збірник краєзнавчих та наукових праць / Горішньоплавнівська міська рада Кременчуцького району Полтавської області; Відділ культури і туризму; Краєзнавчий музей м. Горішні Плавні; Музей ПрАТ Полтавський ГЗК. [ від. за випуск Безсмольна М.Г., ред.кол.Ткаченко К.І., Стахів М.П., Василенко В.І. та ін.]. – Горішні Плавні, 2021. Вип. ХІ. – С. 144-149.

Підготували Олена Шиян − завідувачка науково-дослідного експозиційного відділу природи та Віра Старченко – завідувачка сектору науково-дослідного відділу фондів