Если не учитывать индивидуальные особенности конкретного погреба, то да, утеплять пол стоит.
Главная задача при утеплении пола, это не допустить потерю тепла которое может уходить в землю (грунт, обычно полы в погреба земляные).
Если проще, то чтобы земля не промерзала и температура в погребе не опускалась ниже определённой точки, это особенно актуально в зимний период.
У меня на даче есть погреб и я утеплял не только стены и потолок, но и пол, температура круглый год в погребе (после утепления) почти одинаковая.
Другое дело, что утепление лучше производить на стадии строительства погреба, а не после.
В Вашем случае погреб под лоджией (хотя я бы не стал это строение называть погребом в "классическом" понимании, это не погреб).
Утеплить пол можно керамзитом, работа трудоемкая, так как сверху керамзита заливается бетонная стяжка и все материалы придется опускать в погреб ведром через вот такой небольшой люк
что крайне сложно и трудоемко (см. выше о теплоизоляции на стадии возведения погреба).
Перед заливкой полов не забывайте о гидроизоляции и стен и пола.
Вместо керамзита можно использовать пенополистирол, работы чуть меньше. но стяжка всё равно нужна, как и гидроизоляция (можно использовать рулонную, например рубероид не дорогой вариант).
И плюс учитывайте, что стяжка "опустит" потолки, то есть высота погреба на первом месте.

В Вашем случае пол утепляется по другой причине, нужно понизить температуру в погребе.
Моё мнение, уровень пола нужно понижать, примерно на пол метра, опять же работа крайне трудоемкая, погреб уже построен.
И плюс, возможно под лоджией проходят трубы, или отопления, или труба ГВС (горячее водоснабжение) утеплением пола Вы эту проблему не решите, возможно вообще не нужно было возводить погреб в этом месте.
и плюс на это строение нужно получать разрешение.

См.выше, возможно под погребом трубы и причем скорей всего труба ГВС (вводная на дом), так как тепло идет от пола и летом, а не только зимой.
Можно попробовать уложить некую отражающую (Пенофол, как вариант) теплоизоляцию, но гарантии никакой, неправильно выбрано место под погреб.