Если на блоге не стоит никаких тяжелых плагинов, то скорее всего проблема в хостинге - на сервере слишком много сайтов, и он не выдерживает их общую посещаемость.

По идее хостер не должен допускать таких ситуаций (перенаселения серверов) и переводить особо ресурсоемкие сайты на дорогие тарифы. Если ошибка возникает регулярно и положительных сдвигов не видно, надо переводить сайт на другой сервер / к другому провайдеру.

А мой хостер говорит что ошибка именно у меня в скрипте.
Я уже и плагин на кеширование поставил, и перешел на более лучший тариф - по ресурсам лучше.
И проблема в том, что если я не залогиненый, то блог работает хорошо, как только я появляюсь в админке, перестают работать посты на самом блоге.

Все страницы - все работает, а вот в посты зайти нельзя :(

Пробуйте отключить через админку все плагины и после этого проверить работу сайта, нет, попробуйте еще и шаблон сменить на стандартный и тогда проверить.
Очень часто кривые шаблоны и плагины убивают сайт.

Ошибка 504 gateway time out - nginx (если речь идет о ней) возникает в случае, когда веб сервер nginx выступающий в качестве frontend не может соединиться с веб сервером выступыщим в качестве backend.

А это в свою очередь может быть по двум причинам - nginx не дает вам слишком часто заходить на ваш сайт (допустим не более 3-5 соединений в секунду - такое ограничение может применяться хостером чтобы снизить нагрузку на сервер) или же сервер который является backend слишклм перегружен и не успевает отвечать на запросы nginx.

В лбом случае, боюсь это не проблема скрипта а проблема данного конкретного сервера- вам следует обратиться к хостеру.

99% ошибка в каком-нибудь плагине((