PostgreSQL/Cluster

Конфигурация стенда

alt-node-1 192.168.170.40/24
alt-node-2 192.168.170.41/24
alt-node-3 192.168.170.42/24

master 192.168.170.32/24

IP-адреса нод кластера; alt-node-1, alt-node-2, alt-node-3;

IP-адрес который назначается "мастер-ноде" кластера БД: master;

Дальнейшие операции должны быть выполнены для каждой ноды кластера.

cat >> /var/resolv/etc/hosts << EOF
192.168.170.40 alt-node-1
192.168.170.41 alt-node-2
192.168.170.42 alt-node-3
EOF

Важные требования (типичные фиксы)

1. Часы у нод кластера должны идти правильно и синхронно

Команда синхронизации часов:

ntpdate -s pool.ntp.org;

2. /etc/hosts должен быть hardlink`ом на /var/resolv/etc/hosts

Команда исправления:

rm /etc/hosts && ln -v /var/resolv/etc/hosts /etc/hosts;

Установка пакетов базы данных

apt-get update && apt-get install postgresql13 postgresql13-server postgresql13-contrib;

Необходимое исправления для работоспособности PosgreSQL

usermod --home '/var/lib/pgsql' --shell '/bin/sh' postgres;

Установка пакетов кластера

apt-get update && apt-get install pacemaker pcs fence-agents-virsh resource-agents-paf corosync resource-agents;

Примерная настройка кластера

Установка пароля для пользователя hacluster

passwd hacluster

Пароль: hacluster

Включение демона

systemcctl enable --now pcsd;

Разрушить кластер

pcs cluster destroy --all;

Добавить сервисы кластера в автозапуск

systemctl enable --now corosync.service pacemaker.service

Сборка нод в кластер

Аутентификация на нодах кластера

pcs host auth -u hacluster alt-node-1 alt-node-2 alt-node-3;

пароль для пользователя hacluster, который использован ранее:hacluster

Сборка нод в кластер

pcs cluster setup \
    sng-cluster \
    alt-node-1 addr=$(grep alt-node-1 /etc/hosts | cut -d ' ' -f 1) \
    alt-node-2 addr=$(grep alt-node-2 /etc/hosts | cut -d ' ' -f 1) \
    alt-node-3 addr=$(grep alt-node-3 /etc/hosts | cut -d ' ' -f 1) \
    transport udpu;

Запуск кластера

pcs cluster start --all --wait=60;

Просмотр полного статуса кластера

pcs status --full;

Включить кластер

pcs cluster enable --all;

Просмотр статуса участников кластера

corosync-cmapctl | grep members;

Настройка HA cluster PostgreSQL

Временное отключение кластеризации для начальной настройки

pcs property set stonith-enabled=false;
pcs property set symmetric-cluster=false;

Инициализация базы данных

Работы только на alt-node-1

/etc/init.d/postgresql initdb;

cat >> /var/lib/pgsql/data/postgresql.conf << EOF
listen_addresses = '*'
primary_conninfo = 'host=192.168.170.32 port=5432 user=repli application_name=altserver1'
wal_keep_size = 100
max_wal_senders = 10
EOF

cat >> /var/lib/pgsql/data/pg_hba.conf << EOF
host   replication  all $(hostname -s) reject
host   replication  all 127.0.0.0/8    reject
host   replication  all 0.0.0.0/0      trust
host   all          all 0.0.0.0/0      trust
EOF

ip addr add 192.168.170.32/24 dev ens192;

systemctl start postgresql; sleep 5; systemctl status postgresql;

Создать учетную запись hacluster с паролем hacluster (для PostgreSQL)

createuser -U postgres repli -P --replication;

cat > ~postgres/.pgpass << EOF
192.168.170.32:5432:replication:repli:hacluster
EOF

chown postgres: ~postgres/.pgpass && chmod 600 ~postgres/.pgpass;

Создание реплик

Работы только на alt-node-2 и alt-node-3

su - postgres -s /bin/sh -c 'pg_basebackup --host 192.168.170.32 --username repli --pgdata /var/lib/pgsql/data/ --progress';

Подготовка к кластеризации

sed -e "s/\(primary_conninfo = .* application_name=\).*'/\1$(hostname -s)'/" -i /var/lib/pgsql/data/postgresql.conf;
sed -e "s/\(altserver1\)\(\s*reject\)/$(hostname -s)\2/" -i /var/lib/pgsql/data/pg_hba.conf;
touch /var/lib/pgsql/data/standby.signal;
chown postgres:postgres -R /var/lib/pgsql;

systemctl start postgresql; sleep 5; systemctl status postgresql;

Проверка статуса реплик

на только на alt-node-1

psql -U postgres -xc "TABLE pg_stat_replication";

Отключение автозапуска сервиса PostgreSQL

на всех трех нодах ( alt-node-1 alt-node-2 alt-node-3)

systemctl disable --now postgresql;

Убрать временно назначенный master IP

на только на alt-node-1

ip addr del 192.168.170.32/24 dev ens192

Настройка ресурсов кластера

pcs property set stonith-enabled=false ;
pcs property set symmetric-cluster=false ;

pcs resource create \
    pgsql ocf:heartbeat:pgsql \
    master_ip='192.168.170.32' \
    node_list='alt-node-1 alt-node-2 alt-node-3' \
    rep_mode='sync' \
    restart_on_promote='false' \
    pgctl='/usr/bin/pg_ctl' \
    pgdata='/var/lib/pgsql/data' \
    psql'=/usr/bin/psql';

pcs resource promotable pgsql \
    promoted-max=1 \
    promoted-node-max=1 \
    target-role=Started \
    clone-max=3 \
    clone-node-max=1 \
    notify=true;

pcs resource create \
    vip-master ocf:heartbeat:IPaddr2 \
    ip=192.168.170.32 cidr_netmask=24 nic=ens192;

pcs resource group \
    add master-group \
    vip-master;

pcs constraint colocation \
    add master pgsql-clone \
    with master-group;

pcs constraint order \
    promote pgsql-clone \
    then \
    start master-group \
    symmetrical=false \
    score=INFINITY;

pcs constraint order \
    demote pgsql-clone \
    then stop master-group \
    symmetrical=false \
    score=0;

pcs property set \
    symmetric-cluster=true;

Принудительный отладочный "промоут"

pcs resource debug-promote pgsql

Просмотр полного статуса кластера

pcs status --full;

Документация

• "Pacemaker" - Официальная документация
• "PgSQL Replicated Cluster" - Пример настройки HA cluster PostgreSQL
• "Postgres Howto" - еще один пример настройки