postgresql 모니터링

pg_catalog : tables, views, functions, indexes, fdw, trigger, constraints, rules, users, groups 등등 정보 저장

pg_attribute : 테이블 및 다른 pg_class object columns에 대한 정보 저장

pg_index : 인덱스에 대한 정보 저장

pg_depend : object dependent에 대한 정보

pg_rewrite : 테이블 및 view 에 대한 rules 정보 

pg_constraint : 테이블에 constraint 정보 

pg_stat_statements : db에서 수행된 쿼리에 대한 통계 정보

pg_buffercache : cache에 대한 deeper 한 정보

information_schema : 메타 정보를 담고 있는 view

 

1. 접속된 사용자 확인

SELECT datname, usename, client_addr, client_port, application_name FROM pg_stat_activity;

5초 간격으로 위에 SQL를 수행 => \watch 5

 

2. Active 세션 확인

SELECT datname, usename, state, query FROM pg_stat_activity WHERE state = 'active';

* 세션에 대한 detail한 분석은 pg_stat_statement 설치 (real-time performance for query)

 

3. long 실행 쿼리 확인

SELECT

    current_timestamp - query_start AS runtime,

    datname, usename, query

FROM pg_stat_activity 

WHERE state = 'active' ORDER BY 1 DESC;

 

1분 이상 실행되는 쿼리 확인

SELECT

    current_timestamp - query_start AS runtime,

    datname, usename, query

FROM pg_stat_activity

WHERE state = 'active'

      AND current_timestamp - query_start > '1 min'

ORDER BY 1 DESC;

 

4. query를 process title에 보이도록 설정 (postgresql.conf)

  update_process_title = on

 

5. wait 또는 blocking 되는 세션 확인

SELECT datname, usename, query FROM pg_stat_activity WHERE waiting = true;

 

6. query block user 찾기

SELECT

    w.query AS waiting_query,

    w.pid AS waiting_pid,

    w.usename AS waiting_user,

    l.query AS locking_query,

    l.pid AS locking_pid,

    l.usename AS locking_user,

    t.schemaname || '.' || t.relname AS tablename

 FROM pg_stat_activity w

       JOIN pg_locks l1 ON w.pid = l1.pid AND NOT l1.granted

       JOIN pg_locks l2 ON l1.relation = l2.relation AND l2.granted

       JOIN pg_stat_activity l ON l2.pid = l.pid

       JOIN pg_stat_user_tables t ON l1.relation = t.relid

 WHERE w.waiting;

 

7. kill session

  postgresql에 세션 kill 아래 3가지 순서로 차례로 진행하면 됨 (1이 안되면 2, 2 안되면 3)

  1) pg_cancel_backend(pid)          -- current query kill and not disconnect

  2) pg_terminate_backend(pid)        -- connection disconnect. 

  3) kill -9 process

 

  10분동안 유휴 상태인 세션 kill

  SELECT pg_terminate_backend(pid) FROM pg_stat_activity

  WHERE state = 'idle in transaction' AND current_timestamp - query_start > '10 min';

 

  현재 세션을 제외한 모든 세션 kill.

  SELECT pg_terminate_backend(pid) FROM pg_stat_activity WHERE datname = current_database() AND pid <> pg_backend_pid();

 

  작업을 위해 해당 데이터베이스 접속을 막음.

  UPDATE pg_database set datallowconn = 'false' WHERE datname = 'database to drop';

 

 

8. long 쿼리 수행시 timeout 설정

set statement_timeout to '10 s'

select ~~ from ~ : long query..

 

9.  2pc 사용시 lock 확인 

SELECT t.schemaname || '.' || t.relname AS tablename,

       l.pid, l.granted

       FROM pg_locks l JOIN pg_stat_user_tables t

       ON l.relation = t.relid;

아래 결과중 pid가 표시 되지 않는 부분

tablename |  pid    | granted

-----------+-------+---------

    test1    |           | t

    test1    | 11111    | f

 

10. 테이블 사용량 확인

초기 사용량 저장

CREATE TEMPORARY TABLE tmp1_201512 AS  SELECT * FROM pg_stat_user_tables;

 

현시점 사용량이 비교하여 수치가 달라진 테이블 출력 

SELECT * FROM pg_stat_user_tables n

  JOIN tmp1_201512 t

    ON n.relid=t.relid

   AND (n.seq_scan,n.idx_scan,n.n_tup_ins,n.n_tup_upd,n.n_tup_del)

 

    <> (t.seq_scan,t.idx_scan,t.n_tup_ins,t.n_tup_upd,t.n_tup_del);

 

기존 통계 데이터 초기화

SELECT pg_stat_reset();

 

테이블 정보를 snapshot 생성 (cron 또는 pg_agent, bgworker 활용)

INSERT INTO stat1_201512

SELECT current_timestamp AS snaptime, * FROM pg_stat_user_tables;

 

11. 테이블 마지막 사용 일자 확인

-- 아래 function 수행

do $$

         PERFORM table_file_access_info('test1', 'test');

$$  -- output이 없음

 

select table_file_access_info('test1', 'test');

-- 일자 확인 function 생성

CREATE OR REPLACE FUNCTION table_file_access_info(

   IN schemaname text, IN tablename text,

   OUT last_access timestamp with time zone,

   OUT last_change timestamp with time zone

   ) LANGUAGE plpgsql AS $func$

DECLARE

    tabledir text;

    filenode text;

BEGIN

    SELECT regexp_replace(

        current_setting('data_directory') || '/' || pg_relation_filepath(c.oid),

          pg_relation_filenode(c.oid) || '$', ''),

        pg_relation_filenode(c.oid)

      INTO tabledir, filenode

      FROM pg_class c

      JOIN pg_namespace ns

        ON c.relnamespace = ns.oid

       AND c.relname = tablename

       AND ns.nspname = schemaname;

    RAISE NOTICE 'tabledir: % - filenode: %', tabledir, filenode;

    -- find latest access and modification times over all segments

    SELECT max((pg_stat_file(tabledir || filename)).access),

           max((pg_stat_file(tabledir || filename)).modification)

      INTO last_access, last_change

      FROM pg_ls_dir(tabledir) AS filename

      -- only use files matching <basefilename>[.segmentnumber]

     WHERE filename ~ ('^' || filenode || '([.]?[0-9]+)?$');

END;

 

$func$;

 

12. 템프 데이터 사용률 확인

1) 별도 temporary 테이블스페이스 사용 확인

 SELECT current_setting('temp_tablespaces');  -- 결과가 없으면 default tablespace 사용

 

2) 1의 결과가 나오면 다음 SQL를 사용하여 사용량 확인

WITH temporary_tablespaces AS (

  SELECT unnest(string_to_array(

    current_setting('temp_tablespaces'), ',')

  ) AS temp_tablespace

)   

SELECT tt.temp_tablespace,

  pg_tablespace_location(t.oid) AS location,

  -- t.spclocation AS location, -- for 9.0 and 9.1 users

  pg_tablespace_size(t.oid) AS size

FROM temporary_tablespaces tt

JOIN pg_tablespace t ON t.spcname = tt.temp_tablespace

  ORDER BY 1;

3) 1의 결과가 안나오면 다음과 같은 방법으로 사용량 확인

  SELECT current_setting('data_directory') || '$PG_HOME/base/pgsql_tmp'

  SELECT datname, temp_files, temp_bytes, stats_reset

  FROM pg_stat_database;

 

4) 기타 방법

- 실제 파일이 있는 디렉토리를 du -sk 로 확인

- pg_tablespace_location(oid), pg_tablespace_size(oid), pg_tablespace_size(name)함수로 확인

 

5) 템프 파일 사용량 로깅 

   conf파일에  log_temp_files = 0 or 특정값으로 설정하면 해당 값을 넘어갈때 postgresql log    파일에 로깅됨

   템프 파일 사용량이 증가하면 work_mem값을 크게 설정하여 메모리 사용하도록 유도..

 

13. Slow query 분석  

     postgresql에 pg_stat_statements 모듈 설치 (create extension pg_stat_statements)

     (해당 모듈 load를 위해 shared_preload_libraries = 'pg_stat_statements' 설정)

     1)  analyze    : db 전체 성능 향상을 위해 해당 명령어 수행 

         (모든 테이블에 통계 정보 Update 및 데이터 정리 작업 수행)

     2) 1번 수행후 별 다른 개선사항이 없으면

        \x

        select * from pg_stat_statements 수행후 결과중 shared_blks_hit 및 shared_blks_read 

        항목 확인

       SELECT pg_relation_size(relid) AS tablesize,schemaname,relname,n_live_tup

       FROM pg_stat_user_tables WHERE relname = 'album';

        n_live_tup 대비 tablesize가 너무 크면 가비지 데이터가 정리가 안된 상황 

        (vacuum 기준 확인 필요)

    3) slow query 자동 실행 계획 log print

        load 'auto_explain'

        (해당 모듈 load를 위해 shared_preload_libraries = 'auto_explain' 설정)

        SET auto_explain.log_min_duration = '5s';    (5초 이상 소요 되는 sql)

        SET auto_explain.log_analyze = true;

        SELECT count(*) FROM pg_class, pg_index

        WHERE oid = indrelid AND indisunique;        -- log 파일에 실행계획이 남음.

        (pg_stat_plans설치 : https://github.com/2ndQuadrant/pg_stat_plans)

 

14. 버그 분석

     반복적이고 재현 되는 문제에 대해서 pg_dump로 dump file 생성

     pageinspect 패키지로 해당 테이블 데이터 분석

    

     아래 사이트에서 해당 문제를 찾아보고 해당 문제에 대해서 질의함

     http://wiki.postgresql.org/wiki/Guide_to_reporting_problems

     http://wiki.postgresql.org/wiki/SlowQueryQuestions

     

15. postgresql 로그 관리

     rsyslog 및 logrotate 툴을 사용하여 postgresql log 주기적으로 정리 작업

     (postgresql에 log rotation은  postgresql.conf 파일에  log_rotation_age를 설정)

      => 분석은 pgBadger를 사용하여 분석 

     * postgresql.conf 파일에 로그 정보 출력과 관련된 설정 정보를 설정

 

16.  쿼리 성능 분석

     위에 pg_stat_statements 설치 되어 있는 상태에서

     1) 자주 호출 되는 SQL 순으로 확인

       SELECT query FROM pg_stat_statements ORDER BY calls DESC;

    2) 평균 수행 시간이 높은 순으로 확인

       SELECT query, total_time/calls AS avg, calls FROM pg_stat_statements 

       ORDER BY 2 DESC;

    

     * SQL에 대한 통계 정보를 초기화 하기 위해서 

     select pg_stat_statements_reset() 호출

 

17. 명령어 (/h, /?) 수행시 내부 쿼리 확인방법

    \set ECHO_HIDDEN

    \z test

    SELECT * FROM information_schema.views where table_schema IN ('pg_catlog', 'information_schema');   -- 내부 view 확인

    select 'account'::regclass::oid;  -- oid 조회

    select '17260'::regclass::text;

    

    -- stat 정보 table 및 view 확인

    SELECT relname, case relkind when 'r' then 'table'  WHEN 'v' THEN 'VIEW' END as type FROM pg_class WHERE relname like 'pg_sta%' AND relkind IN ('r','v');

 

18. 현재 파라미터 셋팅 내용 확인 및 변경

    select current_setting('work_mem');

    show work_mem;

 

    select set_config('work_mem', '8 MB', true);  --> 로컬 파타미터 값 설정 (false : global 설정)

    select set_config('shared_buffers', '1 GB', false);

 

    alter system set configuration_parameter { to | = } { value | 'value' | default }

    alter system reset configuration_parameter

    alter system reset all

 

    SELECT name, current_setting(name), source FROM pg_settings WHERE source IN ('configuration file');

 

19. 데이터 사용량 확인

    1) 데이터베이스 사용량 확인

    SELECT pg_database.datname, pg_size_pretty(pg_database_size(pg_database.datname)) AS size FROM pg_database;

 

    select oid from pg_database;

    du -h /data_dir/base/oid

 

    2) 테이블 사용량 확인

    SELECT tablename, pg_size_pretty(pg_total_relation_size(schemaname||'.'||tablename)) FROM pg_tables WHERE schemaname = 'car_portal_app' LIMIT 2;

    

   3) 인덱스 사용량 확인

     SELECT indexrelid::regclass,  pg_size_pretty(pg_relation_size(indexrelid::regclass))  FROM pg_index WHERE indexrelid::regclass::text like 'car_portal_app.%' limit 2;

 

20. Object 사용여부 확인

     사용하지 않은 테이블 2개 출력

    SELECT relname FROM pg_stat_user_tables WHERE n_live_tup= 0 limit 2;

  

     SELECT schemaname, tablename, attname FROM pg_stats WHERE null_frac= 1 and schemaname NOT IN ('pg_catalog', 'information_schema') limit 1;

 

     인덱스가 사용되는지 확인

     SELECT schemaname, relname, indexrelname FROM pg_stat_user_indexes s JOIN pg_index i ON s.indexrelid = i.indexrelid WHERE idx_scan=0 AND NOT indisunique AND NOT indisprimary;

 

    foreign key 확인

    SELECT * FROM pg_constraint WHERE contype = 'f';

 

    인덱스 중복 확인 SQL

    WITH index_info AS

(SELECT pg_get_indexdef(indexrelid) AS index_def, indexrelid::regclass index_name , indrelid::regclass table_name, array_agg(attname) AS index_att

FROM

  pg_index i JOIN

  pg_attribute a ON i.indexrelid = a.attrelid

GROUP BY pg_get_indexdef(indexrelid), indrelid,  indexrelid

)

SELECT DISTINCT

  CASE WHEN a.index_name > b.index_name THEN a.index_def ELSE b.index_def END AS index_def,

  CASE WHEN a.index_name > b.index_name THEN a.index_name ELSE b.index_name END AS index_name,

  CASE WHEN a.index_name > b.index_name THEN b.index_def ELSE a.index_def END AS overlap_index_def,

  CASE WHEN a.index_name > b.index_name THEN b.index_def ELSE a.index_def END AS overlap_index_name,

  a.table_name

FROM

  index_info a INNER JOIN index_info b ON (a.index_name != b.index_name AND a.table_name = b.table_name AND a.index_att && b.index_att );

 

PK 및 Unique 인덱스를 가지고 있지 않은 테이블 확인

SELECT table_catalog, table_schema, table_name

FROM

  information_schema.tables

WHERE

  table_schema NOT IN ('information_schema', 'pg_catalog')

EXCEPT

SELECT

  table_catalog, table_schema, table_name

FROM

  information_schema.table_constraints

WHERE

  constraint_type IN ('PRIMARY KEY', 'UNIQUE') AND

  table_schema NOT IN ('information_schema', 'pg_catalog');

 

중복된 키를 테이블에서 삭제.

with should_not_delete as (

  SELECT min(ctid) FROM duplicate group by f1, f2

) DELETE FROM duplicate WHERE ctid NOT IN (SELECT min FROM should_not_delete);

 

 

CREATE TABLE <tmp> AS SELECT DISTINCT * FROM <orig_tbl>;

DROP TABLE <orig_tbl>;

ALTER TABLE <tmp> RENAME TO <orig_tbl>;

 

 

DELETE FROM dup_table a USING dup_table b

WHERE a.tt1 = b.tt1 AND ... AND b.attn= b.attn

AND a.pk < p.pk.

 

21. 데이터베이스 lock 관리

lock를 가지고 있는 쿼리 확인

\x

SELECT

  lock1.pid as locked_pid,

  stat1.usename as locked_user,

  stat1.query as locked_statement,

  stat1.state as state,

  stat2.query as locking_statement,

  stat2.state as state,

  now() - stat1.query_start as locking_duration,

  lock2.pid as locking_pid,

  stat2.usename as locking_user

FROM pg_catalog.pg_locks lock1

     JOIN pg_catalog.pg_stat_activity stat1 on lock1.pid = stat1.pid

     JOIN pg_catalog.pg_locks lock2 on

  (lock1.locktype,lock1.database,lock1.relation, lock1.page,lock1.tuple,lock1.virtualxid, lock1.transactionid,lock1.classid,lock1.objid, lock1.objsubid) IS NOT DISTINCT FROM

        (lock2.locktype,lock2.DATABASE, lock2.relation,lock2.page, lock2.tuple,lock2.virtualxid, lock2.transactionid,lock2.classid, lock2.objid,lock2.objsubid)

     JOIN pg_catalog.pg_stat_activity stat2 on lock2.pid = stat2.pid

WHERE NOT lock1.granted AND lock2.granted;

 

22. 메모리 설정

  1) shared buffers (shared_buffers, default 32MB) : 전체 메모리에 25% 설정

  2) working memory (work_mem, default 1MB) : work_mem * 전체 커넥션수

  3) checkpoint_segments : 값을 높이면 쓰기 성능이 좋아지고, 낮추면 복구 시간이 빨라짐.

  4) effective_cache_size : disk caching, 전체에 50 ~ 70%

  5) random_page_cost (default 4.0) : ssd, san 3, 1.5 ~ 2.5 

 

 

PostgreSQL 15 Book : https://link.coupang.com/a/VyH3j

(영문도서) Mastering PostgreSQL 15 - Fifth Edition: Advanced techniques to build and manage scalable re... Paperback

PostgreSQL 기반 실용 SQL : https://link.coupang.com/a/VyIl4

실용 SQL:PostgreSQL로 시작하는 데이터 스토리텔링 가이드북

"이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."