Nastavenie serveru – high traffic – keep alive

6. 11. 2013 13:27:23

Zdar, mam zakupeny server, velmi vykonny, je tam obrovska rezerva. Nastavoval mi to uzivatel z webtrhu, ale chcem pocut viac nazorov

Vcera som mal vysoky traffic, cca cez 50 navstevnikov sekunda (web) jedna sa o narazovu navstevnost,priemer stranok na 1 uzivatela su cca 4, predtym to stihalo, teraz to uz vyhadzovalo (502 Bad Gateway nginx)

nginx hlasil

Active connections: 6933

server accepts handled requests

180835 180835 440323

Reading: 0 Writing: 16 Waiting: 6917

Podla google analytics to padalo tak kazdych 15 sekund a robilo to vlny v grafe.

Riesenim bolo vypnut keep-alive. Takze ma zaujima ci to je podla vas ok a dostacujuce. Vyzera to tak ze v nastaveni su nejake limity ktore by sa mali dat navysit aby to slapalo aj s keep-alive.

Nerozumiem sa do toho, tak snad budu informacie stacit.

6. 11. 2013 13:27:23

0 0

Líbí se: zatím nikdo

Nelíbí se: zatím nikdo

https://webtrh.cz/diskuse/nastavenie-serveru-high-traffic-keep-alive/#reply962923

major

(8 hodnocení)

6. 11. 2013 14:44:45

Keep-alive muze byt zaple, jen je potreba upravit konfig nginxu a navysit limity. Zalezi zase ale na parametrech serveru co zvladne.

6. 11. 2013 14:44:45

0 0

Líbí se: zatím nikdo

Nelíbí se: zatím nikdo

https://webtrh.cz/diskuse/nastavenie-serveru-high-traffic-keep-alive/#reply962922

Václav Dušek

(77 hodnocení)

6. 11. 2013 15:44:37

worker_processes 8; (pocet threadu)

worker_rlimit_nofile 200000;

worker_connections 65536;

fastcgi_buffers 8 16k;

fastcgi_buffer_size 32k;

Nejaky dalsi napad a nebo kritika?

6. 11. 2013 15:44:37

0 0

Líbí se: zatím nikdo

Nelíbí se: zatím nikdo

https://webtrh.cz/diskuse/nastavenie-serveru-high-traffic-keep-alive/#reply962921

Samson

8. 11. 2013 21:08:59

Napsal Saming;1018313
Vcera som mal vysoky traffic, cca cez 50 navstevnikov sekunda (web) jedna sa o narazovu navstevnost,priemer stranok na 1 uzivatela su cca 4, predtym to stihalo, teraz to uz vyhadzovalo (502 Bad Gateway nginx)
Vyzera to tak ze v nastaveni su nejake limity ktore by sa mali dat navysit aby to slapalo aj s keep-alive.

Dobrý večer,

tohle je hodně málo informací, ale vypadá to, že se vyčerpají připojení na backend.

Co Vám tam všechno běží? Je to reverse proxy pro Apache nebo je tam PHP přes FastCGI čí PHP-FPM? Na jakém to běží operačním systému?

8. 11. 2013 21:08:59

0 0

Líbí se: zatím nikdo

Nelíbí se: zatím nikdo

https://webtrh.cz/diskuse/nastavenie-serveru-high-traffic-keep-alive/#reply962920

Václav Dušek

(77 hodnocení)

8. 11. 2013 21:13:02

CentOS 6/64bit + Plesk Panel

Nginx jako součást Plesku je nastaven jako frontend (everse proxy) k Apache. PHP scripty jedou v Apache přes php-fastcgi

8. 11. 2013 21:13:02

0 0

Líbí se: zatím nikdo

Nelíbí se: zatím nikdo

https://webtrh.cz/diskuse/nastavenie-serveru-high-traffic-keep-alive/#reply962919

Samson

8. 11. 2013 21:31:06

1. V napojení na Apache je v nginxu zapnuté keep alive?

2. Je dostatek volných procesů Apache (StartServers, MinSpareServers, ServerLimit, MaxClients...)?

3. FastCGI PHP se spouští jen v jednom procesu bez potomků a nevznikají zombíci?

4. Asi by to chtělo vyladit i některé parametry jádra (delší fronty pro otevřená spojení apod.)

8. 11. 2013 21:31:06

0 0

Líbí se: zatím nikdo

Nelíbí se: zatím nikdo

https://webtrh.cz/diskuse/nastavenie-serveru-high-traffic-keep-alive/#reply962918

Václav Dušek

(77 hodnocení)

8. 11. 2013 21:40:52

ad 1/ ano, apache má keepalive

ad 2/ volné procesy jsou, v logu nejsou žádné záznamy o problémech Apache

ad 3/ zombíci nevznikají, backend vypadá v pořádku a funkční, není přetížen

ad 4/ v jádru je nyní nastaveno oproti výchozím hodnotám

net.ipv4.tcp_tw_recycle=1

net.ipv4.tcp_tw_reuse=1

net.ipv4.tcp_syncookies = 0

net.ipv4.netfilter.ip_conntrack_max = 262144

Výstup z příkazu ab (provoz Evropa x Amerika)

~# ab -kc 1000 -r -n 100000 http://xxx.com/
This is ApacheBench, Version 2.3 <$Revision: 655654 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/

Benchmarking xxx.com (be patient)
Completed 10000 requests
Completed 20000 requests
Completed 30000 requests
Completed 40000 requests
Completed 50000 requests
Completed 60000 requests
Completed 70000 requests
Completed 80000 requests
Completed 90000 requests
Completed 100000 requests
Finished 100000 requests

Server Software:        nginx
Server Hostname:        xxx.com
Server Port:            80

Document Path:          /
Document Length:        178 bytes

Concurrency Level:      1000
Time taken for tests:   24.155 seconds
Complete requests:      100000
Failed requests:        51167
   (Connect: 0, Receive: 467, Length: 50233, Exceptions: 467)
Write errors:           0
Non-2xx responses:      49768
Keep-Alive requests:    49767
Total transferred:      18414160 bytes
HTML transferred:       8858704 bytes
Requests per second:    4139.92  (mean)
Time per request:       241.551  (mean)
Time per request:       0.242  (mean, across all concurrent requests)
Transfer rate:          744.46  received

Connection Times (ms)
              min  mean median   max
Connect:        0   73 330.6      0    9104
Processing:     0  150 1429.5    102   21010
Waiting:        0   52  51.8      0     412
Total:          0  223 1464.9    205   21010
WARNING: The median and mean for the waiting time are not within a normal deviation
        These results are probably not that reliable.

Percentage of the requests served within a certain time (ms)
  50%    205
  66%    207
  75%    207
  80%    207
  90%    208
  95%    208
  98%    211
  99%   3203
 100%  21010 (longest request)

Napsal Samson;1019317
1. V napojení na Apache je v nginxu zapnuté keep alive?
2. Je dostatek volných procesů Apache (StartServers, MinSpareServers, ServerLimit, MaxClients...)?
3. FastCGI PHP se spouští jen v jednom procesu bez potomků a nevznikají zombíci?
4. Asi by to chtělo vyladit i některé parametry jádra (delší fronty pro otevřená spojení apod.)

8. 11. 2013 21:40:52

0 0

Líbí se: zatím nikdo

Nelíbí se: zatím nikdo

https://webtrh.cz/diskuse/nastavenie-serveru-high-traffic-keep-alive/#reply962917

Samson

8. 11. 2013 21:47:26

Vidíte, na to jsem zapoměl. V logu nginxu jsou jaké chyby? Kernel do syslogu nic nehlásí?

8. 11. 2013 21:47:26

0 0

Líbí se: zatím nikdo

Nelíbí se: zatím nikdo