未命名

发表于 2017-05-23 |

elk 插件kopf

下载
git clone git://github.com/lmenezes/elasticsearch-kopf.git
cd xxxx
sudo dnf install nodejs-grunt.noarch

grunt server

运行 grunt server

Browse to http://localhost:9000/_site

./plugin install file:///tmp/elasticsearch-kopf-master.zip
安装后

ll /opt/fonsview/3RD/elasticsearch/plugins/kopf

可看到插件已经安装

重新 elasticsearch （一定要重启）

访问地址：
http://172.16.6.170:9200/_plugin/kopf

未命名

发表于 2017-05-23 |

20170309 18:50:12.588.735 hls_view NULL|10.16.193.3|stagefright/1.2 (Linux;Android 4.0.3) Mozilla/5.0(iPad; U; CPU iPhone OS 3_2 like Mac OS X; en-us) AppleWebKit/531.21.10 (KHTML, like Gecko) Version/4.0.4 Mobile/7B314 Safari/531.21.10 QuickTime|HLJCMS|10000001000000000002000000329037|HLJCMSIPTV/10000001000000000002000000329037|00|1583|20170309184940|20170309184554|20170309184940|226|63718|6235667738212441710|0|34|1|0|1302|1316|2098|4397|5504|0|0|34|34|0|0|6|0|6|65248124|0|0|0|35|0[hls_session_ctl.c:90]

SS_DATE %{YEAR}%{MONTHNUM}%{MONTHDAY}
SS_DATESTAMP %{SS_DATE } %{TIME}.%{INT}

%{SS_DATESTAMP:timestamp}%{SPACE}%{WORD:protocol}%{SPACE}%{WORD:userid}|%{IPV4:userip}|

SS_DATE %{YEAR}%{MONTHNUM}%{MONTHDAY}
SS_DATESTAMP %{SS_DATE } %{TIME}.%{INT}
SS_AGENT .*?
RELATIVEURL %{WORD}/%{NUMBER}

SS_HLS_LOG %{WORD:STBID}|%{IPV4:STBIP}|%{SS_AGENT:UserAgent}|%{WORD:CMSID}|%{NUMBER:ContentID}|%{RELATIVEURL:RelativeUrl}|%{NUMBER:ServiceType}|%{NUMBER:bitrate}|%{NUMBER:RecordTime}|%{NUMBER:BeginTime}|%{NUMBER:EndTime}|%{NUMBER:duration}|%{NUMBER:volume}|%{NUMBER:transactionID}|%{NUMBER:MainM3UResTime}|%{NUMBER:SubM3UResTime}|%{NUMBER:MediaResTime}|%{NUMBER:SendBufFullCount}|%{NUMBER:FirstMediaSendTime}|%{NUMBER:SecondMediaSendTime}|%{NUMBER:ThirdMediaSendTime}|%{NUMBER:AvgMediaSendTime}|%{NUMBER:MaxMediaSendTime}|%{NUMBER:AvgMediaReqTime}|%{NUMBER:MaxMediaReqTime}|%{NUMBER:AvgM3UResTime}|%{NUMBER:MaxM3UResTime}|%{NUMBER:Res3XXCount}|%{NUMBER:Res4XXCount}|%{NUMBER:Res5XXCount}|%{NUMBER:SendMediaErrorCount}|%{NUMBER:CloseByPeerCount}|%{NUMBER:BytesHit}|%{NUMBER:BitrateHighChange}|%{NUMBER:EachBitrateMediaCount}|%{NUMBER:TotalMediaCount}|%{NUMBER:SendBitrateLowCount}|%{NUMBER:Nodeid}

未命名

发表于 2017-05-23 |

ES 数据库排错

es数据库重启可能很慢可能显示异常要等待

如下日志，说明正在恢复
[2017-04-07T11:43:56,742][INFO ][o.e.c.m.MetaDataDeleteIndexService] [2IZhhTT] [logstash-aaa-log-2017.03.16/ROOwyDORR3aw39VtbQUdOw] deleting index
[2017-04-07T11:44:28,106][WARN ][o.e.c.s.ClusterService ] [2IZhhTT] cluster state update task [delete-index [[logstash-aaa-log-2017.03.16/ROOwyDORR3aw39VtbQUdOw]]] took [31.3s] above the warn threshold of 30s

未命名

发表于 2017-05-23 |

使用 supervisor 管理进程

有想法使用，supervisor管理 linux的进程，为了兼容 centos6 和 centos7

Supervisor (http://supervisord.org) 是一个用 Python 写的进程管理工具，可以很方便的用来启动、重启、关闭进程（不仅仅是 Python 进程）。除了对单个进程的控制，还可以同时启动、关闭多个进程，比如很不幸的服务器出问题导致所有应用程序都被杀死，此时可以用 supervisor 同时启动所有应用程序而不是一个一个地敲命令启动。
安装
Supervisor 可以运行在 Linux、Mac OS X 上。如前所述，supervisor 是 Python 编写的，所以安装起来也很方便，可以直接用 pip :
sudo pip install supervisor
如果是 Ubuntu 系统，还可以使用 apt-get 安装。
supervisord 配置
Supervisor 相当强大，提供了很丰富的功能，不过我们可能只需要用到其中一小部分。安装完成之后，可以编写配置文件，来满足自己的需求。为了方便，我们把配置分成两部分：supervisord（supervisor 是一个 C/S 模型的程序，这是 server 端，对应的有 client 端：supervisorctl）和应用程序（即我们要管理的程序）。
首先来看 supervisord 的配置文件。安装完 supervisor 之后，可以运行echo_supervisord_conf 命令输出默认的配置项，也可以重定向到一个配置文件里：
echo_supervisord_conf > /etc/supervisord.conf
去除里面大部分注释和“不相关”的部分，我们可以先看这些配置：
[unix_http_server]
file=/tmp/supervisor.sock ; UNIX socket 文件，supervisorctl 会使用
;chmod=0700 ; socket 文件的 mode，默认是 0700
;chown=nobody:nogroup ; socket 文件的 owner，格式： uid:gid

;[inet_http_server] ; HTTP 服务器，提供 web 管理界面
;port=127.0.0.1:9001 ; Web 管理后台运行的 IP 和端口，如果开放到公网，需要注意安全性
;username=user ; 登录管理后台的用户名
;password=123 ; 登录管理后台的密码

[supervisord]
logfile=/tmp/supervisord.log ; 日志文件，默认是 $CWD/supervisord.log
logfile_maxbytes=50MB ; 日志文件大小，超出会 rotate，默认 50MB
logfile_backups=10 ; 日志文件保留备份数量默认 10
loglevel=info ; 日志级别，默认 info，其它: debug,warn,trace
pidfile=/tmp/supervisord.pid ; pid 文件
nodaemon=false ; 是否在前台启动，默认是 false，即以 daemon 的方式启动
minfds=1024 ; 可以打开的文件描述符的最小值，默认 1024
minprocs=200 ; 可以打开的进程数的最小值，默认 200

; the below section must remain in the config file for RPC
; (supervisorctl/web interface) to work, additional interfaces may be
; added by defining them in separate rpcinterface: sections
[rpcinterface:supervisor]
supervisor.rpcinterface_factory = supervisor.rpcinterface:make_main_rpcinterface

[supervisorctl]
serverurl=unix:///tmp/supervisor.sock ; 通过 UNIX socket 连接 supervisord，路径与 unix_http_server 部分的 file 一致
;serverurl=http://127.0.0.1:9001 ; 通过 HTTP 的方式连接 supervisord

; 包含其他的配置文件
[include]
files = relative/directory/.ini ; 可以是 .conf 或 .ini
我们把上面这部分配置保存到 /etc/supervisord.conf（或其他任意有权限访问的文件），然后启动 supervisord（通过 -c 选项指定配置文件路径，如果不指定会按照这个顺序查找配置文件：$CWD/supervisord.conf, $CWD/etc/supervisord.conf, /etc/supervisord.conf）：
supervisord -c /etc/supervisord.conf
查看 supervisord 是否在运行：
ps aux | grep supervisord
program 配置
上面我们已经把 supervisrod 运行起来了，现在可以添加我们要管理的进程的配置文件。可以把所有配置项都写到 supervisord.conf 文件里，但并不推荐这样做，而是通过 include 的方式把不同的程序（组）写到不同的配置文件里。
为了举例，我们新建一个目录 /etc/supervisor/ 用于存放这些配置文件，相应的，把 /etc/supervisord.conf 里 include 部分的的配置修改一下：
[include]
files = /etc/supervisor/.conf
假设有个用 Python 和 Flask 框架编写的用户中心系统，取名 usercenter，用 gunicorn (http://gunicorn.org/) 做 web 服务器。项目代码位于 /home/leon/projects/usercenter，gunicorn 配置文件为 gunicorn.py，WSGI callable 是 wsgi.py 里的 app 属性。所以直接在命令行启动的方式可能是这样的：
cd /home/leon/projects/usercenter
gunicorn -c gunicorn.py wsgi:app
现在编写一份配置文件来管理这个进程（需要注意：用 supervisord 管理时，gunicorn 的 daemon 选项需要设置为 False）：
[program:usercenter]
directory = /home/leon/projects/usercenter ; 程序的启动目录
command = gunicorn -c gunicorn.py wsgi:app ; 启动命令，可以看出与手动在命令行启动的命令是一样的
autostart = true ; 在 supervisord 启动的时候也自动启动
startsecs = 5 ; 启动 5 秒后没有异常退出，就当作已经正常启动了
autorestart = true ; 程序异常退出后自动重启
startretries = 3 ; 启动失败自动重试次数，默认是 3
user = leon ; 用哪个用户启动
redirect_stderr = true ; 把 stderr 重定向到 stdout，默认 false
stdout_logfile_maxbytes = 20MB ; stdout 日志文件大小，默认 50MB
stdout_logfile_backups = 20 ; stdout 日志文件备份数
; stdout 日志文件，需要注意当指定目录不存在时无法正常启动，所以需要手动创建目录（supervisord 会自动创建日志文件）
stdout_logfile = /data/logs/usercenter_stdout.log

; 可以通过 environment 来添加需要的环境变量，一种常见的用法是修改 PYTHONPATH
; environment=PYTHONPATH=$PYTHONPATH:/path/to/somewhere
一份配置文件至少需要一个 [program:x] 部分的配置，来告诉 supervisord 需要管理那个进程。[program:x] 语法中的 x 表示 program name，会在客户端（supervisorctl 或 web 界面）显示，在 supervisorctl 中通过这个值来对程序进行 start、restart、stop 等操作。
使用 supervisorctl
Supervisorctl 是 supervisord 的一个命令行客户端工具，启动时需要指定与 supervisord 使用同一份配置文件，否则与 supervisord 一样按照顺序查找配置文件。
supervisorctl -c /etc/supervisord.conf
上面这个命令会进入 supervisorctl 的 shell 界面，然后可以执行不同的命令了：

status # 查看程序状态
stop usercenter # 关闭 usercenter 程序
start usercenter # 启动 usercenter 程序
restart usercenter # 重启 usercenter 程序
reread ＃读取有更新（增加）的配置文件，不会启动新添加的程序
update ＃重启配置文件修改过的程序
上面这些命令都有相应的输出，除了进入 supervisorctl 的 shell 界面，也可以直接在 bash 终端运行：
$ supervisorctl status
$ supervisorctl stop usercenter
$ supervisorctl start usercenter
$ supervisorctl restart usercenter
$ supervisorctl reread
$ supervisorctl update
其它
除了 supervisorctl 之外，还可以配置 supervisrod 启动 web 管理界面，这个 web 后台使用 Basic Auth 的方式进行身份认证。
除了单个进程的控制，还可以配置 group，进行分组管理。
经常查看日志文件，包括 supervisord 的日志和各个 pragram 的日志文件，程序 crash 或抛出异常的信息一半会输出到 stderr，可以查看相应的日志文件来查找问题。
Supervisor 有很丰富的功能，还有其他很多项配置，可以在官方文档获取更多信息：http://supervisord.org/index.html

未命名

发表于 2017-05-23 |

rabbitmq 消息队列

rabbitmq 访问地址

http://172.16.199.206:15672/ 后台web访问地址

添加 tracing ,查看消息是否发送过来

在Admin -> Tracing -> Add trace

- Name : 11
- Format: text
- Pattern: #

查看
http://172.16.199.206:15672/api/trace-files/11.log

这时,向rabbitmq 发送消息,就可以查看到日志了

学习参考资料

在 Ubuntu Linux 中安装与使用 RabbitMQ 消息队列

以 RabbitMQ 實作工作佇列（Work Queues）（Python 版本）
RabbitMQ消费者的几个参数
 RabbitMQ基础概念详细介绍
 RabbitMQ概念及环境搭建（三）RabbitMQ cluster
RabbitMQ 分布式设置和高可用性讨论
 RabbitMQ在分布式系统中的应用
fonsview 的aaa 和oss 的消息队列方式

aaa_exchange topic
oss_exchange topic

未命名

发表于 2017-05-23 |

Buildout

用Buildout来构建Python项目
Tuesday, March 12, 2013
什么是Buildout
alt Buildout
(Remixed by Matt Hamilton, original from http://xkcd.com/303)

Buildout是一个基于Python的构建工具, 通过一个配置文件，可以从多个部分创建、组装并部署你的应用，即使应用包含了非Python的组件，Buildout也能够胜任. Buildout不但能够像setuptools一样自动更新或下载安装依赖包，而且还能够像virtualenv一样，构建一个封闭隔离的开发环境.

初始化Buildout
首先我们新建一个目录来共享Buildout配置和文件:

~/Projects$ mkdir buildout
~/Projects$ cd buildout
下载一个2.0的bootstrap.py脚本:

~/Projects/buildout$ wget http://downloads.buildout.org/2/bootstrap.py
然后创建一个Buildout的配置文件:

~/Projects/buildout$ touch buildout.cfg
运行bootstrap.py来生成Buildout相关的文件和目录:

~/Projects/buildout$ python bootstrap.py
Creating directory ‘/Users/Eric/Projects/buildout/bin’.
Creating directory ‘/Users/Eric/Projects/buildout/parts’.
Creating directory ‘/Users/Eric/Projects/buildout/eggs’.
Creating directory ‘/Users/Eric/Projects/buildout/develop-eggs’.
Generated script ‘/Users/Eric/Projects/buildout/bin/buildout’.
从上面可以看出，创建了目录bin，parts，eggs，develop-eggs，在bin目录下生成了buildout脚本:

bin目录用来存放生成的脚本文件
parts目录存放生成的数据，大多用不上
develop-eggs 存放指向开发目录的链接文件。和buildout.cfg中develop选项相关
eggs 是存放从网络上下载下来的egg包。这些包一般在buildout.cfg中的egg选项里定义
把Python和Pyramid集成进来
配置Buildout

~/Projects/buildout$ vim buildout.cfg
[buildout]

每个buildout都要有一个parts列表，也可以为空。

parts用来指定构建什么。如果parts中指定的段中还有parts的话，会递归构建。

parts = tools

[tools]

每一段都要指定一个recipe, recipe包含python的代码，用来安装这一段,

zc.recipe.egg就是把一些把下面的egg安装到eggs目录中

recipe = zc.recipe.egg

定义python解释器

interpreter = python

需要安装的egg

eggs =
pyramid
执行buildout命令来构建一下, 这将会把Pyramid集成进来:

~/Projects/buildout$ bin/buildout
用buildout来构建项目
现在可以创建Pyramid应用了:

~/Projects/buildout$ bin/pcreate -t starter myproject
配置一下Buildout:

~/Projects/buildout$ vim buildout.cfg
[buildout]
parts =
tools
apps
develop = myproject

[tools]
recipe = zc.recipe.egg
interpreter = python
eggs =
pyramid

[apps]
recipe = zc.recipe.egg
eggs = myproject
再次运行一下buildout:

~/Projects/buildout$ bin/buildout
现在可以再buildout的环境中启动myproject了:

~/Projects/buildout$ bin/pserve myproject/development.ini
Starting server in PID 40619.
serving on http://0.0.0.0:6543
最佳实践/Tips

固化egg的版本
把所有的版本信息写到[versions]里面:

extends = versions.cfg
versions = versions
show-picked-versions = true

配置中的“show-picked-versions = true “会在运行buildout的时候把所有的版本打印出来, 把它写到”versions.cfg”中就可以固化了:

[versions]
Chameleon = 2.11
Mako = 0.7.3
MarkupSafe = 0.15
PasteDeploy = 1.5.0
WebOb = 1.2.3
distribute = 0.6.35
repoze.lru = 0.6
translationstring = 1.1
venusian = 1.0a7
zc.buildout = 2.0.1
zc.recipe.egg = 2.0.0a3
zope.deprecation = 4.0.2
zope.interface = 4.0.5

Required by:

pyramid-debugtoolbar==1.0.4

Pygments = 1.6

Required by:

myproject==0.0

pyramid = 1.4

Required by:

myproject==0.0

pyramid-debugtoolbar = 1.0.4

Required by:

myproject==0.0

waitress = 0.8.2

使用mr.developer插件来组织大型的项目, 让开发更方便
[buildout]
…
extensions = mr.developer
…
开发环境 VS 生产环境
我们可以创建多个配置文件, 比如把buildout.cfg作为生产环境的配置, 把develop的配置从buildout.cfg删除, 创建一个development.cfg作为开发环境的配置:

[buildout]
extends = buildout.cfg
develop = myproject

未命名

发表于 2017-05-23 |

ascii 图

                            +                                
        +--------+          |            +------+            
        |  OSS1  |          |            | OSS2 |            
        +---+----+          |            +---+--+            
            |               |                |               
            |               v                |               
            +--keepalive--+ vip +--kippalive-+               
                            |                                
                            |                                
                            +                                
            +-haproxy+---+rabbitmq:5670 +-haproxy-+          
            |               +                     |          
+----------+--------+       |          +----------+---------+
|rabbitmq_node1:5672|       |          |rabbitmq_node2：5672|
+-------------------+       |          +--------------------+
                            v                                
                +------------+-----------+                   
                |      rabbitmq队列       |                   
                +------------+-----------+                   
                            |                                
                            |                                
    keepalive+haproxy       |          keeplaive+haproxy     
                            v                                
            +--------+ AAA_vip:6060+---------+               
            |               +                |               
            |               |                |               
    +-----+-------+         |         +------+-------+       
    |  aaa1:6600  |         |         |  aaa2:6600   |       
    +-------------+         |         +--------------+       
                            |                                
                            v