nginx lua mysql 设置

最近公司网站改版，程序和数据库全部用新版，旧版的数据要导入，旧网站的30万条数据url要全部重定向到新版网站，正好前段时间在学习nginx+lua+mysql+memcache（redis），找资料真费劲，记录下来，以备查询

对于开发来说需要有好的生态开发库来辅助我们快速开发，而Lua中也有大多数我们需要的第三方开发库如Redis、Memcached、Mysql、Http客户端、JSON、模板引擎等。

一些常见的Lua库可以在github上搜索，https://github.com/search?utf8=%E2%9C%93&q=lua+resty。

Redis客户端

lua-resty-redis是为基于cosocket API的ngx_lua提供的Lua redis客户端，通过它可以完成Redis的操作。默认安装OpenResty时已经自带了该模块，使用文档可参考https://github.com/openresty/lua-resty-redis。

在测试之前请启动Redis实例：

nohup /usr/servers/redis-2.8.19/src/redis-server  /usr/servers/redis-2.8.19/redis_6660.conf &

1、基本操作

编辑test_redis_baisc.lua

Java代码

  1. local function close_redis(red)
  2. if not red then
  3. return
  4. end
  5. local ok, err = red:close()
  6. if not ok then
  7. ngx.say("close redis error : ", err)
  8. end
  9. end
  10. local redis = require("resty.redis")
  11. --创建实例
  12. local red = redis:new()
  13. --设置超时（毫秒）
  14. red:set_timeout(1000)
  15. --建立连接
  16. local ip = "127.0.0.1"
  17. local port = 6660
  18. local ok, err = red:connect(ip, port)
  19. if not ok then
  20. ngx.say("connect to redis error : ", err)
  21. return close_redis(red)
  22. end
  23. --调用API进行处理
  24. ok, err = red:set("msg", "hello world")
  25. if not ok then
  26. ngx.say("set msg error : ", err)
  27. return close_redis(red)
  28. end
  29. --调用API获取数据
  30. local resp, err = red:get("msg")
  31. if not resp then
  32. ngx.say("get msg error : ", err)
  33. return close_reedis(red)
  34. end
  35. --得到的数据为空处理
  36. if resp == ngx.null then
  37. resp = ‘‘  --比如默认值
  38. end
  39. ngx.say("msg : ", resp)
  40. close_redis(red)

基本逻辑很简单，要注意此处判断是否为nil，需要跟ngx.null比较。

2、example.conf配置文件

Java代码

  1. location /lua_redis_basic {
  2. default_type ‘text/html‘;
  3. lua_code_cache on;
  4. content_by_lua_file /usr/example/lua/test_redis_basic.lua;
  5. }

3、访问如http://192.168.1.2/lua_redis_basic进行测试，正常情况得到如下信息

msg : hello world

2、连接池

建立TCP连接需要三次握手而释放TCP连接需要四次握手，而这些往返时延仅需要一次，以后应该复用TCP连接，此时就可以考虑使用连接池，即连接池可以复用连接。

我们只需要将之前的close_redis函数改造为如下即可：

Java代码

  1. local function close_redis(red)
  2. if not red then
  3. return
  4. end
  5. --释放连接(连接池实现)
  6. local pool_max_idle_time = 10000 --毫秒
  7. local pool_size = 100 --连接池大小
  8. local ok, err = red:set_keepalive(pool_max_idle_time, pool_size)
  9. if not ok then
  10. ngx.say("set keepalive error : ", err)
  11. end
  12. end

即设置空闲连接超时时间防止连接一直占用不释放；设置连接池大小来复用连接。

此处假设调用red:set_keepalive()，连接池大小通过nginx.conf中http部分的如下指令定义：

#默认连接池大小，默认30

lua_socket_pool_size 30;

#默认超时时间,默认60s

lua_socket_keepalive_timeout 60s;

注意：

1、连接池是每Worker进程的，而不是每Server的；

2、当连接超过最大连接池大小时，会按照LRU算法回收空闲连接为新连接使用；

3、连接池中的空闲连接出现异常时会自动被移除；

4、连接池是通过ip和port标识的，即相同的ip和port会使用同一个连接池（即使是不同类型的客户端如Redis、Memcached）；

5、连接池第一次set_keepalive时连接池大小就确定下了，不会再变更；

5、cosocket的连接池http://wiki.nginx.org/HttpLuaModule#tcpsock:setkeepalive。

3、pipeline

pipeline即管道，可以理解为把多个命令打包然后一起发送；MTU（Maxitum Transmission Unit 最大传输单元）为二层包大小，一般为1500字节；而MSS（Maximum Segment Size 最大报文分段大小）为四层包大小，其一般是1500-20（IP报头）-20（TCP报头）=1460字节；因此假设我们执行的多个Redis命令能在一个报文中传输的话，可以减少网络往返来提高速度。因此可以根据实际情况来选择走pipeline模式将多个命令打包到一个报文发送然后接受响应，而Redis协议也能很简单的识别和解决粘包。

1、修改之前的代码片段

Java代码

  1. red:init_pipeline()
  2. red:set("msg1", "hello1")
  3. red:set("msg2", "hello2")
  4. red:get("msg1")
  5. red:get("msg2")
  6. local respTable, err = red:commit_pipeline()
  7. --得到的数据为空处理
  8. if respTable == ngx.null then
  9. respTable = {}  --比如默认值
  10. end
  11. --结果是按照执行顺序返回的一个table
  12. for i, v in ipairs(respTable) do
  13. ngx.say("msg : ", v, "<br/>")
  14. end

通过init_pipeline()初始化，然后通过commit_pipieline()打包提交init_pipeline()之后的Redis命令；返回结果是一个lua table，可以通过ipairs循环获取结果；

2、配置相应location，测试得到的结果

msg : OK
msg : OK
msg : hello1
msg : hello2

3、Redis Lua脚本

利用Redis单线程特性，可以通过在Redis中执行Lua脚本实现一些原子操作。如之前的red:get("msg")可以通过如下两种方式实现：

1、直接eval：

Java代码

  1. local resp, err = red:eval("return redis.call(‘get‘, KEYS[1])", 1, "msg");

2、script load然后evalsha  SHA1 校验和，这样可以节省脚本本身的服务器带宽：

Java代码

  1. local sha1, err = red:script("load",  "return redis.call(‘get‘, KEYS[1])");
  2. if not sha1 then
  3. ngx.say("load script error : ", err)
  4. return close_redis(red)
  5. end
  6. ngx.say("sha1 : ", sha1, "<br/>")
  7. local resp, err = red:evalsha(sha1, 1, "msg");

首先通过script load导入脚本并得到一个sha1校验和（仅需第一次导入即可），然后通过evalsha执行sha1校验和即可，这样如果脚本很长通过这种方式可以减少带宽的消耗。

此处仅介绍了最简单的redis lua脚本，更复杂的请参考官方文档学习使用。

另外Redis集群分片算法该客户端没有提供需要自己实现，当然可以考虑直接使用类似于Twemproxy这种中间件实现。

Memcached客户端使用方式和本文类似，本文就不介绍了。

Mysql客户端

lua-resty-mysql是为基于cosocket API的ngx_lua提供的Lua Mysql客户端，通过它可以完成Mysql的操作。默认安装OpenResty时已经自带了该模块，使用文档可参考https://github.com/openresty/lua-resty-mysql。

1、编辑test_mysql.lua

Java代码

  1. local function close_db(db)
  2. if not db then
  3. return
  4. end
  5. db:close()
  6. end
  7. local mysql = require("resty.mysql")
  8. --创建实例
  9. local db, err = mysql:new()
  10. if not db then
  11. ngx.say("new mysql error : ", err)
  12. return
  13. end
  14. --设置超时时间(毫秒)
  15. db:set_timeout(1000)
  16. local props = {
  17. host = "127.0.0.1",
  18. port = 3306,
  19. database = "mysql",
  20. user = "root",
  21. password = "123456"
  22. }
  23. local res, err, errno, sqlstate = db:connect(props)
  24. if not res then
  25. ngx.say("connect to mysql error : ", err, " , errno : ", errno, " , sqlstate : ", sqlstate)
  26. return close_db(db)
  27. end
  28. --删除表
  29. local drop_table_sql = "drop table if exists test"
  30. res, err, errno, sqlstate = db:query(drop_table_sql)
  31. if not res then
  32. ngx.say("drop table error : ", err, " , errno : ", errno, " , sqlstate : ", sqlstate)
  33. return close_db(db)
  34. end
  35. --创建表
  36. local create_table_sql = "create table test(id int primary key auto_increment, ch varchar(100))"
  37. res, err, errno, sqlstate = db:query(create_table_sql)
  38. if not res then
  39. ngx.say("create table error : ", err, " , errno : ", errno, " , sqlstate : ", sqlstate)
  40. return close_db(db)
  41. end
  42. --插入
  43. local insert_sql = "insert into test (ch) values(‘hello‘)"
  44. res, err, errno, sqlstate = db:query(insert_sql)
  45. if not res then
  46. ngx.say("insert error : ", err, " , errno : ", errno, " , sqlstate : ", sqlstate)
  47. return close_db(db)
  48. end
  49. res, err, errno, sqlstate = db:query(insert_sql)
  50. ngx.say("insert rows : ", res.affected_rows, " , id : ", res.insert_id, "<br/>")
  51. --更新
  52. local update_sql = "update test set ch = ‘hello2‘ where id =" .. res.insert_id
  53. res, err, errno, sqlstate = db:query(update_sql)
  54. if not res then
  55. ngx.say("update error : ", err, " , errno : ", errno, " , sqlstate : ", sqlstate)
  56. return close_db(db)
  57. end
  58. ngx.say("update rows : ", res.affected_rows, "<br/>")
  59. --查询
  60. local select_sql = "select id, ch from test"
  61. res, err, errno, sqlstate = db:query(select_sql)
  62. if not res then
  63. ngx.say("select error : ", err, " , errno : ", errno, " , sqlstate : ", sqlstate)
  64. return close_db(db)
  65. end
  66. for i, row in ipairs(res) do
  67. for name, value in pairs(row) do
  68. ngx.say("select row ", i, " : ", name, " = ", value, "<br/>")
  69. end
  70. end
  71. ngx.say("<br/>")
  72. --防止sql注入
  73. local ch_param = ngx.req.get_uri_args()["ch"] or ‘‘
  74. --使用ngx.quote_sql_str防止sql注入
  75. local query_sql = "select id, ch from test where ch = " .. ngx.quote_sql_str(ch_param)
  76. res, err, errno, sqlstate = db:query(query_sql)
  77. if not res then
  78. ngx.say("select error : ", err, " , errno : ", errno, " , sqlstate : ", sqlstate)
  79. return close_db(db)
  80. end
  81. for i, row in ipairs(res) do
  82. for name, value in pairs(row) do
  83. ngx.say("select row ", i, " : ", name, " = ", value, "<br/>")
  84. end
  85. end
  86. --删除
  87. local delete_sql = "delete from test"
  88. res, err, errno, sqlstate = db:query(delete_sql)
  89. if not res then
  90. ngx.say("delete error : ", err, " , errno : ", errno, " , sqlstate : ", sqlstate)
  91. return close_db(db)
  92. end
  93. ngx.say("delete rows : ", res.affected_rows, "<br/>")
  94. close_db(db)

对于新增/修改/删除会返回如下格式的响应：

Java代码

  1. {
  2. insert_id = 0,
  3. server_status = 2,
  4. warning_count = 1,
  5. affected_rows = 32,
  6. message = nil
  7. }

affected_rows表示操作影响的行数，insert_id是在使用自增序列时产生的id。

对于查询会返回如下格式的响应：

Java代码

  1. {
  2. { id= 1, ch= "hello"},
  3. { id= 2, ch= "hello2"}
  4. }

null将返回ngx.null。

2、example.conf配置文件

Java代码

  1. location /lua_mysql {
  2. default_type ‘text/html‘;
  3. lua_code_cache on;
  4. content_by_lua_file /usr/example/lua/test_mysql.lua;
  5. }

3、访问如http://192.168.1.2/lua_mysql?ch=hello进行测试，得到如下结果

Java代码

  1. insert rows : 1 , id : 2
  2. update rows : 1
  3. select row 1 : ch = hello
  4. select row 1 : id = 1
  5. select row 2 : ch = hello2
  6. select row 2 : id = 2
  7. select row 1 : ch = hello
  8. select row 1 : id = 1
  9. delete rows : 2

客户端目前还没有提供预编译SQL支持（即占位符替换位置变量），这样在入参时记得使用ngx.quote_sql_str进行字符串转义，防止sql注入；连接池和之前Redis客户端完全一样就不介绍了。

对于Mysql客户端的介绍基本够用了，更多请参考https://github.com/openresty/lua-resty-mysql。

其他如MongoDB等数据库的客户端可以从github上查找使用。

Http客户端

OpenResty默认没有提供Http客户端，需要使用第三方提供；当然我们可以通过ngx.location.capture 去方式实现，但是有一些限制，后边我们再做介绍。

我们可以从github上搜索相应的客户端，比如https://github.com/pintsized/lua-resty-http。

lua-resty-http

1、下载lua-resty-http客户端到lualib

Java代码

  1. cd /usr/example/lualib/resty/
  2. wget https://raw.githubusercontent.com/pintsized/lua-resty-http/master/lib/resty/http_headers.lua
  3. wget https://raw.githubusercontent.com/pintsized/lua-resty-http/master/lib/resty/http.lua

2、test_http_1.lua

Java代码

  1. local http = require("resty.http")
  2. --创建http客户端实例
  3. local httpc = http.new()
  4. local resp, err = httpc:request_uri("http://s.taobao.com", {
  5. method = "GET",
  6. path = "/search?q=hello",
  7. headers = {
  8. ["User-Agent"] = "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/40.0.2214.111 Safari/537.36"
  9. }
  10. })
  11. if not resp then
  12. ngx.say("request error :", err)
  13. return
  14. end
  15. --获取状态码
  16. ngx.status = resp.status
  17. --获取响应头
  18. for k, v in pairs(resp.headers) do
  19. if k ~= "Transfer-Encoding" and k ~= "Connection" then
  20. ngx.header[k] = v
  21. end
  22. end
  23. --响应体
  24. ngx.say(resp.body)
  25. httpc:close()

响应头中的Transfer-Encoding和Connection可以忽略，因为这个数据是当前server输出的。

3、example.conf配置文件

Java代码

  1. location /lua_http_1 {
  2. default_type ‘text/html‘;
  3. lua_code_cache on;
  4. content_by_lua_file /usr/example/lua/test_http_1.lua;
  5. }

4、在nginx.conf中的http部分添加如下指令来做DNS解析

Java代码

  1. resolver 8.8.8.8;

记得要配置DNS解析器resolver 8.8.8.8，否则域名是无法解析的。

5、访问如http://192.168.1.2/lua_http_1会看到淘宝的搜索界面。

使用方式比较简单，如超时和连接池设置和之前Redis客户端一样，不再阐述。更多客户端使用规则请参考https://github.com/pintsized/lua-resty-http。

ngx.location.capture

ngx.location.capture也可以用来完成http请求，但是它只能请求到相对于当前nginx服务器的路径，不能使用之前的绝对路径进行访问，但是我们可以配合nginx upstream实现我们想要的功能。

1、在nginx.cong中的http部分添加如下upstream配置

Java代码

  1. upstream backend {
  2. server s.taobao.com;
  3. keepalive 100;
  4. }

即我们将请求upstream到backend；另外记得一定要添加之前的DNS解析器。

2、在example.conf配置如下location

Java代码

  1. location ~ /proxy/(.*) {
  2. internal;
  3. proxy_pass http://backend/$1$is_args$args;
  4. }

internal表示只能内部访问，即外部无法通过url访问进来； 并通过proxy_pass将请求转发到upstream。

3、test_http_2.lua

Java代码

  1. local resp = ngx.location.capture("/proxy/search", {
  2. method = ngx.HTTP_GET,
  3. args = {q = "hello"}
  4. })
  5. if not resp then
  6. ngx.say("request error :", err)
  7. return
  8. end
  9. ngx.log(ngx.ERR, tostring(resp.status))
  10. --获取状态码
  11. ngx.status = resp.status
  12. --获取响应头
  13. for k, v in pairs(resp.header) do
  14. if k ~= "Transfer-Encoding" and k ~= "Connection" then
  15. ngx.header[k] = v
  16. end
  17. end
  18. --响应体
  19. if resp.body then
  20. ngx.say(resp.body)
  21. end

通过ngx.location.capture发送一个子请求，此处因为是子请求，所有请求头继承自当前请求，还有如ngx.ctx和ngx.var是否继承可以参考官方文档http://wiki.nginx.org/HttpLuaModule#ngx.location.capture。 另外还提供了ngx.location.capture_multi用于并发发出多个请求，这样总的响应时间是最慢的一个，批量调用时有用。

4、example.conf配置文件

Java代码

  1. location /lua_http_2 {
  2. default_type ‘text/html‘;
  3. lua_code_cache on;
  4. content_by_lua_file /usr/example/lua/test_http_2.lua;
  5. }

5、访问如http://192.168.1.2/lua_http_2进行测试可以看到淘宝搜索界面。

我们通过upstream+ngx.location.capture方式虽然麻烦点，但是得到更好的性能和upstream的连接池、负载均衡、故障转移、proxy cache等特性。

不过因为继承在当前请求的请求头，所以可能会存在一些问题，比较常见的就是gzip压缩问题，ngx.location.capture不会解压缩后端服务器的GZIP内容，解决办法可以参考https://github.com/openresty/lua-nginx-module/issues/12；因为我们大部分这种http调用的都是内部服务，因此完全可以在proxy location中添加proxy_pass_request_headers off;来不传递请求头。

时间： 2024-10-13 02:03:12

nginx lua mysql 设置的相关文章

阿里云服务器搭建，mysql+java+tomcat+nginx ，mysql远程访问设置

本文为姜友瑶原创作品 非商业转载请注明作译者.出处,并保留本文的原始链接.否则追究法律责任!商业转载请联系作者! 首先需要更新 apt-get 命令和安装基础环境 apt-get -y update apt-get -y install unzip build-essential libncurses5-dev libfreetype6-dev libxml2-dev libssl-dev libcurl4-openssl-dev libjpeg62-dev libpng12-dev libfr

使用Nginx+Lua(OpenResty)开发高性能Web应用

在互联网公司,Nginx可以说是标配组件,但是主要场景还是负载均衡.反向代理.代理缓存.限流等场景:而把Nginx作为一个Web容器使用的还不是那么广泛.Nginx的高性能是大家公认的,而Nginx开发主要是以C/C++模块的形式进行,整体学习和开发成本偏高:如果有一种简单的语言来实现Web应用的开发,那么Nginx绝对是把好的瑞士军刀:目前Nginx团队也开始意识到这个问题,开发了nginxScript:可以在Nginx中使用JavaScript进行动态配置一些变量和动态脚本执行:而目前市面上

Nginx+Lua(OpenResty)开发高性能Web应用

使用Nginx+Lua(OpenResty)开发高性能Web应用 博客分类: 跟我学Nginx+Lua开发 架构 ngx_luaopenresty 在互联网公司,Nginx可以说是标配组件,但是主要场景还是负载均衡.反向代理.代理缓存.限流等场景:而把Nginx作为一个Web容器使用的还不是那么广泛.Nginx的高性能是大家公认的,而Nginx开发主要是以C/C++模块的形式进行,整体学习和开发成本偏高:如果有一种简单的语言来实现Web应用的开发,那么Nginx绝对是把好的瑞士军刀:目前Ngin

使用nginx lua实现网站统计中的数据收集

使用nginx lua实现网站统计中的数据收集 导读 网站数据统计分析工具是各网站站长和运营人员经常使用的一种工具,常用的有 谷歌分析.百度统计和腾讯分析等等.所有这些统计分析工具的第一步都是网站访问数据的收集.目前主流的数据收集方式基本都是基于javascript的.在此简要分析数据收集的原理,并按照步骤,带领大家一同搭建一个实际的数据收集系统. 数据收集原理分析 简单来说,网站统计分析工具需要收集到用户浏览目标网站的行为(如打开某网页.点击某按钮.将商品加入购物车等)及行为附加数据(如某下单

NGINX + LUA实现复杂的控制

安装lua_nginx_module 模块 lua_nginx_module 可以一步步的安装,也可以直接用淘宝的OpenResty Centos和debian的安装就简单了.. 这里说下freebsd的安装: fetch http://www.lua.org/ftp/lua-5.1.4.tar.gz tar zxvf lua-5.1.4.tar.gz cd lua-5.1.4 make freebsd make install cd .. fetch https://github.com/ch

Nginx Lua的执行阶段

对刚接触Ngx_lua的读者来说,可能会存在下面两个困惑. 1.Lua在Nginx的哪些阶段可以执行代码?Lua在Nginx的每个阶段可以执行哪些操作? 2.只有理解了这两个问题,才能在业务中巧妙地利用Ngx_Lua来完成各项需求. Nginx的11个执行阶段,每个阶段都有自己能够执行的指令,并可以实现不同的功能.Ngx_Lua的功能大部分是基于Nginx这11个执行阶段开发和配置的,Lua代码在这些指令块中执行,并依赖于它们的执行顺序.本章将对Ngx_Lua的执行阶段进行一一讲解. 一. in

Nginx+Lua 积累

Nginx+Lua 积累 1.解析16进制编码的中文参数 复制代码 local encodeStr = "%E6%B0%94" local decodeStr = ""; for i = 2, #encodeStr - 1, 3 do local num = encodeStr:sub(i, i + 1); num = tonumber(num, 16); decodeStr = decodeStr .. string.char(num); end ngx.say(

nginx+lua+redis(openresty)配置

nginx+lua+redis(openresty)配置 2014-07-18 11:10 2494人阅读 评论(1) 收藏 举报 方案一: 1.安装lua解释器 wget http://luajit.org/download/LuaJIT-2.0.2.tar.gz (http://luajit.org/download.html) 配置lua Lib和include/luajit-$version目录为环境变量 2.下载ngx_devel_kit和lua-nginx-module https:

转载：Centos7 从零编译Nginx+PHP+MySql 序言 一

这次玩次狠得.除了编译器使用yum安装,其他全部手动编译.哼~ 看似就Nginx.PHP.MySql三个东东,但是它们太尼玛依赖别人了. 没办法,想用它们就得老老实实给它们提供想要的东西. 首先的一些模块依赖一些lib库, 如果你是懒人,就顺着下面的命令分别输入就行了.然后直接看配置篇.(不过这样安装的可不是最新版本的哟) 目录 一.Centos7 从零编译Nginx+PHP+MySql 二.Centos7 从零配置Nginx+PHP+MySql 三.Centos7 从零编译配置Memcache