发表于 2018-12-26 06:02:43

21.1

  NoSQL
  21.1 什么是NoSQL

[*]  非关系型数据库就是NoSQL,关系型数据库代表MySQL
[*]  对于关系型数据库来说,是需要把数据存储到库、表、行、字段里,查询的时候根据条件一行一行地去匹配,当量非常大的时候就很耗费时间和资源,尤其是数据是需要从磁盘里去检索
[*]  NoSQL数据库存储原理非常简单(典型的数据类型为k-v),不存在繁杂的关系链,比如mysql查询的时候,需要找到对应的库、表(通常是多个表)以及字段。
[*]  NoSQL数据可以存储在内存里,查询速度非常快
[*]  NoSQL在性能表现上虽然能优于关系型数据库,但是它并不能完全替代关系型数据库
[*]  NoSQL因为没有复杂的数据结构,扩展非常容易,支持分布式


[*]  常见NoSQL数据库
[*]  k-v形式的:memcached、redis 适合储存用户信息,比如会话、配置文件、参数、购物车等等。这些信息一般都和ID(键)挂钩,这种情景下键值数据库是个很好的选择。
[*]  文档数据库:mongodb   将数据以文档的形式储存。每个文档都是一系列数据项的集合。每个数据项都有一个名称与对应的值,值既可以是简单的数据类型,如字符串、数字和日期等;也可以是复杂的类型,如有序列表和关联对象。数据存储的最小单位是文档,同一个表中存储的文档属性可以是不同的,数据可以使用XML、JSON或者JSONB等多种形式存储。
[*]  列存储 Hbase
[*]  图Neo4J、Infinite Graph、OrientDB
  21.2 Memcached介绍

[*]  Memcached是国外社区网站LiveJournal团队开发,目的是为了通过缓存数据库查询结果,减少数据库访问次数,从而提高动态web站点性能。
[*]  官方站点 http://www.memcached.org/
[*]  数据结构简单(k-v),数据存放在内存里
[*]  多线程
[*]  基于c/s架构,协议简单 (启动一个服务去连接memcached进行通信)
[*]  基于libevent的事件处理 (nginx也是基于libevent)
[*]  自主内存存储处理(slab allowcation)
[*]  数据过期方式:Lazy Expiration 和 LRU
[*]  Memcached不支持重启服务器,因为数据存储在内存里面,重启服务器会导致数据丢失。
  Memcached的数据流向
http://s1.运维网.com/images/20180703/1530612520330020.png
  Slab allocation

[*]  Slab Allocation的原理
[*]  将分配的内存分割成各种尺寸的块(chunk), 并把尺寸相同的块分成组(chunk的集合),每个chunk集合被称为slab。
[*]  Memcached的内存分配以Page为单位,Page默认值为1M,可以在启动时通过-I参数来指定。
[*]  Slab是由多个Page组成的,Page按照指定大小切割成多个chunk。
http://s1.运维网.com/images/20180703/1530612527988122.png
  Growth factor

[*]  Memcached在启动时通过-f选项可以指定 Growth Factor因子。该值控制chunk大小的差异。默认值为1.25。
[*]  通过memcached-tool命令查看指定Memcached实例的不同slab状态,可以看到各Item所占大小(chunk大小)差距为1.25
[*]  命令:# memcached-tool 127.0.0.1:11211 display
  Memcached的数据过期方式

[*]  Lazy Expiration
[*]  Memcached 内部不会监视记录是否过期,而是在get时查看记录的时间戳,检查记录是否过期。这种技术被称为lazy(惰性)expiration。因此,Memcached不会在过期监视上耗费CPU时间。
[*]  LRU
[*]  Memcached会优先使用已超时的记录的空间,但即使如此,也会发生追加新记录时空间不足的情况,此时就要使用名为Least Recently Used(LRU)机制来分配空间。顾名思义,这是删除“最近最少使用”的记录的机制。因此,当内存空间不足时(无法从slab class获取到新的空间时),就从最近未被使用的记录中搜索,并将其空间分配给新的记录。从缓存的实用角度来看,该模型十分理想。
  slab allocation 的关系

[*]  小--》大
[*]  块chunk--》组(chunk的集合)--》slab
[*]  大--》小
[*]  memcached分配--》page--》chunk
  
  21.3 安装memcached
yum install -y memcached libmemcached libevent
systemctl start memcached  memcached 进程介绍
ps aux |grepmemcached
memcach+   6170.00.0 3255641176 ?      Ssl17:10   0:00 /usr/bin/memcached -u memcached -p 11211 -m 64 -c 1024
root       6260.00.0 112660   968 pts/0    R+   17:10   0:00 grep --color=auto memcached  解释:
  -u 指定启动用户
  -p 指定端口
  -m 分配内存大小,单位Mb (此选项最常用)
  -c 指定最大并发数
  以上的参数都可以更改
  修改加载参数有2种,分为手动跟自动:
  1 手动 /usr/bin/memcached -u xxx -p xxx -m xxx -c xxx
  2 自动,修memcached的配置文件
vim /etc/sysconfig/memcached
PORT="11211"
USER="memcached"
MAXCONN="1024"
CACHESIZE="64"
OPTIONS=""  根据实际来修改
  比如加上监听的ip,可以把OPTIONS="" 改为OPTIONS="127.0.0.1"
  21.4 查看memcached状态
  memcached-tool是查看memcached状态的一款工具
memcached-tool 127.0.0.1:11211 stats
#127.0.0.1:11211   Field       Value
         accepting_conns         1
               auth_cmds         0
             auth_errors         0
                   bytes         0
            bytes_read         7
         bytes_written         0
            cas_badval         0
                cas_hits         0
            cas_misses         0
               cmd_flush         0
               cmd_get         0
               cmd_set         0
               cmd_touch         0
             conn_yields         0
   connection_structures          11
      curr_connections          10
            curr_items         0
               decr_hits         0
             decr_misses         0
             delete_hits         0
         delete_misses         0
       evicted_unfetched         0
               evictions         0
       expired_unfetched         0
                get_hits         0
            get_misses         0
            hash_bytes      524288
       hash_is_expanding         0
      hash_power_level          16
               incr_hits         0
             incr_misses         0
                libevent 2.0.21-stable
          limit_maxbytes    67108864
   listen_disabled_num         0
                     pid         617
            pointer_size          64
               reclaimed         0
            reserved_fds          20
         rusage_system    0.020730
             rusage_user    0.019136
               threads         4
                  time1530610329
       total_connections          11
             total_items         0
            touch_hits         0
            touch_misses         0
                  uptime      1324
               version      1.4.15   关注点
  get hits命中的数量
  curr_items暂时存储的项目数量
  get hits/ curr_items=命中率
  或者echo stats |nc 127.0.0.1 11211需要安装nc工具yum install -y nc
echo stats |nc 127.0.0.1 11211
STAT pid 617
STAT uptime 2754
STAT time 1530611759
STAT version 1.4.15
STAT libevent 2.0.21-stable
STAT pointer_size 64
STAT rusage_user 0.037363
STAT rusage_system 0.041996
STAT curr_connections 10
STAT total_connections 12
STAT connection_structures 11
STAT reserved_fds 20
STAT cmd_get 0
STAT cmd_set 0
STAT cmd_flush 0
STAT cmd_touch 0
STAT get_hits 0
STAT get_misses 0
STAT delete_misses 0
STAT delete_hits 0
STAT incr_misses 0
STAT incr_hits 0
STAT decr_misses 0
STAT decr_hits 0
STAT cas_misses 0
STAT cas_hits 0
STAT cas_badval 0
STAT touch_hits 0
STAT touch_misses 0
STAT auth_cmds 0
STAT auth_errors 0
STAT bytes_read 13
STAT bytes_written 1024
STAT limit_maxbytes 67108864
STAT accepting_conns 1
STAT listen_disabled_num 0
STAT threads 4
STAT conn_yields 0
STAT hash_power_level 16
STAT hash_bytes 524288
STAT hash_is_expanding 0
STAT bytes 0
STAT curr_items 0
STAT total_items 0
STAT expired_unfetched 0
STAT evicted_unfetched 0
STAT evictions 0
STAT reclaimed 0
END  若安装libmemcached后,可以使用命令
  memstat --servers=127.0.0.1:11211 查看memcached服务状态
  --servers 指定memcached服务器ip:port
memstat --servers=127.0.0.1:11211
Server: 127.0.0.1 (11211)
pid: 617
uptime: 2787
time: 1530611792
version: 1.4.15
libevent: 2.0.21-stable
pointer_size: 64
rusage_user: 0.038247
rusage_system: 0.041996
curr_connections: 10
total_connections: 13
connection_structures: 11
reserved_fds: 20
cmd_get: 0
cmd_set: 0
cmd_flush: 0
cmd_touch: 0
get_hits: 0
get_misses: 0
delete_misses: 0
delete_hits: 0
incr_misses: 0
incr_hits: 0
decr_misses: 0
decr_hits: 0
cas_misses: 0
cas_hits: 0
cas_badval: 0
touch_hits: 0
touch_misses: 0
auth_cmds: 0
auth_errors: 0
bytes_read: 30
bytes_written: 2068
limit_maxbytes: 67108864
accepting_conns: 1
listen_disabled_num: 0
threads: 4
conn_yields: 0
hash_power_level: 16
hash_bytes: 524288
hash_is_expanding: 0
bytes: 0
curr_items: 0
total_items: 0
expired_unfetched: 0
evicted_unfetched: 0
evictions: 0
reclaimed: 0


页: [1]
查看完整版本: 21.1