169it科技资讯


当前位置:  数据库>nosql
本页文章导读:
    ▪高性能队列Fqueue的设计和使用实践 - 蒋叶湖        Fqueue是一个非常轻量级、高性能的开源队列服务器,地址:http://code.google.com/p/fqueue/。下面是我在adev淘宝技术嘉年华上分享的《高性能队列Fqueue的设计和使用实践》PPT.     .........
    ▪MongoDB开发学习 - 喵 喵      如果你从来没有接触MongoDB或对MongoDB有一点了解,如果你是C#开发人员,那么你不妨花几分钟看看本文。本文将一步一步带您轻松入门。   阅读目录 一:简介 二:特点 三:.........
    ▪MongoDB开发学习 - 喵 喵      如果你从来没有接触MongoDB或对MongoDB有一点了解,如果你是C#开发人员,那么你不妨花几分钟看看本文。本文将一步一步带您轻松入门。   阅读目录 一:简介 二:特点 三:.........

[1]高性能队列Fqueue的设计和使用实践 - 蒋叶湖
    来源:    发布时间: 2013-10-18

  Fqueue是一个非常轻量级、高性能的开源队列服务器,地址:http://code.google.com/p/fqueue/。下面是我在adev淘宝技术嘉年华上分享的《高性能队列Fqueue的设计和使用实践》PPT.
           

                    图1 这是总体架构图

                         图2  这是内部存储的原理图

          有任何问题可以和我微博交流,也可以到Fqueue主页上提交问题。

          另外去哪儿网大量招聘靠谱的技术人员(java,dba,运维),可以把简历发给我li.sunATqunar.com(AT换成@)

下面是全部的PPT

高性能队列Fqueue的设计和使用实践
View more presentations from 孙立
 
posted @ 2011-11-27 09:58 草屋主人 阅读(3267) 评论(2) 编辑
 
2011年5月12日
软件系统开发中的数据交换协议

       在很多地方都有“数据交换”这个概念,本文所说的“数据交换” 是指在计算机网络中,一个系统把数据传递给另外一个系统。这非常类似于一个人要告诉另外一个人一件事情。

       当一个人要把一件事情告诉另外一个人的时候,我们可以通过电话、邮件、短信、IM工具或者当面说的方式来交流。这种方式类似于系统数据交换要通过 tcp、udp、管道等等的方式实现。当两个人交流的时候,我们需要一种共同的语言才能明白对方的意思,同样的,两个系统要交换数据,也需要定义一种双方都明白的协议,我们称为“数据交换协议”。

数据交换协议

       数据交换协议的目的是让两个系统进行正确的数据交互。所以几乎各种开发语言都提供了方便使用的数据交换功能。比如说使用JAVA语言的开发的系统使用 MySQL数据库存储数据,就是通过MySQL数据交换协议跟MySQL做数据交换;通过JAVA的RMI可以方便的做跨机器的分布式数据交换,RMI也就是一种数据交换协议。

       一般我们在不同的系统、不同的语言之间交换数据的时候,我们会选择一种通用的交换协议或者自己定义一种容易使用的交换协议。 WebService曾经非常流行, 在Web 2.0时代,轻量级的REST协议又开始受到追捧。那么究竟在我们的系统中应该选择什么样的协议呢?

如何选择数据交换协议

      选择什么样的协议跟我们的应用场景有很大的关系。我们需要考虑我们开发是否方便、接口是否容易发布、是否需要考虑带宽占用成本、序列化和反序列化的性能、接口协议的扩展性等等。下面我们看下几个比较常用的交换协议实现。

协议实现跨语言性能传输量RPCxml广泛几乎所有  低很大N(可实现)json广泛大量一般一般N(可实现)php serializePHPRPC大量一般一般Yhessianhessian大量一般小Ythriftthrift大量高小Yprotobufprotobuf大量高小N(可实现)iceice大量高小YavroApache Avro少量高小Ymessagepackmessagepack 大量高小Y

     上面表格列出了一些常用数据交换协议的一些特性的比较。这里并没有比较好坏,只是想说明不同数据交换协议是有区别的,所以我们需要在我们的应用场景中进行选择。

开放式

像微博,SNS这种开放平台、对静态html页面提供javascript接口调用的系统都属于这种类型 。这种类型的特点是:

  • 调用方不完全可控,而且是针对公网的,你可能不知道是谁、是什么语言、是什么方式在调用你提供的数据接口;
  • 接口访问量一般都非常大,要求具有很高的性能和吞吐量;
  • 需要考虑安全问题,外部提交的数据可能不是合法的。

        所以在这种情况下,需要考虑数据传输的带宽消耗和数据交换协议的易用性,以及多语言支持程度。以前对于html页面使用的javascript接口调用一般都使用XML格式,最近几年几乎都转成了json格式了,因为json传输量更小,比XML更加容易使用。 而对于开放平台,由于使用的场景很多,所以需要提供多种交换协议格式。基本上都会提供XML和json。为了提高平台本身的性能和客户端的性能,也可以提供protobuf这种二进制交换协议并且增加压缩支持,以节省带宽传输和解析的性能消耗。

内部服务

      对于一个大型系统来说,内部服务的数据交换无处不在。从最基本和常见的数据库数据交换、memcached缓存数据交换、消息队列的数据交换到系统之间使用的RPC服务框架等等,都可以算作内部服务的数据交换。内部服务的特点是不用考虑防火墙,不对外开放,速度快(基本无带宽成本)。

内部服务的数据交换协议的选择空间非常大,一般需要考虑:

  • 数据交换协议的性能
  • 是否需要跨语言支持
  • 数据交换协议的消息体大小

持久化存储

对于持久化存储来说,每一种数据交换协议其实都可以实现。一般需要根据应用场景考虑:

  • 是否人工可阅读
  • 存储的空间消耗
  • 序列化和反序列化的性能
  • 是否经过压缩

跨语言

      假设我们的网站前端页面展示层使用PHP语言开发,中间业务逻辑使用JAVA语言开发,那么就涉及到跨语言数据交换的问题。只要系统不是单纯的使用一种语言,那么就必须考虑这个问题。事实上,考虑未来的扩展和需求变化问题,也最好考虑跨语言的数据交互协议。

数据交换协议可升级

      在选择数据交换协议的时候,我们同样需要考虑类似于数据库表的?schema设计时的扩展问题。比如一个提供用户信息的数据交换协议接口,现在包含用户名、性别、住址的信息,在升级过程中,增加了一个最后登录的IP信息。如果不考虑数据交换协议升级带来的影响,很可能会导致以前的客户端出现异常或者旧的数据无法正确解析的问题。

兼容协议的巧用

       兼容协议的巧用非常有用,新产品兼容提供现有成熟的数据交换协议,可以降低使用门槛和产品的开发速度。比如新浪开源的memcacheQ就使用了memcached协议。

总结

       数据交换协议的各种通用开源实现非常多,数据交换协议只是一个非常宽泛的说法,其实只要实现了数据的序列化和反序列化 ,那么就可以说是一个可以交换数据的协议。数据交换协议的性能其实就是序列化和反序列化的性能,如果加上RPC,那么跟RPC实现本身的性能也有非常

    
[2]MongoDB开发学习 - 喵 喵
    来源:    发布时间: 2013-10-18

如果你从来没有接触MongoDB或对MongoDB有一点了解,如果你是C#开发人员,那么你不妨花几分钟看看本文。本文将一步一步带您轻松入门。

 

 

 

阅读目录

 

一:简介

 

二:特点

 

三:下载安装和开启服务器

 

四:使用mongo.exe 执行数据库增删改查操作

 

五:更多命令

 

六:MongoDB语法与现有关系型数据库SQL语法比较

 

七:可视化的客户端管理工具MongoVUE

 

八:在C#中使用官方驱动操作MongoDB

 

九,在C#中使用samus驱动操作MongoDB

 

十:写个批处理,方便开启Mongodb服务器

 

 

 

 

一,简介

 

   MongoDB是一个基于分布式文件存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。

 

   MongoDB是一个高性能,开源,无模式的文档型数据库,是当前NoSql数据库中比较热门的一种。

 

    MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。他支持的数据结构非常松散,是类似json的bjson格式,因此可以存储比较复杂的数据类型。Mongo最大的特点是他支持的查询语言非常强大,其语法有点类似于面向对象的查询语言,几乎可以实现类似关系数据库单表查询的绝大部分功能,而且还支持对数据建立索引。

 

   传统的关系数据库一般由数据库(database)、表(table)、记录(record)三个层次概念组成,MongoDB是由数据库(database)、集合(collection)、文档对象(document)三个层次组成。MongoDB对于关系型数据库里的表,但是集合中没有列、行和关系概念,这体现了模式自由的特点。

 

 

 

 

二,特点

 

  它的特点是高性能、易部署、易使用,存储数据非常方便。主要功能特性有:

 

  1)面向集合存储,易存储对象类型的数据。

 

  2)模式自由。

 

  3)支持动态查询。

 

  4)支持完全索引,包含内部对象。

 

  5)支持查询。

 

  6)支持复制和故障恢复。

 

  7)使用高效的二进制数据存储,包括大型对象(如视频等)。

 

  8)自动处理碎片,以支持云计算层次的扩展性。

 

  9)支持RUBY,PYTHON,JAVA,C++,PHP,C#等多种语言。

 

  10)文件存储格式为BSON(一种JSON的扩展)。

 

  11)可通过网络访问。

 

 

 

 

三,下载安装和开启服务器

 

3.1)MongoDB 当前版本是2.0.4,下载地址:http://www.mongodb.org/downloads。提供了各种平台的版本。我这里选择的是Windows平台下的。

 

3.2)新建目录E:\ mongodb , 将下载的压缩包解压到此目录。bin文件夹下有一堆.exe 文件

 

 

 

其中有两个最重要的文件:Mongod.exe和Mongo.exe 。

 

Mongod.exe 是用来连接到mongo数据库服务器的,即服务器端。

 

Mongo.exe 是用来启动MongoDB shell的,即客户端。

 

其他文件:

 

mongodump 逻辑备份工具。

 

mongorestore 逻辑恢复工具。

 

mongoexport  数据导出工具。

 

mongoimport  数据导入工具。

 

3.3)开启服务器

 

第一步:新建一个目录用来存放MongoDB的数据库文件,即dbpath。随便建在那都可以,我这里建在 E:\MongoDBFiles 。 这是为了下一步使用的。

 

第二步:打开CMD窗口,键入如下命令

 

 

> e:

 

 

 

> cd e:\mongodb\mongodb-win32-i386-2.0.4\bin

 

 

 

> mongod.exe -dbpath "E:\mongodbfiles"

 

最后一行命令中的-dbpath 参数值就是我们第一步新建的文件夹。这个文件夹一定要在开启服务之前事先建立好,否则会报错,mongodb不会自己创建。

 

如果操作成功会出现如下界面:

 

 

 

该界面该我们展示了一些信息:如进程ID是2988,端口号是27017。

 

打开浏览器输入:http://127.0.0.1:27017/

 

我们看到了这样的提示:

 

“You are trying to access MongoDB on the native driver port. For http diagnostic access, add 1000 to the port number”

 

到此,MongoDB数据库服务已经成功启动了。

 

 

 

 

四,使用mongo.exe 执行数据库增删改查操作

 

mongodb 为我们提供的客户端管理工具是mongo.exe

 

4.1)创建数据库:

 

双击打开mongo.exe 出现如下界面:

 

 

 

 

 

该界面的意思是,当前连接的数据库是test,这是系统默认将要创建的。为什么说是“将要创建的”呢?因为此时并不存在此数据库,或者说它现在还只在内存中,并没有创建在物理磁盘上。不信,你看MongoDBFiles文件夹下面除了mongod.lock外,什么都没有。只有当你执行了插入数据的命令后,该数据库才会真正的创建。

 

 

 

好了,我们暂时不管这个test了。现在我们来创建一个叫cnblogs 的数据库。

 

在shell 命令窗口键入如下命令:

 

> use cnblogs // use 命令用来切换当前数据库,如果该数据库不存在,则会先新建一个。

 

 

4.2)创建collection并插入数据

 

在传统关系型数据库中,创建完了库后接下来会创建表,但是在mongoDB中没有“表”的概念,与其对应的一个概念是集合,即collection。

 

在shell 命令窗口键入如下命令:

 

> db.users.insert({'name':'xumingxiang','sex':'man'})

 

// 这条命令是向users 集合中插入一条数据。如果集合users不存在,则会先新建一个,然后再插入数据,参数以JSON格式传入。

因为我们后面要测试删除数据,所以我们再插入一条数据:

 

> db.users.insert({'name':xiangshu','sex':'man'})

4.3)在上面4.1)和4.2)我们创建了数据库,创建了集合,还插入了两条数据,那么这些操作有没有执行成功呢?我们来查询一下:

 

在shell 命令窗口键入如下命令:

 

 

> show dbs // 显示所有数据库

 

 

 

>show collections // 显示当前数据库下的所有集合

 

 

 

>db.users.find() // 显示users集合下的所有数据文档

 

shell 界面如下:

 

 

 

看我用红色标记的部分。这说明我们之前的操作是成功的。我们还看到系统给每条记录分配了一个惟一主键 _id 。

 

4.4)更新数据

 

现在我们要把第二条数据的sex改成女即“women”

 

在shell 命令窗口键入如下命令:

 

> db.users.update({'name':'xiangshu'},{'$set':{'sex':'women'}},upsert=true,multi=false)

解释一下几个参数:

 

第一:查询的条件

 

第二:更新的字段

 

第三:如果不存在则插入

 

第四:是否允许修改多条记录

 

4.5)删除记录

 

我们现在要把第一条记录即'name'为'xumingxiang'的

 

在shell 命令窗口键入如下命令:

 

> db. users.remove({'name':'xumingxiang'})

我们在检验一下4)5)两步有没有操作成功,在shell 命令窗口键入如下命令:

 

> db.users.find()


    
[3]MongoDB开发学习 - 喵 喵
    来源:    发布时间: 2013-10-18

如果你从来没有接触MongoDB或对MongoDB有一点了解,如果你是C#开发人员,那么你不妨花几分钟看看本文。本文将一步一步带您轻松入门。

 

 

 

阅读目录

 

一:简介

 

二:特点

 

三:下载安装和开启服务器

 

四:使用mongo.exe 执行数据库增删改查操作

 

五:更多命令

 

六:MongoDB语法与现有关系型数据库SQL语法比较

 

七:可视化的客户端管理工具MongoVUE

 

八:在C#中使用官方驱动操作MongoDB

 

九,在C#中使用samus驱动操作MongoDB

 

十:写个批处理,方便开启Mongodb服务器

 

 

 

 

一,简介

 

   MongoDB是一个基于分布式文件存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。

 

   MongoDB是一个高性能,开源,无模式的文档型数据库,是当前NoSql数据库中比较热门的一种。

 

    MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。他支持的数据结构非常松散,是类似json的bjson格式,因此可以存储比较复杂的数据类型。Mongo最大的特点是他支持的查询语言非常强大,其语法有点类似于面向对象的查询语言,几乎可以实现类似关系数据库单表查询的绝大部分功能,而且还支持对数据建立索引。

 

   传统的关系数据库一般由数据库(database)、表(table)、记录(record)三个层次概念组成,MongoDB是由数据库(database)、集合(collection)、文档对象(document)三个层次组成。MongoDB对于关系型数据库里的表,但是集合中没有列、行和关系概念,这体现了模式自由的特点。

 

 

 

 

二,特点

 

  它的特点是高性能、易部署、易使用,存储数据非常方便。主要功能特性有:

 

  1)面向集合存储,易存储对象类型的数据。

 

  2)模式自由。

 

  3)支持动态查询。

 

  4)支持完全索引,包含内部对象。

 

  5)支持查询。

 

  6)支持复制和故障恢复。

 

  7)使用高效的二进制数据存储,包括大型对象(如视频等)。

 

  8)自动处理碎片,以支持云计算层次的扩展性。

 

  9)支持RUBY,PYTHON,JAVA,C++,PHP,C#等多种语言。

 

  10)文件存储格式为BSON(一种JSON的扩展)。

 

  11)可通过网络访问。

 

 

 

 

三,下载安装和开启服务器

 

3.1)MongoDB 当前版本是2.0.4,下载地址:http://www.mongodb.org/downloads。提供了各种平台的版本。我这里选择的是Windows平台下的。

 

3.2)新建目录E:\ mongodb , 将下载的压缩包解压到此目录。bin文件夹下有一堆.exe 文件

 

 

 

其中有两个最重要的文件:Mongod.exe和Mongo.exe 。

 

Mongod.exe 是用来连接到mongo数据库服务器的,即服务器端。

 

Mongo.exe 是用来启动MongoDB shell的,即客户端。

 

其他文件:

 

mongodump 逻辑备份工具。

 

mongorestore 逻辑恢复工具。

 

mongoexport  数据导出工具。

 

mongoimport  数据导入工具。

 

3.3)开启服务器

 

第一步:新建一个目录用来存放MongoDB的数据库文件,即dbpath。随便建在那都可以,我这里建在 E:\MongoDBFiles 。 这是为了下一步使用的。

 

第二步:打开CMD窗口,键入如下命令

 

 

> e:

 

 

 

> cd e:\mongodb\mongodb-win32-i386-2.0.4\bin

 

 

 

> mongod.exe -dbpath "E:\mongodbfiles"

 

最后一行命令中的-dbpath 参数值就是我们第一步新建的文件夹。这个文件夹一定要在开启服务之前事先建立好,否则会报错,mongodb不会自己创建。

 

如果操作成功会出现如下界面:

 

 

 

该界面该我们展示了一些信息:如进程ID是2988,端口号是27017。

 

打开浏览器输入:http://127.0.0.1:27017/

 

我们看到了这样的提示:

 

“You are trying to access MongoDB on the native driver port. For http diagnostic access, add 1000 to the port number”

 

到此,MongoDB数据库服务已经成功启动了。

 

 

 

 

四,使用mongo.exe 执行数据库增删改查操作

 

mongodb 为我们提供的客户端管理工具是mongo.exe

 

4.1)创建数据库:

 

双击打开mongo.exe 出现如下界面:

 

 

 

 

 

该界面的意思是,当前连接的数据库是test,这是系统默认将要创建的。为什么说是“将要创建的”呢?因为此时并不存在此数据库,或者说它现在还只在内存中,并没有创建在物理磁盘上。不信,你看MongoDBFiles文件夹下面除了mongod.lock外,什么都没有。只有当你执行了插入数据的命令后,该数据库才会真正的创建。

 

 

 

好了,我们暂时不管这个test了。现在我们来创建一个叫cnblogs 的数据库。

 

在shell 命令窗口键入如下命令:

 

> use cnblogs // use 命令用来切换当前数据库,如果该数据库不存在,则会先新建一个。

 

 

4.2)创建collection并插入数据

 

在传统关系型数据库中,创建完了库后接下来会创建表,但是在mongoDB中没有“表”的概念,与其对应的一个概念是集合,即collection。

 

在shell 命令窗口键入如下命令:

 

> db.users.insert({'name':'xumingxiang','sex':'man'})

 

// 这条命令是向users 集合中插入一条数据。如果集合users不存在,则会先新建一个,然后再插入数据,参数以JSON格式传入。

因为我们后面要测试删除数据,所以我们再插入一条数据:

 

> db.users.insert({'name':xiangshu','sex':'man'})

4.3)在上面4.1)和4.2)我们创建了数据库,创建了集合,还插入了两条数据,那么这些操作有没有执行成功呢?我们来查询一下:

 

在shell 命令窗口键入如下命令:

 

 

> show dbs // 显示所有数据库

 

 

 

>show collections // 显示当前数据库下的所有集合

 

 

 

>db.users.find() // 显示users集合下的所有数据文档

 

shell 界面如下:

 

 

 

看我用红色标记的部分。这说明我们之前的操作是成功的。我们还看到系统给每条记录分配了一个惟一主键 _id 。

 

4.4)更新数据

 

现在我们要把第二条数据的sex改成女即“women”

 

在shell 命令窗口键入如下命令:

 

> db.users.update({'name':'xiangshu'},{'$set':{'sex':'women'}},upsert=true,multi=false)

解释一下几个参数:

 

第一:查询的条件

 

第二:更新的字段

 

第三:如果不存在则插入

 

第四:是否允许修改多条记录

 

4.5)删除记录

 

我们现在要把第一条记录即'name'为'xumingxiang'的

 

在shell 命令窗口键入如下命令:

 

> db. users.remove({'name':'xumingxiang'})

我们在检验一下4)5)两步有没有操作成功,在shell 命令窗口键入如下命令:

 

> db.users.find()


    
最新技术文章:
 




特别声明:169IT网站部分信息来自互联网,如果侵犯您的权利,请及时告知,本站将立即删除!

©2012-2017,169IT.COM,E-mail:www_169it_com#163.com(请将#改为@)

浙ICP备11055608号