解决海量数据的新思路——分布式数据库

楼主思路正确
其实海量数据库没有想象那么难
大家也不要怕oracle,这些厂家，其实他们故意说的这么难的
让国内人买他们昂贵的设备,
我现在进行的一个项目，每天大概有2亿条记录
要做数据仓库分析，用oracle已经吃不消了
现在改方案用现在用类似楼主的方法，分布再合并，
4096个字段
遍历提取1000万的数据大概60秒
方案用tcp+bdb+算法，c++写的
没有用sql
用查询用setExpression(A>10).and(B<10).or(C<100)
如果有机会，我把开源掉

我们多鼓励楼主这样写系统软件
国内不要把精力集中在应用软件上讨论上
动不动就说什么oracle做的，什么sap做的
老是研究东西别人东西怎么使用
分布数据库和数据仓库目前是核心系统软件领域，
国外的小孩整天研究着如何再做个mysql,我们整天研究如何做mysql一个表的crud
各位在大学毕业学的操作系统，编译原理，数据结构都是白学的吗？
如果搞应用，不如去伟大的青鸟培训班学几年


分布数据库开发设计到
存储，事务，进程线程调度，通讯，检查点，语法分析
我没办法用bdb作为存储
因为我没时间也没能力做好
事务和存储，在上层架构二次解析和通讯我想计算机专业的人应该都能处理吧
支持楼主

之前已经给出了解决的办法:


也就是说,每页20条,如果选取第10000页,有2个节点,要进行的比较次数是:10000*20*1次,在服务器端只需要很少的内存空间,因为数据是从节点那里一条一条的传来的.总体上来说还是有些效率损失,不过这样计算量已经分布到每个节点上了,能够以低成本提供比较高的查询速度.

你上面得做法是基于 每台数据库在数据分布上面 是完全按照一种理想得,就是完全安装你目前所要排序得数据进行依次分布数据得, 你觉得A机器 得第10000页内容一定跟B机器第10000页所排得位置基本一样?

假设A机器得第10000页内容 如果在B机器内他们所排得位置完全可能是20000页以后得内容

作为数据库分页应该是比较严格得.不象search得返回结果内容他是非常不严格得,如果是search Engine这种做法是比较普遍得,但是作为数据库这种做法是完全不行得

是啊 大学学的东西基本都叫回去了 工作两年了 也该学点深层次的东西了

如果是数据仓库这些应该学习什么知识呢？

目前，分布式的概念越来越流行，但是在数据库领域里，分布式的应用相对较少。在参阅了Google的Map/Reduce概念后，我构思了一种分布式数据库的架构，并实现了其雏形，现在将其基本思路写出来，希望能起到抛砖引玉的作用。我工作时间不长，其中错误，不完善之处还请大家多多指出，谢谢。

设计这个分布式数据库的目的在于快速的处理海量数据。基本思路其实很简单，将数据分布到多个数据节点中，在执行SQL语句时，分析SQL语句的语义，对一个或多个数据库进行操作。这样就可以使查询的压力分散到每一个节点上面，面对海量数据时的处理时间大大缩短。

先拿几个简单的SQL语句做分析，看看在分布式的环境下和平常有何不同。假设我们现在有两个数据节点A和B，表名为Table，其中ID为1~100的数据保存在节点A，ID为101~200的数据保存在节点B。以下的SQL语句都是同时对2个数据库执行。

Select * from Table where ID=1
这样A数据库将返回ID为1的数据，数据库B返回为空。这时简单的合并A和B的数据，就可以得到正确的结果。

Select top 10 * from Table
这时A数据库将返回10条数据，B数据库返回10条数据，这时如果合并A和B，将返回20条结果。这时必须移除多余的10条数据才是正确的结果。

Select * from Table order by ID
这时A，B数据库将返回所有的数据，但是要使得数据符合order by的条件，很显然应该进行一次排序操作。

Select top 10 * from Table order by ID
这时A，B数据库都返回10条数据，经过合并后，还要经过排序，移除的操作，才能确保结果正确。

SQL语句中需要处理的关键字还有max，min，count，sum，avg等，这里就不写出来了。经过这几个例子我们可以看到，其实只要经过一些处理，分别对不同数据节点上的查询，可以转化成对单一数据库查询等效的结果。而这些处理归纳起来，只有合并，排序，移除这三种情况，其实这和Map/Reduce思想非常的类似，无论什么复杂的动作，最终归结都可以通过几个简单操作来完成。这些处理当然需要一定的时间，但是在面对海量数据时，很多情况下，处理所需要的时间可以小到忽略不计。

上面只是一些简单的SQL语句，面对一些复杂的SQL语句，要在SQL语句处理的过程中，进行数据节点之间的数据交换才能完成的（例子在文末会给出）。因此要实现一个完全能够处理SQL语句的分布式数据库，需要在数据库的内核部分进行改动。在实现这个组件时，时间是有限的，进行内核部分的改造不现实，所以我采取了中间件的方式，来实现了这个分布式数据库的雏形，采用的数据库是MSSQL2000，下图是我设计的分布式数据库的概念图（参见附件1）：


如图所示，数据根据一定规则分布（一般可以直接Hash主键）到每一个数据节点中，由分布式数据库服务器对每个数据节点进行访问，进行归并/排序/移除操作，然后通过数据接口，返回给程序。

其中几个数据接口所适用的场景为：

Reader：提供对数据库的查询结果，逐条进行读取的接口。在海量数据下，有时候需要读取大量数据进行处理，如果一次读取到内存中显然不现实。此时可以使用Reader模式逐条读取，进行分批处理。

DataFiller：提供对数据的XML包装，适用于小数据量的读取，主要是给Web应用提供一个方便的接口。

Command：执行delete，update，insert等不返回数据的SQL语句。

BulkCopy：批量插入接口。主要是为大数据量的导入提供高速接口。

实现这个中间件，难点应该是在SQL语句的语义分析上。这块应该使用编译原理来实现，但是在我的实现中，并没有用到，原因一个是时间问题，另外一个是因为基于中间件的方式，对一些复杂的SQL语句无法得到正确的结果。所以使用了正则表达式和一些方法来对SQL语句进行分析，分析出应该如何对执行结果进行处理，以及SQL语句应该发送到单个节点还是多个节点。以下是处理的流程示意图（参见附件2）：

在实现时需要注意的地方是，一定要让SQL语句从发送到执行，到返回结果之间没有任何延迟，否则每秒能够执行的SQL语句最多只有几十条。一开始我使用的模型是很常见的查询线程模型（参见附件3）：

每个语句执行完毕之后，在HashMap中将执行状态设置为执行完毕。使用一个查询线程，不断的遍历HashMap，发现有执行完毕的语句，便将其发往结果处理模块。为了避免CPU占用率100%，查询线程必须要有Sleep语句，但是windows下线程轮切的最小时间段为15ms，并且在Sleep的过程中，CPU将优先处理其他线程，这样Sleep一次至少需要20ms。这样，无论SQL查询再快，分布式数据库的处理速度也会被限制在1000/20=50条/秒以下。在我做的第一个模型中，每秒最多只能处理20多条SQL语句，在面对Web应用时，显然是不够的。

后来我采用的是信号量机制，即在生成Query线程时，给其分配一个信号量，执行每个SQL语句都会将一个监视线程加入线程池，监视线程堵塞住，等待所有信号量置为发信状态，然后立刻将结果送入结果处理模块。Windows处理信号量是非常快的，可以以CPU指令周期来计量。经过这个改进，分布式数据库处理一个查询的语句，基本等同于执行查询所需的时间。当然，这样的设计造成了使用的线程比较多，调试起来非常困难，需要非常小心的设计，而且在数据节点多的时候，必须维护一个成百上千线程的线程池，个人觉得是非常不好的。我注意到无论处理多少数据，MSSQL中的线程只有20多个，可以判断出他们的设计是非常精巧的，肯定和我的这种设计不同。如果有更好的方法解决这个问题，请不吝赐教，谢谢。

以上便是一个分布式数据库中间件的基本概念和一个基本实现。当然，实现一个商用的中间件，还有很多工作需要做，例如权限，数据安全，节点故障处理，日志等模块，都有很多改进的地方。目前我实现的这个中间件非常简陋，由于MSSQL本身的限制，有很多模块实现得不够优雅，不过唯一值得欣慰的是，性能上来说是非常不错的，达到了分布式系统的初衷。目前有3台机器作为数据节点运行，进行随机数据访问时，负载基本平均分到了每一个节点上。大数据量读取，大数据量写入一般都有单数据库2倍以上的速度。当然，分布式不是万能的，目前有些问题是无法解决的。例如：

1、多表问题：简单的举个例子，例如有一张用户表，一张产品ID表，还有一张交易记录表，以用户表，产品ID表为外键，如果执行诸如

Select * from 交易记录表 where 交易记录表.产品ID=产品ID表.ID and 交易记录表.用户ID=用户表.用户ID

这样的语句时，如果只对执行完的结果进行处理，无论如何架构这几张表，都会出错。为什么？原因有点难说清楚，有兴趣的话仔细思考一下就知道了。
对于这样的语句，中间件根本无法处理，只有修改内核，在执行语句的过程中，对每个数据节点进行数据交换，才可以解决。目前的解决方法是把其中一张表放到单个数据库上。不过这样程序看起来就很怪异，一个查询动作要用到两个不同的数据库访问类，没有弄明白整个框架的程序员都不知道为什么要这样做。

2、语意分析：在分布式的环境下，SQL语意转换为操作原语的难度更加高了，确保其逻辑完全正确很困难，我离散数学学得很差，目前还不能达到100%的正确率，所以不得不在数据接口中保留了手动模式，即手工决定该如何处理数据，非常的丑陋。以目前的识别率，一些复杂的SQL语句要么分开几次写，要么使用手动模式自定义其处理流程才能确保其正确，目前也没时间去完善分析模块，只能随它去了。

提出这些问题希望能得到大家的指点，毕竟独自一人开发思路会有很多局限性，个人感觉其中还有很多地方可以挖掘，完全可能成为另外一种处理海量数据的方式。最后，谢谢你的观赏。

楼主思路正确
其实海量数据库没有想象那么难
大家也不要怕oracle,这些厂家，其实他们故意说的这么难的
让国内人买他们昂贵的设备,
我现在进行的一个项目，每天大概有2亿条记录
要做数据仓库分析，用oracle已经吃不消了
现在改方案用现在用类似楼主的方法，分布再合并，
4096个字段
遍历提取1000万的数据大概60秒
方案用tcp+bdb+算法，c++写的
没有用sql
用查询用setExpression(A>10).and(B<10).or(C<100)
如果有机会，我把开源掉

我们多鼓励楼主这样写系统软件
国内不要把精力集中在应用软件上讨论上
动不动就说什么oracle做的，什么sap做的
老是研究东西别人东西怎么使用
分布数据库和数据仓库目前是核心系统软件领域，
国外的小孩整天研究着如何再做个mysql,我们整天研究如何做mysql一个表的crud
各位在大学毕业学的操作系统，编译原理，数据结构都是白学的吗？
如果搞应用，不如去伟大的青鸟培训班学几年


分布数据库开发设计到
存储，事务，进程线程调度，通讯，检查点，语法分析
我没办法用bdb作为存储
因为我没时间也没能力做好
事务和存储，在上层架构二次解析和通讯我想计算机专业的人应该都能处理吧
支持楼主