著录项信息
专利名称 | 一种分布式存储系统中分区管理方法、设备及系统 |
申请号 | CN201180003048.2 | 申请日期 | 2011-12-22 |
法律状态 | 授权 | 申报国家 | 中国 |
公开/公告日 | 2013-09-11 | 公开/公告号 | CN103299296A |
优先权 | 暂无 | 优先权号 | 暂无 |
主分类号 | 暂无 | IPC分类号 | 暂无查看分类表>
|
申请人 | 华为技术有限公司 | 申请人地址 | 广东省深圳市龙岗区坂田华为总部办公楼
变更
专利地址、主体等相关变化,请及时变更,防止失效 |
权利人 | 华为技术有限公司 | 当前权利人 | 华为技术有限公司 |
发明人 | 刘叙友;王道辉 |
代理机构 | 暂无 | 代理人 | 暂无 |
摘要
本发明实施例提供的分布式存储系统中分区管理方法、设备和系统,其中方法包括:中央控制器根据所述分区分布变化,更新对应关系表中所述分区标识的分区版本号,在所述对应关系表中查找所述分区标识对应的存储节点,更新所述分区标识对应的存储节点中的所述分区的分区版本号,从而使得可以从分区的粒度上确定分区的分布变化,进一步的能够通过所述分区的分布变化,只更新所述分区的分区版本号,并只向存储有所述分区的存储节点发送更新后的分区版本号,减少了更新节点上映射表中所述分区标识对应的分区版本号的流量。
1.一种分布式存储系统中分区管理方法,其特征在于,所述分布式系统包括中央控制器和至少两个存储节点;
其中,所述至少两个存储节点存储有至少一个相同分区;
所述中央控制器存储有对应关系表,所述对应关系表包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号;
所述存储节点存储有所述分区的分区标识和所述分区标识的分区版本号的映射表;
所述方法包括:
所述中央控制器根据所述分区分布变化,更新所述对应关系表中所述分区标识的分区版本号,在所述对应关系表中查找所述分区标识对应的存储节点;
所述中央控制器向所述分区标识对应的存储节点发送更新后的分区版本号。
2.如权利要求1所述的方法,其特征在于,所述分区分布变化原因,具体包括:
节点发生故障、节点故障恢复、分区备份、分区迁移。
3.如权利要求2所述的方法,其特征在于,当所述存储节点发生故障引起所述分区分布变化时,所述中央控制器根据所述分区分布变化,更新本地所述对应关系表中所述分区标识的分区版本号之前,还包括:
所述中央控制器接收与所述故障节点存储有至少一个相同分区的存储节点上报的所述故障节点的故障信息。
4.如权利要求3所述的方法,其特征在于,所述中央控制器包括计时器,当所述中央控制器接收到与所述故障节点存储有至少一个相同分区的存储节点上报的所述故障节点的故障信息时,所述计时器开始计时。
5.如权利要求4所述的方法,其特征在于,当在所述计时器的阈值内,所述故障节点恢复时,还包括:
所述中央控制器更新所述对应关系表中所述故障节点的分区标识的分区版本号;
所述中央控制器向与所述故障节点存储有至少一个相同分区的存储节点发送所述相同分区对应的更新后的分区版本号。
6.如权利要求4所述的方法,其特征在于,当所述计时器计时超过设定的阈值,所述故障节点没有恢复时,还包括:
所述中央控制器为所述故障节点选择备份节点;
所述中央控制器更新所述对应关系表中所述故障节点的分区标识的分区版本号;所述中央控制器向与所述故障节点存储有至少一个相同分区的存储节点发送所述相同分区对应的更新后的分区版本号;
所述中央控制器向所述备份节点下发备份所述故障节点的指令。
7.如权利要求6所述的方法,其特征在于,当所述中央控制器接收所述备份节点发送的备份所述故障节点成功消息后,还包括:
所述中央控制器更新存储的所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号的对应关系表;
所述中央控制器向所述分区标识对应的存储节点发送更新后的分区版本号。
8.如权利要求2所述的方法,其特征在于,当向新增节点迁移所述分区引起分区分布变化时,所述中央控制器向所述分区标识对应的存储节点发送更新后的分区版本号后,还包括:
所述中央控制器向所述新增节点发送迁移所述分区的指令。
9.如权利要求8所述的方法,其特征在于,当所述中央控制器接收所述新增节点发送的迁移所述分区成功的消息后,还包括:
所述中央控制器更新所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号的对应关系表;
所述中央控制器向所述分区标识对应的存储节点发送更新后的分区版本号。
10.如权利要求1至9任一所述的方法,其特征在于,当所述中央控制器更新本地所述对应关系表后,还包括:
所述中央控制器向客户端发送所述对应关系表的更新信息。
11.一种分布式存储系统中分区管理方法,其特征在于,所述分布式系统包括中央控制器和至少两个存储节点;
其中,所述至少两个存储节点存储有至少一个相同分区;
所述中央控制器存储有对应关系表,所述对应关系表包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号;
所述存储节点存储有所述分区的分区标识和所述分区标识的分区版本号的映射表;
所述方法包括:
当所述分区分布变化时,接收所述中央控制器发送的所述分区标识对应的更新后的分区版本号;
根据所述分区更新后的分区版本号,更新存储所述映射表中所述分区标识的分区版本号。
12.一种分布式存储系统中管理分区的中央控制器,其特征在于,所述分布式系统包括中央控制器和至少两个存储节点;
其中,所述至少两个存储节点存储有至少一个相同分区;
所述中央控制器存储有对应关系表,所述对应关系表包含分布式存储系统中存储节点的节点标识、所述存储节点存储的分区的分区标识和所述分区标识的分区版本号,所述中央控制器包括:
更新单元,用于根据所述分区分布变化,更新所述对应关系表中所述分区标识的分区版本号;
查找单元,用于在所述对应关系表中查找所述分区标识对应的存储节点;
发送单元,用于向所述分区标识对应的存储节点发送更新后的分区版本号。
13.如权利要求12所述的中央控制器,其特征在于,还包括:
接收单元,所述存储节点发生故障引起所述分区分布变化时,用于接收与所述故障节点存储有至少一个相同分区的存储节点上报所述故障节点的故障信息。
14.如权利要求13所述的中央控制器,其特征在于,还包括:
计时器,用于在接收单元接收到与所述故障节点存储有至少一个相同分区的存储节点上报的所述故障节点的故障信息时,开始计时,以判断所述故障节点是否在设定的阈值时间内恢复。
15.如权利要求14所述的中央控制器,其特征在于,还包括:选择单元,用于在所述故障节点在设定的阈值时间内没有恢复时,为所述故障节点选择备份节点;
则所述发送单元,还用于向所述备份节点发送备份所述故障节点的指令;
接收单元,还用于接收所述备份节点发送的备份所述故障节点成功的消息。
16.如权利要求12所述的中央控制器,其特征在于,
所述发送单元,还用于向新增节点发送迁移所述分区的指令;
接收单元,还用于接收所述新增节点发送的迁移所述分区成功的消息。
17.一种分布式存储系统中分区管理系统,其特征在于,所述分布式系统包括中央控制器和至少两个存储节点;
所述至少两个存储节点存储有至少一个相同分区;
所述中央控制器存储有对应关系表,所述对应关系表包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号;
所述存储节点存储有所述分区的分区标识和所述分区标识的分区版本号的映射表;
所述中央控制器,用于根据所述分区分布变化,更新所述对应关系表中所述分区标识的分区版本号,在所述对应关系表中查找所述分区标识对应的存储节点,向所述分区标识对应的存储节点发送更新后的分区版本号;
所述分区标识对应的存储节点,用于接收所述中央控制器发送的更新后的分区版本号,更新本地存储的所述映射表中记录的所述分区标识的分区版本号。
18.如权利要求17所述的系统,其特征在于,所述中央控制器包括计时器;
所述中央控制器,还用于当所述分区变化是由节点发生故障引起时,在更新所述对应关系表中所述分区标识的分区版本号之前,接收与所述故障节点存储有至少一个相同分区的存储节点上报的所述故障节点的故障信息,所述计时器开始计时。
19.如权利要求18所述的系统,其特征在于,
所述中央控制器,还用于在故障节点未在设定的阈值时间内恢复时,选择备份节点,向所述备份节点下发备份指令,将所述故障节点备份到所述备份节点;
所述中央控制器,还用于当所述备份节点备份成功后,更新存储的所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号的对应关系表,并向所述分区标识对应的存储节点发送更新后的分区版本号;
所述分区标识对应的存储节点,还用于接收所述中央控制器发送的更新后的分区版本号,更新本地存储的所述映射表中记录的所述分区标识的分区版本号。
20.如权利要求17所述的系统,其特征在于,
所述中央控制器,还用于当所述分区分布变化由新增节点迁移所述分区引起时,在向所述分区标识对应的节点发送更新后的分区版本号之后,向所述新增节点发送迁移所述分区的指令,接收所述新增节点发送的所述分区迁移成功消息,更新存储的所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号的对应关系表,并向所述分区标识对应的存储节点发送更新后的分区版本号;
所述分区标识对应的存储节点,还用于接收所述中央控制器发送的更新后的分区版本号,更新本地存储的所述映射表中记录的所述分区标识的分区版本号。
一种分布式存储系统中分区管理方法、设备及系统\n技术领域\n[0001] 本发明涉及信息技术领域,特别是涉及一种分布式存储系统中分区管理方法、设备及系统。\n背景技术\n[0002] 在分布式存储系统中,需要把数据分发到各个存储节点。通常使用的分发技术是分布式哈希表DHT(Distributed Harsh Table)算法。在DHT算法中使用一致性哈希算法,所有的哈希值构成一个DHT环,所有数据通过DHT算法分布在这个哈希环上面,为了实现数据数据的均衡放置,可以将整个哈希环均匀分成多个区间段,那么需要存储的数据就会落在某个区间段上。在分布式存储系统中,分布式存储系统中的存储节点会包含若干这样的存储数据的区间段,我们称之为分区。为了实现数据安全,通常同一分区会在另外至少一个存储节点上存储相同的备份。为了保证各个相同的分区的一致性,现有技术中给所有节点分配了一个共同的版本号,用来表示存储节点上分区的分布变化。同时中央控制器存储一个所有存储节点与同一个版本号之间的对应关系表。当任何一个存储节点状态发生变化时,为了保证分区的一致性,中央控制器就要更新所有存储节点的版本号,并将更新后的版本号发送到分布式系统中的每个存储节点。因此,现有技术不能反映具体分区的分布状态变化,并且更新存储节点对应的版本号时信息流量过大。\n发明内容\n[0003] 在下文中给出了关于本发明的简要概述,以便提供关于本发明的某些方面的基本理解。应当理解,这个概述并不是关于本发明的穷举性概述。它并不是意图确定本发明的关键或重要部分,也不是意图限定本发明的范围。其目的仅仅是以简化的形式给出某些概念,以此作为稍后论述的更详细描述的前序。\n[0004] 本发明实施例提供了一种分布式存储系统中分区管理方法,所述分布式系统包括中央控制器和至少两个存储节点;\n[0005] 其中,所述至少两个存储节点存储有至少一个相同分区;\n[0006] 所述中央控制器存储有对应关系表,所述对应关系表包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号;\n[0007] 所述存储节点存储有所述分区的分区标识和所述分区标识的分区版本号的映射表;\n[0008] 所述方法包括:\n[0009] 所述中央控制器根据所述分区分布变化,更新所述对应关系表中所述分区标识的分区版本号,在所述对应关系表中查找所述分区标识对应的存储节点;\n[0010] 所述中央控制器向所述分区标识对应的存储节点发送更新后的分区版本号。\n[0011] 本发明实施例还提供了一种分布式存储系统中分区管理方法,所述分布式系统包括中央控制器和至少两个存储节点;\n[0012] 其中,所述至少两个存储节点存储有至少一个相同分区;\n[0013] 所述中央控制器存储有对应关系表,所述对应关系表包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号;\n[0014] 所述存储节点存储有所述分区的分区标识和所述分区标识的分区版本号的映射表;\n[0015] 所述方法包括:\n[0016] 当所述分区分布变化时,接收所述中央控制器发送的所述分区标识对应的更新后的分区版本号;\n[0017] 根据所述分区更新后的分区版本号,更新存储所述映射表中所述分区标识的分区版本号。\n[0018] 本发明实施例还提供了一种分布式存储系统中管理分区的中央控制器,所述分布式系统包括中央控制器和至少两个存储节点;\n[0019] 其中,所述至少两个存储节点存储有至少一个相同分区;\n[0020] 所述中央控制器存储有对应关系表,所述对应关系表包含分布式存储系统中存储节点的节点标识,所述存储节点存储的分区的分区标识和所述分区标识的分区版本号,包括:\n[0021] 更新单元,用于根据所述分区分布变化,更新所述对应关系表中所述分区标识的分区版本号;\n[0022] 查找单元,用于在所述对应关系表中查找所述分区标识对应的存储节点;\n[0023] 发送单元,用于向所述分区标识对应的存储节点发送更新后的分区版本号。\n[0024] 本发明实施例还提供了一种分布式存储系统中分区管理系统,所述分布式系统包括中央控制器和至少两个存储节点;\n[0025] 所述至少两个存储节点存储有至少一个相同分区;\n[0026] 所述中央控制器存储有对应关系表,所述对应关系表包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号;\n[0027] 所述存储节点存储有所述分区的分区标识和所述分区标识的分区版本号的映射表;\n[0028] 所述中央控制器,用于根据所述分区分布变化,更新所述对应关系表中所述分区标识的分区版本号,在所述对应关系表中查找所述分区标识对应的存储节点,向所述分区标识对应的存储节点发送更新后的分区版本号;\n[0029] 所述分区标识对应的存储节点,用于接收所述中央控制器发送的更新后的分区版本号,更新本地存储的所述映射表中记录的所述分区标识的分区版本号。本发明实施例提供的分布式存储系统中分区管理方法、设备和系统,中央控制器存储的包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号的对应关系表,所述存储节点存储有包含所述分区的分区标识和所述分区标识的分区版本号的映射表,所述中央控制器根据所述分区分布变化,更新所述对应关系表中所述分区标识的分区版本号,在所述对应关系表中查找所述分区标识对应的存储节点,更新所述分区标识对应的存储节点中的所述分区的分区版本号,从而使得可以从分区的粒度上确定分区的分布变化,进一步的能够通过所述分区的分布变化,只更新所述分区的分区版本号,并只向存储有所述分区的存储节点发送更新后的分区版本号,减少了更新存储节点上映射表中所述分区标识对应的分区版本号的流量。\n附图说明\n[0030] 图1a为本发明第一实施例的方法流程示意图;\n[0031] 图1b为本发明第二实施例的方法流程示意图;\n[0032] 图2为本发明第三实施例的方法流程示意图;\n[0033] 图3为本发明第四实施例的方法流程示意图;\n[0034] 图4为本发明第五实施例设备结构示意图;\n[0035] 图5为本发明第六实施例系统结构示意图。\n具体实施例\n[0036] 在下文中给出了关于本发明的简要概述,以便提供关于本发明的某些方面的基本理解。应当理解,这个概述并不是关于本发明的穷举性概述。它并不是意图确定本发明的关键或重要部分,也不是意图限定本发明的范围。其目的仅仅是以简化的形式给出某些概念,以此作为稍后论述的更详细描述的前序。\n[0037] 本发明实施例中提供的分布式存储系统中,有一个中央控制器和至少两个存储节点。其中该至少两个存储节点存储有至少一个相同分区。中央控制器存储有对应关系表,该对应关系表包括该至少两个存储节点的节点标识,该存储节点的存储的分区标识和该分区标识的分区版本号。在中央控制器存储的对应关系表中,节点标识用来表示存储节点。存储节点上存储的相同分区用相同的分区标识来表示,并且相同的分区标识用同一个分区版本号来表示。所述分区版本号是一个能够表示顺序变化的符号。可以用数字表示,也可以用字母表示,也可以使用其他能够表示顺序变化关系的符合表示。本发明实施例中用单调递增的整数表示。本发明实施例中采用单调递增的整数表示,并不是对发明方案的具体限定,只是为了更方便说明本发明实施例。该分区版本号表示节点上分区分布的变化。当相同分区的分布发生变化时,该相同分区的分区标识对应的分区版本号就顺序递增一次,版本号加1,从而保证分布式存储系统中所有相同的分区的变化是一致的。中央控制器通过管理对应关系表中存储节点的节点标识,该存储节点的存储的分区标识和该分区标识的分区版本号的对应关系,更新存储节点中存储的分区的状态。同时存储节点中存储有存储的分区的分区标识与分区标识的分区版本号的映射表。该映射表中分区的分区标识与分区标识的分区版本号与中央控制器中存储的对应关系表中的该分区标识与分区标识的分区版本号保持一致,当分区分布变化时,通过中央控制器更新存储节点上存储的分区标识与分区标识的分区版本号之间的映射关系表。\n[0038] 中央控制器存储的对应关系表具体如表1所示,表2a、表2b,表2c为节点存储的分区的分区标识与分区标识的分区版本号的映射表。表1,表2a、表2b,表2c只是为了更加清楚地说明对应关系表中节点存储的分区的分区标识与分区标识的分区版本号之间的对应关系和映射关系表中存储节点存储的分区的分区标识与分区标识的分区版本号之间的映射关系,并不是对对应关系表和映射关系表的具体限制。\n[0039] \n[0040] 表1\n[0041] \n[0042] 表2a 表2b 表2c\n[0043] 通过表1的中央控制器存储的对应关系表可知,分区1的分区标识为P1,P1对应的初始的分区版本号为0,分区1所在的存储节点为节点1和节点2。同理,分区2的分区标识为P2,P2对应的初始的分区版本号为0,分区2所在的存储节点为节点1和节点3;分区3的分区标识为P3,P3对应的初始的分区版本号为0,分区3所在的存储节点为节点2和节点3。表2a表示节点1存储的映射表;表2b为节点2存储的映射表;表2c为节点3存储的映射表。\n[0044] 当分区分布发生变化时,中央控制器根据分区分布变化,更新中央控制器存储的对应关系表中发生分布变化的分区的分区标识的分区版本号。即在本发明实施例中,分区版本号更新一次分区版本号加1。然后中央控制器在对应关系表中查找该发生分布变化的分区的分区标识对应的存储节点。然后向对应关系表中发生分布变化的分区的分区标识对应的存储节点发送该分区更新后的分区版本号。存储该分区的存储节点接收到该分区更新后的分区版本号,更新存储节点上该分区的版本号,从而保证发生分布变化的分区的版本号保持一致。\n[0045] 本发明第一实施例提供了一种分布式存储系统中分区管理方法,在分布式存储系统中,包括中央控制器和至少两个存储节点;其中,所述至少两个存储节点存储有至少一个相同分区;所述中央控制器存储有对应关系表,所述对应关系表包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号;所述存储节点存储有所述分区的分区标识和所述分区标识的分区版本号的映射表。如图1a所示,分布式存储系统中分区管理的方法包括下列步骤:\n[0046] 步骤101a:所述中央控制器根据所述分区分布变化,更新所述对应关系表中所述分区标识的分区版本号,在所述对应关系表中查找所述分区标识对应的存储节点。\n[0047] 可选地,所述分区分布变化原因,具体包括:节点发生故障、节点故障恢复、分区备份、分区迁移。\n[0048] 可选地,当所述存储节点发生故障引起所述分区分布变化时,所述中央控制器根据所述分区分布变化,更新本地所述对应关系表中所述分区标识的分区版本号之前,还包括:\n[0049] 所述中央控制器接收与所述故障节点存储有至少一个相同分区的存储节点上报的所述故障节点的故障信息。\n[0050] 步骤102a:所述中央控制器向所述分区标识对应的存储节点发送更新后的分区版本号。\n[0051] 可选地,所述中央控制器包括计时器,当所述中央控制器接收到与所述故障节点存储有至少一个相同分区的存储节点上报的所述故障节点的故障信息时,所述计时器开始计时。\n[0052] 进一步地,当在所述计时器的阈值内,所述故障节点恢复时,还包括:\n[0053] 所述中央控制器更新所述对应关系表中所述故障节点的分区标识的分区版本号;\n[0054] 所述中央控制器向与所述故障节点存储有至少一个相同分区的存储节点发送所述相同分区对应的更新后的分区版本号。\n[0055] 进一步地,当所述计时器计时超过设定的阈值,所述故障节点没有恢复时,还包括:\n[0056] 所述中央控制器为所述故障节点选择备份节点;\n[0057] 所述中央控制器更新所述对应关系表中所述故障节点的分区标识的分区版本号;\n所述中央控制器向与所述故障节点存储有至少一个相同分区的存储节点发送所述相同分区对应的更新后的分区版本号;\n[0058] 所述中央控制器向所述备份节点下发备份所述故障节点的指令。\n[0059] 进一步地,当所述中央控制器接收所述备份节点发送的备份所述故障节点成功消息后,还包括:\n[0060] 所述中央控制器更新存储的所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号的对应关系表;\n[0061] 所述中央控制器向所述分区标识对应的存储节点发送更新后的分区版本号。\n[0062] 可选地,当向新增节点迁移所述分区引起分区分布变化时,所述中央控制器向所述分区标识对应的存储节点发送更新后的分区版本号后,还包括:\n[0063] 所述中央控制器向所述新增节点发送迁移所述分区的指令。\n[0064] 进一步地,当所述中央控制器接收所述新增节点发送的迁移所述分区成功的消息后,还包括:\n[0065] 所述中央控制器更新所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号的对应关系表;\n[0066] 所述中央控制器向所述分区标识对应的存储节点发送更新后的分区版本号。\n[0067] 可选地,当所述中央控制器更新本地所述对应关系表后,还包括:\n[0068] 所述中央控制器向客户端发送所述对应关系表的更新信息。\n[0069] 本发明实施例提供的一种分布式存储系统中分区管理方法,当分区分布发生变化时,中央控制器更新对应关系表中发生分布变化的分区标识的分区版本号,在对应关系表中查找发生分布变化的分区标识对应的存储节点,中央控制器只向该分区标识对应的存储节点发送发生分布变化的分区更新后的分区版本号,更新存储节点上存储的映射表中该分区标识对应的版本号,从而只更新发生分区分布变化的分区标识的分区版本号,减少了更新存储节点上映射表中所述分区标识对应的分区版本号的流量。\n[0070] 本发明第二实施例提供了一种分布式存储系统分区管理的方法,在分布式存储系统中,包括中央控制器和至少两个存储节点;其中,所述至少两个存储节点存储有至少一个相同分区;所述中央控制器存储有对应关系表,所述对应关系表包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号;所述节点存储有所述分区的分区标识和所述分区标识的分区版本号的映射表。如图1b所示,分布式存储系统中分区管理的方法包括下列步骤:\n[0071] 步骤101b:当所述分区分布变化时,接收所述中央控制器发送的所述分区标识对应的更新后的分区版本号。\n[0072] 步骤102b:根据所述分区更新后的分区版本号,更新存储所述映射表中所述分区标识的分区版本号。\n[0073] 本发明实施例提供的一种分布式存储系统中分区管理方法,当分区分布发生变化时,存储节点接收所述中央控制器发送的所述分区标识对应的更新后的分区版本号,根据所述分区更新后的分区版本号,更新本地存储的所述映射表中所述分区标识的分区版本号,从而只更新发生分区分布变化的分区标识的分区版本号,减少了更新存储节点上映射表中所述分区标识对应的分区版本号的流量。\n[0074] 本发明第三实施例提供了一种分布式存储系统分区管理的方法,在分布式存储系统中,包括中央控制器和至少两个存储节点;其中,所述至少两个存储节点存储有至少一个相同分区;所述中央控制器存储有对应关系表,所述对应关系表包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号;所述存储节点存储有所述分区的分区标识和所述分区标识的分区版本号的映射表。在分布式系统中的三个存储节点:节点1、节点2和节点3。节点1上存储分区1和分区2对应的分区标识分别为P1和P2,节点1上存储的映射表如表2a所示。节点2上存储分区1和分区3对应的分区标识分别为P1和P3,节点2上存储的映射表如表2b所示。节点3上存储分区2和分区3对应的分区标识分别为P2和P3,节点3上存储的映射表如表2c所示。各个存储节点上存储的分区的分区标识对应的分区版本号初始值均为0。中央控制器存储的对应关系表如表1所示。在图2的流程图中,为了表示的方便,将节点1、节点2和节点3的节点标识分别表示为N1、N2和N3,分区1、分区2和分区3的分区标识表示为P1、P2和P3。所以中央控制器的对应关系表初始状态简化为(P1,N1、N2,0),(P2,N1,N3,0),(P3,N2,N3,0),其中0表示P1、P2和P3对应的初始分区版本号。节点1的映射表可以表示为(P1,0),(P2,\n0),节点2的映射表表示为(P1,0),(P3,0),节点3的映射表表示为(P2,0),(P3,0)。即存储节点上映射表中分区标识对应的分区版本号初始值也为0。本实施例提供的分布式存储系统中分区管理方法具体执行步骤如图2所示,包括:\n[0075] 步骤201:向中央控制器上报节点1发生故障。\n[0076] 节点1上存储分区1和分区2。当节点1发生故障时,其他存储有分区1和分区2的存储节点向中央控制器上报节点1发生故障。存储有相同分区的存储节点之间相互进行故障检测,当检测到其中一个分区的节点故障时,其他存储节点向中央控制器发送发生故障的节点的信息。节点故障上报机制可以是最先检测到存储相同分区的某一个存储节点发生故障的存储节点上报。也可以从存储相同分区的存储节点中确定一个存储节点,统一由该确定的存储节点上报故障信息,当该选定存储节点发生故障时,重新确定一个存储相同分区的存储节点上报信息。本发明实施例中,节点2也存储分区1,节点3也存储分区2,因此节点2和节点3均可以上报故障信息。为简单表述,统一以节点2上报故障信息。\n[0077] 步骤202:中央控制器根据上报的节点故障信息,从存储的对应关系表中查找故障节点对应的分区标识。\n[0078] 中央控制器根据上报的节点故障信息,从存储的对应关系表上确定该故障节点的节点标识对应的分区标识。本发明实施例中,故障节点1的节点对应的分区标识为P1和P2。同时,当中央控制器接收到节点2上报的故障信息时,中央控制器的计时器开始计时。\n[0079] 步骤203:分别更新P1对应的分区版本号和P2对应的分区版本号。\n[0080] 因为节点1发生故障,导致分布式系统中分区1和分区2的分布减少,即分区1和分区2分布发生变化。因此,中央控制器要更新对应关系表中P1和P2对应的分区版本号。\n即P1和P2对应的分区版本号分别力1。(P1,N1、N2,1),(P2,N1,N3,1),(P3,N2,N3,0),其中,由于节点1发生故障,为了以后表述的方便,对应关系表中保留了节点1的节点标识N1,也可以不保留该标识N1。当节点1故障恢复以后,重新增加该标识。\n[0081] 步骤204:在对应关系表中查找P1和P2对应的存储节点。\n[0082] 在本发明实施例中,除故障节点1以后,P1对应的节点还有节点2,P2对应的节点还有节点3。\n[0083] 步骤205a步骤205b:步骤205a中央控制器向节点2发送P1更新后的分区版本号。步骤205b中央控制器向节点3发送P1更新后的分区版本号。\n[0084] 其中步骤205a和步骤205b之间没有先后顺序之分。\n[0085] 步骤206a步骤206b:步骤206a更新节点2存储的映射表中P1对应的分区版本号。步骤206b更新节点3存储的映射表中P2对应的分区版本号。节点2更新后的映射表为(P1,1),(P3,0)。节点3更新后的映射表为(P2,1),(P3,0)。\n[0086] 步骤207:中央控制器选择为故障节点选择备份节点。\n[0087] 超过中央控制器中计时器的阈值,节点1仍然没有恢复,则中央控制器认为节点1发生永久性故障。为了保证数据安全,需要将节点1进行备份,即将节点1中存储的分区P1和P2进行备份。由于节点1故障,本身并不能够备份。因此,只能从与节点1存储相同分区的节点上选择P1和P2进行备份。本发明实施例中因为节点2上存储P1和P3分区标识对应的分区,因此还可以存储P2分区标识对应的分区。同理,节点3还可以存储P1分区标识对应的分区。\n[0088] 步骤208:中央控制器向节点2和节点3下发备份指令。\n[0089] 步骤209:中央控制器更新对应关系表中P1和P2对应的分区版本号。\n[0090] 因为P1和P2对应的分区在进行备份时会产生分区分布变化,因此中央控制器要更新对应关系表中P1和P2对应的分区版本号,现在P1和P2对应的分区版本号为2。表示为(P1,N1、N2,2),(P2,N1,N3,2),(P3,N2,N3,0)\n[0091] 步骤210:中央控制器在对应关系表中查找P1和P2对应的节点。\n[0092] 步骤211:中央控制器向P1和P2对应的节点分别发送更新后的分区版本号。\n[0093] 步骤212a和步骤212b:步骤212a更新节点2存储的映射表中P1对应的分区版本号。步骤212b更新节点3存储的映射表中P2对应的分区版本号。节点2更新后的映射表为(P1,2),(P3,0)。节点3更新后的映射表为(P2,2),(P3,0)。\n[0094] 步骤213:节点2备份P2对应的分区,节点3备份P1对应的分区。\n[0095] 步骤214:节点2和节点3向中央控制器上报备份成功。\n[0096] 节点2和节点3向中央控制器上报备份成功,同时在节点2和节点3存储的映射表中记录备份后的新增的分区标识及分区标识的版本号。\n[0097] 步骤215:中央控制器更新对应关系表。\n[0098] 因为备份之后分区分布发生变化,中央控制器需要更新分区分布变化后的对应关系中存储节点的节点标识、存储节点上存储的分区的分区标识和存储节点上存储的分区的分区标识的分区版本号之间的对应关系。更新后的对应关系表中P1对应节点2和节点3的节点标识,P1的分区版本号为3。更新后的对应关系表中P2对应节点2和节点3的节点标识,P2的分区版本号为3。(P1,N1、N2,N3,2),(P2,N1,N2,N3,2),(P3,N2,N3,0)。中央控制器中对应关系表中可以保留永久故障节点的标识及永久故障节点存储的分区标识的分区版本号。\n[0099] 步骤216:中央控制器向节点2发送P2更新后的分区版本号,向节点3发送P1更新后的分区版本号。\n[0100] 步骤217:更新节点上映射表发生分布变化的分区标识的版本号。\n[0101] 节点2更新映射表中P2对应的分区版本号,即P2对应的分区版本号变为3。节点\n3更新新映射表中P1对应的分区版本号,即P1对应的分区版本号变为3。节点2更新后的映射表为(P1,3),(P2,3),(P3,0)。节点3更新后的映射表为(P1,3),(P2,3),(P3,0)。\n[0102] 当在步骤202中计时器开始计时后,在设定的计时阈值内节点1恢复故障的情况下,中央控制器要更新关系表中P1和P2对应的分区版本号。查找P1和P2对应的节点的节点标识,因为故障节点1恢复,因此现在在节点1存储有P1和P2对应的分区、节点2上存储P1对应的分区,节点3上存储有P2对应的分区。中央控制器将P1和P2更新后的分区版本号发送到分区标识对应的节点。节点1更新映射表中P1和P2对应的分区版本号,节点2更新映射表中P1对应的分区版本号,节点3更新映射表中P2对应的分区版本号。\n则中央控制器更新后的对应关系表表示为(P1,N1、N2,2),(P2,N1,N3,2),(P3,N2,N3,0)。\n节点1的映射表为(P1,2),(P2,2),节点2的映射表为(P1,2),(P3,0),节点3的映射表为(P2,2),(P3,0)\n[0103] 本发明实施例针对存储节点发生故障,以及存储节点在中央控制器的计时器的阈值内故障节点恢复正常以及超过计时器的阈值故障节点仍然没有恢复而发生永久性故障的情景下,分区分布变化导致分区标识对应的分区版本号更新。节点故障可以是节点物理性故障、节点网络中断、节点断电等原因引起的。\n[0104] 当中央控制器更新对应关系表信息后,还向客户端发送对应关系表的更新信息。\n[0105] 本发明实施例提供的分布式存储系统中分区管理方法,通过中央控制器维护的对应关系表,根据存储节点故障导致分区发生变化的情况,更新对应关系表中发生分区分布变化的分区的分区标识的分区版本号,以及分区标识对应的存储节点的节点标识,中央控制器只向该分区标识对应的存储节点发送发生分布变化的分区更新后的分区版本号,更新节点上存储的映射表中该分区标识对应的版本号,从而只更新发生分区分布变化的分区标识的分区版本号,减少了更新存储节点上映射表中所述分区标识对应的分区版本号的流量。\n[0106] 本发明第四实施例提供了一种分布式存储系统分区管理的方法,在分布式存储系统中,包括中央控制器和至少两个存储节点;其中,所述至少两个存储节点存储有至少一个相同分区;所述中央控制器存储有对应关系表,所述对应关系表包含所述存储节点的节点标识、所述存储节点存储的所述分区的分区标识和所述分区标识的分区版本号;所述存储节点存储有所述分区的分区标识和所述分区标识的分区版本号的映射表。在分布式系统中的三个存储节点:节点1、节点2和节点3。节点1上存储分区1和分区2对应的分区标识分别为P1和P2,节点1上存储的映射表如表2a所示。节点2上存储分区1和分区3对应的分区标识分别为P1和P3,节点2上存储的映射表如表2b所示。节点3上存储分区2和分区3对应的分区标识分别为P2和P3,节点3上存储的映射表如表2c所示。各个存储节点上存储的分区的分区标识对应的分区版本号初始值均为0。中央控制器存储的对应关系表如表1所示。在图3的流程图中,为了表示的方便,将节点1、节点2和节点3的节点标识分别表示为N1、N2和N3,分区1、分区2和分区3的分区标识表示为P1、P2和P3。所以中央控制器的对应关系表初始状态简化为(P1,N1、N2,0),(P2,N1,N3,0),(P3,N2,N3,0),其中0表示P1、P2和P3对应的初始分区版本号。节点1的映射表可以表示为(P1,0),(P2,\n0),节点2的映射表表示为(P1,0),(P3,0),节点3的映射表表示为(P2,0),(P3,0)。即节点上映射表中分区标识对应的分区版本号初始值也为0。当分布式存储系统中新增加节点时,分布式存储系统分区管理的方法具体执行步骤如图3所示,包括:\n[0107] 步骤301:中央控制器选择节点上需要迁移的分区。\n[0108] 当分布式存储系统中新增节点时,为了减轻其他存储节点上的负载,中央控制器会选择系统中现存的节点中迁移出一部分分区至新增节点。本发明实施例中以将节点1中的P1对应的分区移到新增节点4为例。其中,新增节点4的节点标识为N4。\n[0109] 步骤302:中央控制器更新对应关系表中P1对应的分区版本号。\n[0110] 因为P1对应的分区要从节点1迁移到新增节点4,因此会发生P1对应的分区分布变化。因此中央控制器更新对应关系表中P1对应的分区版本号。更新后的对应关系表表示为(P1,N1、N2,1),(P2,N1,N3,0),(P3,N2,N3,0)。\n[0111] 步骤303:中央控制器向P1对应的分区发送P1更新后的分区版本号。\n[0112] 在本发明实施例中,存储P1的节点包括节点1和节点2。即中央控制器向P1对应的节点1和节点2发送P1更新后的分区版本号。\n[0113] 步骤304:节点1和节点2更新映射表中对应的分区标识的分区版本号。\n[0114] 节点1更新映射表中P1对应的分区版本号,节点1更新后的映射表表示为(P1,\n1),(P2,0)。节点2更新映射表中P1对应的分区版本号,节点2更新后的映射表表示为(P1,\n1),(P3,0)。\n[0115] 步骤305:中央控制器向新增节点发送迁移节点1中P1对应分区的指令。\n[0116] 步骤306:迁移节点1上P1对应的分区。\n[0117] 步骤307:新增节点4向中央控制器上报迁移成功消息。\n[0118] 新增节点4将节点1中P1对应的分区迁移到新增节点4以后,向中央控制器上报迁移成功消息。\n[0119] 步骤308:中央控制器更新对应关系表。\n[0120] 中央控制器收到新增节点4发送的迁移成功的消息后,由于P1对应的分区分布发生变化。因此同时P1对应的分区的所在节点也发生变化。中央控制器更新对应关系表中存储节点的节点标识、存储节点存储的分区的分区标识和分区标识的分区版本号。更新后的对应关系表表示为:(P1,N2,N4,2),(P2,N1,N3,0),(P3,N2,N3,0)。\n[0121] 步骤309:中央控制器向P1对应的存储节点发送更新后的分区版本号。\n[0122] 迁移完成后,节点2和节点4存储P1对应的分区。因此中央控制器向节点2和节点4发送P1对应的更新后的分区版本号。\n[0123] 步骤310:更新映射表中P1对应的分区版本号。\n[0124] 节点2更新后的映射表表示为(P1,2),(P3,0)。节点4更新后的映射表表示为(P1,2)。迁移后节点1的映射表表示为(P2,0)。\n[0125] 当中央控制器更新对应关系表信息后,还要向客户端发送对应关系表的更新信息。\n[0126] 本发明实施例提供的分布式存储系统中分区管理方法,当存储节点上分区进行迁移时,中央控制器更新对应关系表上发生迁移分区的分区标识的分区版本号,同时更新迁移分区的节点标识、节点存储的发生迁移的分区的分区标识和发生迁移的分区标识的分区版本号的对应关系,中央控制器只向该分区标识对应的存储节点发送发生分布变化的分区更新后的分区版本号,更新存储节点上存储的映射表中该分区标识对应的版本号,从而只更新发生分区分布变化的分区标识的分区版本号,减少了更新存储节点上映射表中所述分区标识对应的分区版本号的流量。\n[0127] 本发明第五实施例提供了一种分布式存储系统中管理分区的中央控制器,在分布式存储系统,包括中央控制器和至少两个存储节点,其中,至少两个存储节点存储有至少一个相同分区,中央控制器存储有对应关系表,对应关系表包含分布式存储系统中存储节点的节点标识,存储节点存储的分区的分区标识和分区标识的分区版本号,该分布式存储系统中的中央控制器,如图4所示,包括:\n[0128] 更新单元401,用于根据该分区分布变化,更新该对应关系表中该分区标识的分区版本号。查找单元402,用于在该对应关系表中查找该分区标识对应的存储节点。发送单元\n403,用于向该分区标识对应的存储节点发送更新后的分区版本号。\n[0129] 在本发明实施例中的中央控制器还可以包括接收单元,当分布式存储系统中新增节点时,向新增节点迁移分区引起分区分布变化时,发送单元403还用于向新增节点发送迁移分区的指令,发送单元403向新增节点发送迁移分区的指令后,接收单元还用于接收新增节点发送的迁移分区成功的消息。更新单元401,还用于根据分区迁移产生的分布变化,更新该对应关系表中存储节点的节点标识,存储节点存储的分区的分区标识和分区标识的分区版本号的对应关系,查找单元402,用于在该对应关系表中查找该分区标识对应的存储节点。发送单元403,向该分区标识对应的存储节点发送更新后的分区版本号。\n[0130] 本发明实施例中的中央控制器还可以包括接收单元,当节点发生故障引起该分区分布变化时,接收用于接收与该故障节点存储有至少一个相同分区的存储节点上报的该故障节点的故障信息。中央控制器还包含一个计时器,当接收单元接收与该故障节点存储有至少一个相同分区的存储节点上报的该故障节点的故障信息时,计时器开始计时,以判断该故障节点是否在设定的阈值时间内恢复。如果在设定的阈值时间内,该故障节没有恢复,本发明实施例中的中央控制器还包括一个选择单元,为该故障节点选择备份节点,这时中央控制器的发送单元401还用于向备份节点发送备份故障节点的指令。当备份节点备份故障节点成功后,接收单元还用于接收备份节点发送的备份故障节点成功的消息。更新单元401,还用于根据故障节点备份产生的分布变化,更新该对应关系表中存储节点的节点标识,存储节点存储的分区的分区标识和分区标识的分区版本号的对应关系,查找单元402,用于在该对应关系表中查找该分区标识对应的存储节点。发送单元403,向该分区标识对应的存储节点发送更新后的分区版本号。本发明实施例提供的中央控制器的发送单元401还用于向客户端发送对应关系表的更新信息。\n[0131] 本发明实施例提供的中央控制器,通过更新存储的对应关系表中发生分布变化的分区标识的分区版本号,同时查找单元对应关系表中查找该分区标识对应的存储节点,从而只向该分区标识对应的存储节点发送发生分布变化的分区更新后的分区版本号,更新存储节点上存储的映射表中该分区标识对应的版本号,从而只更新发生分区分布变化的分区标识的分区版本号,减少了更新节点上映射表中所述分区标识对应的分区版本号的流量。\n[0132] 本发明第六实施例提供了一种分布式存储系统中分区管理系统,本发明实施例中的分布式存储系统包括中央控制器501、存储节点502、503和504。其中,两个存储节点502和503存储有至少一个相同分区。中央控制器501存储有对应关系表,对应关系表包含存储节点502、503和504的节点标识、存储节点502、503和504存储的分区的分区标识和分区标识的分区版本号。存储节点502、503和504存储有分区的分区标识和该分区标识的分区版本号的映射表。例如,存储节点502和503存储有相同分区1,分区1的分区标识为A,A对应的分区版本号为0。如图5所示,中央控制器501根据节点502和503上存储的分区\n1分布变化,如存储节点502故障,导致分区1分布发生变化,更新该对应关系表中该分区1的分区标识A对应的分区版本号,对应关系表中A的分区版本号递增为1。在该对应关系表中查找该分区标识A对应的存储节点,向该分区标识A对应的节点发送更新后的分区版本号。该分区标识A对应的节点503接收该中央控制器501发送的该分区更新后的分区版本号1,并且更新本地存储的映射表中记录的该分区标识A的分区版本号,更新后分区版本号为1。本发明实施例为了更清楚、具体地描述分布式存储系统中分区管理系统,因此以存储节点502发生故障为例,本发明实施例中引起分区分布发生变化的情况还包括节点故障恢复、分区备份、分区迁移。\n[0133] 本发明实施例中,中央控制器501还包括计时器,当该分区1分布变化是由节点\n502发生故障引起时,中央控制器501在更新该对应关系表中该分区标识A的分区版本号之前,还用于接收与该故障节点存储有至少一个相同分区的节点上报的该故障节点的故障信息,并且计时器开始计时,本实施例中以存储节点503上报存储节点502故障信息为例。中央控制器501,还用于在该故障节点502未在设定的阈值时间内恢复时,选择备份节点504,更新对应关系表中分区标识A对应的分区版本号,此时分区标识A对应的更新后的分区版本号为2。中央控制器501查找到分区标识A对应的节点503,向503发送分区标识A更新后的分区版本号2。存储节点503接收中央控制器501发送的分区标识A对应的更新后的分区版本号,更新本地存储映射表中分区标识A对应的分区版本号。中央控制器501向该备份节点504下发备份指令,将该故障节点502备份到该备份节点504。备份成功后,中央控制器501还用于更新存储节点的节点标识、该节点存储的分区的分区标识和分区标识的分区版本号的对应关系表,并向该分区标识对应的节点503和504发送更新后的分区版本号。分区标识A对应的节点503和504,还用于接收中央控制器501发送的更新新后的分区版本号,更新本地存储的映射表中记录的该分区标识A的分区版本号,节点503和504本地存储的映射表中分区标识A的分区版本号更新为2。\n[0134] 本发明实施例中,当从存储节点502向新增节点504迁移该分区1引起分区分布变化时,在向该分区标识A对应的节点502和503发送更新后的分区版本号之后,中央控制器501,还用于向新增节点504发送迁移该分区1的指令,接收新增节点504发送的该分区\n1迁移成功消息,更新存储的节点的节点标识、节点存储的该分区的分区标识和该分区标识的分区版本号的对应关系表,并向该分区标识A对应的节点503和504发送更新后的分区版本号;\n[0135] 该分区标识A对应的节点503和504,还用于接收中央控制器501发送的更新后的分区版本号,更新本地存储的所述映射表中记录的该分区标识A的分区版本号。\n[0136] 本发明实施例提供的分布式存储系统中分区管理系统,通过更新存储的对应关系表中发生分布变化的分区标识的分区版本号,同时查找单元对应关系表中查找该分区标识对应的存储节点,中央控制器只向该分区标识对应的存储节点发送发生分布变化的分区更新后的分区版本号,存储节点接收中央控制器发送的更新后的分区版本号,更新本地存储的映射表中该分区标识对应的版本号,从而只更新发生分区分布变化的分区标识的分区版本号,减少了更新存储节点上映射表中所述分区标识对应的分区版本号的流量。\n[0137] 本发明第五实施例提供的设备和第六实施例提供的系统可以参考本发明第一至第四方法实施例的描述。\n[0138] 本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。\n[0139] 所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。\n[0140] 在本申请所提供的几个实施例中,应该理解到,所披露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。\n[0141] 另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。\n[0142] 所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-0nly Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。\n[0143] 以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
法律信息
- 2016-03-09
- 2013-10-16
实质审查的生效
IPC(主分类): G06F 17/30
专利申请号: 201180003048.2
申请日: 2011.12.22
- 2013-09-11
引用专利(该专利引用了哪些专利)
序号 | 公开(公告)号 | 公开(公告)日 | 申请日 | 专利名称 | 申请人 |
1
| |
2011-04-20
|
2010-12-20
| | |
2
| | 暂无 |
1998-01-23
| | |
3
| |
2011-07-20
|
2010-09-20
| | |
4
| | 暂无 |
2007-09-07
| | |
被引用专利(该专利被哪些专利引用)
序号 | 公开(公告)号 | 公开(公告)日 | 申请日 | 专利名称 | 申请人 | 该专利没有被任何外部专利所引用! |