著录项信息
专利名称 | 定位控制装置和方法 |
申请号 | CN201210355397.7 | 申请日期 | 2012-09-21 |
法律状态 | 暂无 | 申报国家 | 中国 |
公开/公告日 | 2013-01-16 | 公开/公告号 | CN102871784A |
优先权 | 暂无 | 优先权号 | 暂无 |
主分类号 | G06T7/00 | IPC分类号 | G;0;6;T;7;/;0;0查看分类表>
|
申请人 | 中国科学院深圳先进技术研究院 | 申请人地址 | 山东省济宁市济宁高新区产学研基地A3栋
变更
专利地址、主体等相关变化,请及时变更,防止失效 |
权利人 | 济宁中科先进技术研究院有限公司 | 当前权利人 | 济宁中科先进技术研究院有限公司 |
发明人 | 江国来;欧勇盛;戴大伟;唐成;彭安思;杜边境;方青松;徐扬生 |
代理机构 | 广州华进联合专利商标代理有限公司 | 代理人 | 吴平 |
摘要
一种定位控制装置包括:激光发射器,用于向外发射光路相同的可见激光和红外激光;第一摄像头和第二摄像头,用于拍摄红外图像;第三摄像头,用于拍摄彩色图像;图像识别模块,用于识别出红外图像中满足预设条件的红外激光光斑;平面定位模块,用于以红外图像中心为原点,得到红外激光光斑的坐标;空间定位模块,用于根据红外激光光斑的坐标,以及第一摄像头和第二摄像头的间距和焦距,计算得到红外激光光斑的空间坐标。本发明还提供一种采用的方法。上述装置和方法通过可见激光和不可见的红外激光配合运用,用户只需简单的利用头部晃动,将可见激光照射到需要操作的物体上,便实现了定位功能,对四肢不便的用户来说,机械假肢的控制变得更加简单。
1.一种定位控制装置,其特征在于,包括激光发射器、第一摄像头、第二摄像头、第三摄像头、图像获取模块、图像识别模块、平面定位模块、空间定位模块,
所述激光发射器用于向外发射光路相同的可见激光和红外激光;
所述第一摄像头和所述第二摄像头用于拍摄红外图像;
所述第三摄像头用于拍摄彩色图像,且所述第一摄像头、所述第二摄像头、所述第三摄像头的光轴平行;
所述图像获取模块用于获取所述第一摄像头和所述第二摄像头拍摄的所述红外图像;
所述图像识别模块用于识别出所述第一摄像头和所述第二摄像头拍摄的所述红外图像中满足预设条件的红外激光光斑;
所述平面定位模块用于以所述红外图像中心为原点,得到所述第一摄像头和所述第二摄像头拍摄的两幅所述红外图像中红外激光光斑的坐标;
所述空间定位模块用于根据两幅所述红外图像中所述红外激光光斑的坐标,以及所述第一摄像头和所述第二摄像头的间距,所述第一摄像头和所述第二摄像头焦距,计算得到所述红外激光光斑的空间坐标。
2.根据权利要求1所述的定位控制装置,其特征在于,所述第一摄像头、所述第二摄像头、所述第三摄像头的光轴平行且焦距相同,并位于一条直线上,且所述第三摄像头位于所述第一摄像头和所述第二摄像头的中间。
3.根据权利要求1所述的定位控制装置,其特征在于,所述红外激光光斑空间坐标是以所述第一摄像头和所述第二摄像头中心连线的中点作为空间坐标原点O,所述第一摄像头和所述第二摄像头中心连线为X轴,垂直向上为Y轴,向前为Z轴。
4.根据权利要求1所述的定位控制装置,其特征在于,所述图像识别模块用于提取出包含红外激光点的二值图像Ibin(x,y),并找到二值图像Ibin(x,y)中的所有连通域,且通过下列公式识别二值图像中红外激光光斑对应的连通域:
公式中,S.area为连通域的面积,用像素点个数表示;S.width和S.height分别为连通域宽度和高度的像素;THarea1、THarea2为连通域面积大小阈值;THwh为连通域长宽比阈值;
THround为判断连通域是否圆形的阈值。
5.根据权利要求1所述的定位控制装置,其特征在于,假设所述第一摄像头和第二摄像头分别拍到的红外图像中的红外激光光斑坐标为:(xL,yL)和(xR,yR),设两个摄像头间距为d毫米,焦距为f,所述空间定位模块是通过以下公式得到红外激光光斑的空间坐标位置(X,Y,Z):
6.根据权利要求1所述的定位控制装置,其特征在于,还包括图像提取模块、图像定位模块、物体识别模块和大小计算模块,
所述图像提取模块用于获取所述第三摄像头拍摄的彩色图像;
所述图像定位模块用于根据所述第一摄像头、所述第二摄像头、所述第三摄像头的位置关系,以及所述红外激光光斑的空间坐标,得到所述红外激光光斑在所述彩色图像中的位置坐标;
所述物体识别模块用于在所述彩色图像中,以所述红外激光光斑在彩色图像中的位置坐标为中心,提取预设范围内的局部图像,统计颜色直方图得到颜色分量最大的RGB颜色值,并用漫水法在所述彩色图像中扩张填充,得到扩充区域;
所述大小计算模块用于获取所述扩充区域的像素长宽参数,并根据该像素长宽参数,所述红外激光光斑的空间坐标、所述第三摄像头的焦距计算得到物体的实际长宽。
7.一种定位控制方法,其特征在于,包括如下步骤:
通过激光发射器发射光路相同的可见激光和红外激光;
通过两个红外摄像头拍摄红外激光光斑所在区域的红外图像;
通过一个彩色摄像头拍摄可见激光光斑所在区域的彩色图像;
获取所述两个红外摄像头拍摄的两幅所述红外图像;
识别出所述红外图像中的红外激光光斑;
以所述红外图像中心为原点,得到两幅所述红外图像中所述红外激光光斑的坐标;
根据所述两幅红外图像中所述红外激光光斑的坐标,所述两个红外摄像头的间距,以及所述两个红外摄像头的焦距,计算得到所述红外激光光斑的空间坐标。
8.根据权利要求7所述的定位控制方法,其特征在于,还包括如下步骤:
获取所述彩色摄像头拍摄的彩色图像;
根据所述二个红外摄像头和所述彩色摄像头的位置关系,以及所述红外光斑的空间坐标,得到所述红外激光光斑在所述彩色图像中的位置坐标;
在所述彩色图像中,以所述红外激光光斑在彩色图像中的位置坐标为中心,提取预设范围内的局部图像,统计颜色直方图得到颜色分量最大的RGB颜色值,并用漫水法在彩色图像中扩张填充,得到扩充区域;
获取所述扩充区域的像素长宽参数,并根据该像素长宽参数,所述红外激光光斑的空间坐标、所述彩色摄像头的焦距计算得到物体的实际长宽。
9.根据权利要求7所述的定位控制方法,其特征在于,所述两个红外摄像头和彩色摄像头在同一直线上且等间隔布置,彩色摄像头位于两个红外摄像头中间,三个摄像头的光轴平行,焦距相同。
10.根据权利要求7所述的定位控制方法,其特征在于,所述识别出所述红外图像中的红外激光光斑的步骤是:
先通过亮度阈值去除背景,提取出包含所述红外激光点的二值图像Ibin(x,y);
再找到二值图像Ibin(x,y)中的所有连通域,并通过下列公式识别二值图像中所述红外激光光斑对应的连通域:
公式中,S.area为连通域的面积,用像素点个数表示;S.width和S.height分别为连通域宽度和高度的像素;THarea1、THarea2为连通域面积大小阈值;THwh为连通域长宽比阈值;
THround为判断连通域是否圆形的阈值。
定位控制装置和方法\n技术领域\n[0001] 本发明涉及一种人机交互与控制技术,特别是涉及一种用于控制机械臂的定位控制装置和方法。\n背景技术\n[0002] 根据世界卫生组织的统计数据,运动功能障碍群体已成为世界上最大的少数群体,大约有10%的世界人口即6.5亿生活在各类身体残疾中。“帮助残疾人康复”已成为我国政府要解决的重大民生问题之一。假肢的研究与开发,对帮助运动功能缺失的残疾人康复或进行正常生活的具有重要意义。电动机械假肢可以看成是一种与人体紧密接触的机器人。与传统假肢不同,电动机械假肢具备自行运动的能力,更有助于帮助患者进行正常的生活。\n[0003] 如今,电动机械假肢(机械臂)机构制作技术较为成熟。但是,这些电动机械假肢机构都依赖于人对假肢的操作控制,而对于有些迫切需要这类机械假肢的残疾人,他们双臂都失去了行动能力,无法完成基于操纵杆的复杂控制操作。\n[0004] 有一种较为热门的技术是:目标肌肉神经分布重建(Targeted Muscle Re-innervations,TMR)技术,即采用接驳神经信号的方法,对残疾人剩余肢体的肌电信号进行提取和识别,恢复肢体控制信号,进行假肢控制。\n[0005] 但是,由于人体神经信号差异较大而且不稳定,难以实现精确的控制动作,且使用前需要长期的适应性训练。而其他大部分的电动机械假肢的控制方法依赖于残疾人仍然能运动的肢体,对于行动能力缺失较为严重的残疾人不太适用,而这些人恰恰是对电动机械假肢需求最大的人群。\n发明内容\n[0006] 基于此,有必要提供一种操作更方便的用于控制机械臂的定位控制装置和方法。\n[0007] 一种定位控制装置,包括激光发射器、第一摄像头、第二摄像头、第三摄像头、图像获取模块、图像识别模块、平面定位模块、空间定位模块,\n[0008] 所述激光发射器用于向外发射光路相同的可见激光和红外激光;\n[0009] 所述第一摄像头和所述第二摄像头用于拍摄红外图像;\n[0010] 所述第三摄像头用于拍摄彩色图像,且所述第一摄像头、所述第二摄像头、所述第三摄像头的光轴平行;\n[0011] 所述图像获取模块用于获取所述第一摄像头和所述第二摄像头拍摄的所述红外图像;\n[0012] 所述图像识别模块用于识别出所述第一摄像头和所述第二摄像头拍摄的所述红外图像中满足预设条件的红外激光光斑;\n[0013] 所述平面定位模块用于以所述红外图像中心为原点,得到所述第一摄像头和所述第二摄像头拍摄的两幅所述红外图像中红外激光光斑的坐标;\n[0014] 所述空间定位模块用于根据两幅所述红外图像中所述红外激光光斑的坐标,以及所述第一摄像头和所述第二摄像头的间距,所述第一摄像头和所述第二摄像头焦距,计算得到所述红外激光光斑的空间坐标。\n[0015] 其中一个实施例中,所述第一摄像头、所述第二摄像头、所述第三摄像头的光轴平行且焦距相同,并位于一条直线上,且所述第三摄像头位于所述第一摄像头和所述第二摄像头的中间。\n[0016] 其中一个实施例中,所述红外激光光斑空间坐标是以所述第一摄像头和所述第二摄像头中心连线的中点作为空间坐标原点O,所述第一摄像头和所述第二摄像头中心连线为X轴,垂直向上为Y轴,向前为Z轴。\n[0017] 其中一个实施例中,所述图像识别模块用于提取出包含红外激光点的二值图像Ibin(x,y),并找到二值图像Ibin(x,y)中的所有连通域,且通过下列公式识别二值图像中红外激光光斑对应的连通域:\n[0018] \n[0019] 公式中,S.area为连通域的面积,用像素点个数表示;S.width和S.height分别为连通域宽度和高度的像素;THarea1、THarea2为连通域面积大小阈值;THwh为连通域长宽比阈值;THround为判断连通域是否圆形的阈值。\n[0020] 其中一个实施例中,假设所述第一摄像头和第二摄像头分别拍到的红外图像中的红外激光光斑坐标为:(xL,yL)和(xR,yR),设两个摄像头间距为d毫米,焦距为f,所述空间定位模块是通过以下公式得到红外激光光斑的空间坐标位置(X,Y,Z):\n[0021] \n[0022] 其中一个实施例中,还包括图像提取模块、图像定位模块、物体识别模块和大小计算模块,\n[0023] 所述图像提取模块用于获取所述第三摄像头拍摄的彩色图像。\n[0024] 所述图像定位模块用于根据所述第一摄像头、所述第二摄像头、所述第三摄像头的位置关系,以及所述红外激光光斑的空间坐标,得到所述红外激光光斑在所述彩色图像中的位置坐标;\n[0025] 所述物体识别模块用于在所述彩色图像中,以所述红外激光光斑在彩色图像中的位置坐标为中心,提取预设范围内的局部图像,统计颜色直方图得到颜色分量最大的RGB颜色值,并用漫水法在所述彩色图像中扩张填充,得到扩充区域;\n[0026] 所述大小计算模块用于获取所述扩充区域的像素长宽参数,并根据该像素长宽参数,所述红外激光光斑的空间坐标、所述第三摄像头的焦距计算得到物体的实际长宽。\n[0027] 一种定位控制方法,包括如下步骤:\n[0028] 通过激光发射器发射光路相同的可见激光和红外激光;\n[0029] 通过两个红外摄像头拍摄红外激光光斑所在区域的红外图像;\n[0030] 通过一个彩色摄像头拍摄可见激光光斑所在区域的彩色图像;\n[0031] 获取所述两个红外摄像头拍摄的两幅所述红外图像;\n[0032] 识别出所述红外图像中的红外激光光斑;\n[0033] 以所述红外图像中心为原点,得到两幅所述红外图像中所述红外激光光斑的坐标。\n[0034] 根据所述两幅红外图像中所述红外激光光斑的坐标,所述两个红外摄像头的间距,以及所述两个红外摄像头的焦距,计算得到所述红外激光光斑的空间坐标。\n[0035] 其中一个实施例中,还包括如下步骤:\n[0036] 获取所述彩色摄像头拍摄的彩色图像;\n[0037] 根据所述二个红外摄像头和所述彩色摄像头的位置关系,以及所述红外光斑的空间坐标,得到所述红外激光光斑在所述彩色图像中的位置坐标;\n[0038] 在所述彩色图像中,以所述红外激光光斑在彩色图像中的位置坐标为中心,提取预设范围内的局部图像,统计颜色直方图得到颜色分量最大的RGB颜色值,并用漫水法在彩色图像中扩张填充,得到扩充区域;\n[0039] 获取所述扩充区域的像素长宽参数,并根据该像素长宽参数,所述红外激光光斑的空间坐标、所述彩色摄像头的焦距计算得到物体的实际长宽。\n[0040] 其中一个实施例中,所述两个红外摄像头和彩色摄像头在同一直线上且等间隔布置,彩色摄像头位于两个红外摄像头中间,三个摄像头的光轴平行,焦距相同。\n[0041] 其中一个实施例中,所述识别出所述红外图像中的红外激光光斑的步骤是:\n[0042] 先通过亮度阈值去除背景,提取出包含所述红外激光点的二值图像Ibin(x,y);\n[0043] 再找到二值图像Ibin(x,y)中的所有连通域,并通过下列公式识别二值图像中所述红外激光光斑对应的连通域:\n[0044] \n[0045] 公式中,S.area为连通域的面积,用像素点个数表示;S.width和S.height分别为连通域宽度和高度的像素;THarea1、THarea2为连通域面积大小阈值;THwh为连通域长宽比阈值;THround为判断连通域是否圆形的阈值。\n[0046] 上述定位控制装置和方法通过可见激光和不可见的红外激光配合运用,使得操作和计算都变得更加简单。用户可以通过可见激光准确指定所需操作的位置,但是在环境复杂变化的场景下,去识别可见激光点,计算非常复杂,而且容易出错,为此通过红外激光和红外摄像头的组合,大大减少了激光光斑识别和计算量。\n[0047] 且上述三个摄像头在一条直线上等间隔排列的方式也有效地降低了后续的计算复杂度。\n[0048] 用户在使用上述定位控制方法时只需简单的利用头部晃动,将可见激光照射到需要操作的物体上,便实现了定位功能,特别是对四肢不便的用户来说,机械假肢的操作控制变得更加简单。\n附图说明\n[0049] 图1为一实施例的定位控制装置的功能模块图;\n[0050] 图2为机械假肢的控制方式示意图;\n[0051] 图3为一实施例的定位控制方法的步骤流程图。\n具体实施方式\n[0052] 如图1所示,其为一实施例的定位控制装置10的功能结构示意图,包括:激光发射器110、开关120、眼镜130、第一摄像头210、第二摄像头220、第三摄像头230、图像获取模块310、图像识别模块311、平面定位模块312、空间定位模块313、图像提取模块410、图像定位模块411、物体识别模块412和大小计算模块323。\n[0053] 所述激光发射器110用于向外发射光路相同的可见激光和红外激光。\n[0054] 所述光路相同是指可见激光点和红外激光点聚集的位置要求尽可能重合,光斑大小尽可能一致。所述可见激光可以是红色,绿色等颜色,便于用户肉眼发现。所述红外激光虽然肉眼看不见,但有利于后续图像处理。\n[0055] 开关120用于通过有线或者无线的方式控制激光发射器110的发光和熄灭。本实施例中,开关120为小型防水轻触式开关,可以放置于口中,可用舌头或牙齿来控制激光发射器110发光。\n[0056] 所述激光发射器110装配在眼镜130上,以便用户带上眼镜130后,可以让激光发射方向和视线方向同步移动。其他实施例中,也可以用帽子,头箍等其他佩戴方式将激光发射器110固定在用户头上。\n[0057] 第一摄像头210和第二摄像头220用于拍摄红外图像。\n[0058] 如第一摄像头210和第二摄像头220都安装红外滤波片,构成双目红外捕捉系统,用于捕捉激光发射器110发出的红外激光反光点。\n[0059] 第三摄像头230用于拍摄彩色图像,且第一摄像头210、第二摄像头220、第三摄像头230的光轴平行。\n[0060] 本实施例中,第一摄像头210、第二摄像头220、第三摄像头230位于一条直线上,且第三摄像头230位于第一摄像头210和第二摄像头220的中间。第一摄像头210、第二摄像头220、第三摄像头230的焦距相同。\n[0061] 图像获取模块310用于获取第一摄像头210和第二摄像头220拍摄的红外图像。\n[0062] 图像识别模块311,用于识别出第一摄像头210和第二摄像头220拍摄的红外图像中满足预设条件的红外激光光斑。\n[0063] 如:由于红外滤波片已经滤除了非红外发光的部分,可以先通过亮度阈值去除背景,提取出包含所述红外激光点的二值图像Ibin(x,y);\n[0064] 再找到二值图像Ibin(x,y)中的所有连通域,并通过下列公式识别二值图像中所述红外激光光斑对应的连通域:\n[0065] \n[0066] 公式中,S.area为连通域的面积,用像素点个数表示;S.width和S.height分别为连通域宽度和高度的像素;THarea1、THarea2为连通域面积大小阈值由激光光斑大小决定,此处可以分别取5和20;;THwh为连通域长宽比阈值;THround为判断连通域是否圆形的阈值,此处可取0.1。\n[0067] 满足上公式的连通域,判断为圆形红外激光光斑对应连通域,其中心对应的图像坐标(x,y)即为红外图像中红外激光光斑的位置。\n[0068] 平面定位模块312用于以红外图像中心为原点,得到两幅红外图像中红外激光光斑的坐标。\n[0069] 如:第一摄像头210和第二摄像头220分别拍到的红外图像中的红外激光光斑坐标分别为:(xL,yL)和(xR,yR),一般有yL=yR。\n[0070] 空间定位模块313用于根据两幅红外图像中红外激光光斑的坐标,以及第一摄像头210和第二摄像头220的间距,第一摄像头210和第二摄像头220焦距,计算得到红外激光光斑的空间坐标。\n[0071] 所述红外激光光斑空间坐标是以第一摄像头210和第二摄像头220中心连线的中点作为空间坐标原点O,第一摄像头210和第二摄像头220中心连线为X轴,垂直向上为Y轴,向前为Z轴。\n[0072] 如:第一摄像头210和第二摄像头220分别拍到的红外图像中的红外激光光斑坐标为:(xL,yL)和(xR,yR),设两个摄像头间距为d毫米,焦距为f,(f依照镜头成像关系转化为像素单位),红外激光光斑的空间坐标位置(X,Y,Z)可由下式求得:\n[0073] \n[0074] 图像提取模块410用于获取第三摄像头230拍摄的彩色图像。\n[0075] 图像定位模块411用于根据第一摄像头210、第二摄像头220、第三摄像头230的位置关系,以及红外激光光斑的空间坐标,得到红外激光光斑在彩色图像中的位置坐标。\n[0076] 本实施例中,由于第一摄像头210、第二摄像头220、第三摄像头230位于一条直线上,且第三摄像头230位于第一摄像头210和第二摄像头220的中间,那么红外激光光斑在彩色图像中的位置坐标(x,y)等于:\n[0077] \n[0078] 物体识别模块412用于在彩色图像中,以红外激光光斑在彩色图像中的位置坐标为中心,提取预设范围内的局部图像,统计颜色直方图得到颜色分量最大的RGB颜色值,并用漫水法在彩色图像中扩张填充,得到扩充区域。\n[0079] 如:在彩色图像中,以(x,y)为中心提取20*20像素区域,统计颜色直方图,提取最大的颜色分量对应的RGB颜色值,作为选定操作物体的参考颜色值。假设物体颜色基本一致且与背景颜色不同,可采用漫水算法进行适当扩张填充,提取出物体的整体。\n[0080] 大小计算模块323用于获取扩充区域的像素长宽参数,并根据该像素长宽参数,红外激光光斑的空间坐标、第三摄像头230的焦距计算得到物体的实际长宽。\n[0081] 如:假设物体在彩色图像中所占象素区域宽高为(w,h),则物体的实际宽高为(W,H):\n[0082] \n[0083] 其中Z为红外激光光斑的空间坐标的Z坐标值,f为第三摄像头230的焦距。\n[0084] 将上述红外激光光斑的空间坐标提供给机械假肢,机械假肢便可找到红外激光光斑照射的位置,将上述物体的实际宽高提供给机械假肢,机械假肢便可知道带操作物体的带下,从而能准确的完成抓起等动作。\n[0085] 上述定位控制装置10通过可见激光和不可见的红外激光配合运用,使得操作和计算都变得更加简单。用户可以通过可见激光准确指定所需操作的位置,但是在环境复杂变化的场景下,去识别可见激光点,计算非常复杂,而且容易出错,为此通过红外激光和红外摄像头的组合,大大减少了激光光斑识别和计算量。且上述事实中三个摄像头在一条直线上等间隔排列的方式也有效地降低了后续的计算复杂度。用户在使用上述定位控制装置\n10时,只需简单的利用头部晃动,将可见激光照射到需要操作的物体上,便实现了定位功能,特别是对四肢不便的用户来说,机械假肢(机械臂)的操作控制变得更加简单。\n[0086] 关于机械手执行何种操作,可以通过很多种方式实现,如声控,按键控制等,本发明中,定位/启动、抓起、放下、推按、拉、停止这几个常见控制命令,控制命令通过人控制激光点闪烁或者控制激光点划出特定运动轨迹来实现,计算机通过图像处理,识别不同的激光点的闪烁方式或者运动轨迹,进而识别不同的控制命令。\n[0087] 如:在通过激光点闪烁或者运动轨迹的方式来发送控制命令时,用户输入不同控制命令的方式可以是下表所列方式:\n[0088] \n[0089] 如图2所示,其为一实施例的机械假肢控制示意图,所示机械假肢50的几何结构满足Pieper准则的6自由度机械臂制作。根据D-H参数和连杆坐标系,6自由度机械臂的运动学方程描述为:\n[0090] Tend=T1T2T3T4T5T6\n[0091] 其中:Ti=Rz(θi)Tz(di)Tx(ai)Rx(αi)(i=1,2,...,6),ai为连杆长度,αi为连杆扭角,di为连杆偏置,θi为关节变量,Tend为机械臂末端的位姿矩阵。其中,连杆参数di,ai和αi已知,Tend由物体的空间定位确定。可以采用如下的方法计算各个关节的目标控制角度θi:\n[0092] 令L(i,j)和R(i,j)分别表示4*4矩阵L和R的第i行,第j列个元素,求解其逆运动学问题的步骤为:由如下公式\n[0093] \n[0094] L(3,4)=R(3,4),L(1,4)=R(1,4),\n[0095] L(2,4)=R(2,4)\n[0096] 可分别求出θ1和θ3在区间[-180°,180°]两个解,同样由如下公式[0097] \n[0098] 可分别求出θ2在区间[-180°,180°]一个解和θ4在区间的两个解,由如下公式\n[0099] \n[0100] 可分别求出θ5在区间[-180°,180°]一个解,由公式\n[0101] \n[0102] 可求出θ6在区间[-180°,180°]一个解。\n[0103] 在求得机械假肢各关节目标姿态之后,选择适当的控制路径,由工控机系统控制自动完成动作。\n[0104] 如图3所示,其为一实施例的定位控制方法的步骤流程图,包括如下步骤:\n[0105] 步骤S301,通过激光发射器发射光路相同的可见激光和红外激光。\n[0106] 步骤S302,通过两个红外摄像头拍摄红外激光光斑所在区域的红外图像。\n[0107] 步骤S303,通过一个彩色摄像头拍摄可见激光光斑所在区域的彩色图像。\n[0108] 一实施例中,所述两个红外摄像头和彩色摄像头在同一直线上且等间隔布置。彩色摄像头位于两个红外摄像头中间,三个摄像头的光轴平行,焦距相同。\n[0109] 步骤S304,获取两幅红外图像。\n[0110] 步骤S305,识别出红外图像中的红外激光光斑。\n[0111] 如:由于红外滤波片已经滤除了非红外发光的部分,可以直通过亮度阈值去除背景,提取出包含所述红外激光点的二值图像Ibin(x,y);\n[0112] 再找到二值图像Ibin(x,y)中的所有连通域,并通过下列公式识别二值图像中所述红外激光光斑对应的连通域:\n[0113] \n[0114] 公式中,S.area为连通域的面积,用像素点个数表示;S.width和S.height分别为连通域宽度和高度的像素;THarea1、THarea2为连通域面积大小阈值由激光光斑大小决定,此处可以分别取5和20;;THwh为连通域长宽比阈值;THround为判断连通域是否圆形的阈值,此处可取0.1。\n[0115] 满足上公式的连通域,判断为圆形红外激光光斑对应连通域,其中心对应的图像坐标(x,y)即为红外图像中红外激光光斑的位置。\n[0116] 步骤S306,以红外图像中心为原点,得到两幅红外图像中红外激光光斑的坐标。\n[0117] 步骤S307,根据两幅红外图像中红外激光光斑的坐标,两个红外摄像头的间距,以及两个红外摄像头的焦距,计算得到红外激光光斑的空间坐标。\n[0118] 所述红外激光光斑空间坐标是以两个红外摄像头中心连线的中点作为空间坐标原点O,两个红外摄像头中心连线为X轴,垂直向上为Y轴,向前为Z轴。\n[0119] 如:两个红外摄像头分别拍到的红外图像中的红外激光光斑坐标为:(xL,yL)和(xR,yR)(均以图像中心点为坐标原点,以像素为单位),设两个摄像头间距为d毫米,焦距为f,(f依照镜头成像关系转化为像素单位),红外激光光斑的空间坐标位置(X,Y,Z)可由下式求得:\n[0120] \n[0121] 步骤S308,获取所述彩色摄像头拍摄的彩色图像。\n[0122] 步骤S309,根据二个红外摄像头和彩色摄像头的位置关系,以及红外光斑的空间坐标,得到红外激光光斑在彩色图像中的位置坐标。\n[0123] 本实施例中,由于两个红外摄像头和彩色摄像头位于一条直线上,且彩色摄像头位于两个红外摄像头的中间,那么红外激光光斑在彩色图像中的位置坐标(x,y)等于:\n[0124] \n[0125] 步骤S310,在彩色图像中,以红外激光光斑在彩色图像中的位置坐标为中心,提取预设范围内的局部图像,统计颜色直方图得到颜色分量最大的RGB颜色值,并用漫水法在彩色图像中扩张填充,得到扩充区域。\n[0126] 如:在彩色图像中,以(x,y)为中心提取20*20像素区域,统计颜色直方图,提取最大的颜色分量对应的RGB颜色值,作为选定操作物体的参考颜色值。假设物体颜色基本一致且与背景颜色不同,可采用漫水算法进行适当扩张填充,提取出物体的整体。\n[0127] 步骤S311,获取扩充区域的像素长宽参数,并根据该像素长宽参数,红外激光光斑的空间坐标、彩色摄像头的焦距计算得到物体的实际长宽。\n[0128] 如:假设物体在彩色图像中所占象素区域宽高为(w,h),则物体的实际宽高为(W,H):\n[0129] \n[0130] 其中Z为红外激光光斑的空间坐标的Z坐标值,f为彩色摄像头的焦距。\n[0131] 将上述红外激光光斑的空间坐标提供给机械假肢,机械假肢便可找到红外激光光斑照射的位置,将上述物体的实际宽高提供给机械假肢,机械假肢便可知道带操作物体的带下,从而能准确的完成抓起等动作。\n[0132] 上述定位控制方法通过可见激光和不可见的红外激光配合运用,使得操作和计算都变得更加简单。用户可以通过可见激光准确指定所需操作的位置,但是在环境复杂变化的场景下,去识别可见激光点,计算非常复杂,而且容易出错,为此通过红外激光和红外摄像头的组合,大大减少了激光光斑识别和计算量。且上述实施例中三个摄像头在一条直线上等间隔排列的方式也有效地降低了后续的计算复杂度。用户在使用上述定位控制方法时只需简单的利用头部晃动,将可见激光照射到需要操作的物体上,便实现了定位功能,特别是对四肢不便的用户来说,机械假肢的操作控制变得更加简单。\n[0133] 关于机械手执行何种操作,可以通过很多种方式实现,如声控,按键控制等,本发明中,定位/启动、抓起、放下、推按、拉、停止这几个常见控制命令,控制命令通过人控制激光点闪烁或者控制激光点划出特定运动轨迹来实现,计算机通过图像处理,识别不同的激光点的闪烁方式或者运动轨迹,进而识别不同的控制命令。\n[0134] 以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
法律信息
- 2022-07-29
专利权人的姓名或者名称、地址的变更
专利权人由济宁中科先进技术研究院有限公司变更为济宁中科智能科技有限公司
地址由272000 山东省济宁市济宁高新区产学研基地A3栋变更为272000 山东省济宁市高新区产学研基地A3栋
- 2019-02-12
专利权的转移
登记生效日: 2019.01.21
专利权人由中国科学院深圳先进技术研究院变更为济宁中科先进技术研究院有限公司
地址由518055 广东省深圳市南山区西丽大学城学苑大道1068号变更为272000 山东省济宁市济宁高新区产学研基地A3栋
- 2015-04-08
- 2013-02-27
实质审查的生效
IPC(主分类): A61F 2/68
专利申请号: 201210355397.7
申请日: 2012.09.21
- 2013-01-16
引用专利(该专利引用了哪些专利)
序号 | 公开(公告)号 | 公开(公告)日 | 申请日 | 专利名称 | 申请人 |
1
| |
2006-02-15
|
2003-11-11
| | |
被引用专利(该专利被哪些专利引用)
序号 | 公开(公告)号 | 公开(公告)日 | 申请日 | 专利名称 | 申请人 | 该专利没有被任何外部专利所引用! |