一、项目简介
随着科技进步和社会需求的发展，机器人手/臂除了工业生产，也越来越多用于服务人类的其它各个领域，这必然会使机器人承担比工业中更加多样的操作任务，面临更加多变的工作环境。因此，国内外对非结构自然环境下、具备自主操作能力的机器人的研究十分重视。当前，具备视觉感知能力的机器人已被公认为机器人发展的主流趋势，将视觉与机器人操作相融合，是对人类行为的模拟，由此产生的视觉伺服控制方法为机器人自主操作能力的实现带来了新的思路，代表了机器人的先进控制技术，也是促进机器人智能化发展的一个重要驱动。可以预见，未来的视觉系统将会成为机器人名副其实的眼睛，视觉伺服技术在机器人自主操作中将具有不可替代的作用。
视觉伺服利用视觉传感器提供的环境信息对机器人运动进行实时反馈控制，涉及机器人机械几何设计、运动学和动力学、自动控制理论、计算机视觉图像处理和摄像机标定等,是智能机器人领域中具有重要理论意义的研究课题之一。迄今为止，机器人手/臂的视觉伺服方法在太空遥操作、机器人手术、水果采摘、工业装配、焊接、抓取以及微操作等方面得到越来越多的应用。然而，现阶段可实际应用的方案主要面向特定的标定环境、模型参数已知，机器人操作是编码定式的，不具备模型未知条件下的自主操作能力，特别是当面向未来的刚-柔-软体共融机器人时，其柔型结构造成的运动模型及参数的变化与不确定性，必然使现有确定模型的研究方法失效。因此，无模型（目标几何模型，手眼标定模型，机器人运动模型）、非结构环境下的自适应操作对机器人提出了新挑战，是机器人手臂(尤其柔型手臂)视觉伺服控制研究的难点与前沿问题，不断深入对非结构环境下、无模型的机器人手/臂视觉伺服控制的研究具有重要的理论和现实意义。
在非结构自然环境下使机器人像人一样协调自适应操作是当今机器人研究领域的一项尚未实现但又令人感兴趣的研究工作。从理论上看，非结构自然环境下实现机器人柔性操作，就当前研究依靠单一的控制器设计是困难的。因此，本项目借鉴人的手眼协调操作是自适应学习过程，涉及智能进化和行为优化，将随机动态规划理论，结合约束规则与最优化控制，探索一种变参手眼关系，实现机器人在非结构自然环境下的自适应操作。
二、前期研究基础
研究团队一直致力于机器人视觉反馈控制的研究。在基础理论研究上，针对无标定视觉伺服控制方案与设计，均提出了一些新型方法，有扎实的理论基础和知识积累，并不断跟踪和深入在无模型视觉伺服控制的方面研究和前沿问题。目前，已经着手在无模型视觉伺服的可靠性、稳定性控制方面做了充分的探索工作：针对机器人无标定全局稳定操作问题，研究了一种鲁棒卡尔曼滤波(RKF)合作Elman神经网络(ENN)的全局稳定视觉伺服控制方法；提出了一种基于网络辅助尔曼滤波状态估计的无标定视觉伺服方法，提高伺服系统的鲁棒性。同时，立足机器人发展前沿，建立了多模特征深度学习抓取系统，在无结构环境下实现了机器人智能抓取与定位。
已发表的与项目相关的主要论文有：
[1] 仲训杲,徐敏,仲训昱,彭侠夫.基于多模特征深度学习的机器人抓取判别方法.自动化学报,2016,7(42), pp:1022-1029. (EI)
[2]
Xungao Zhong, Xunyu Zhong and Xiafu Peng. Robots Visual Servo Control
with Features Constraint Employing Kalman-Neural-Network Filtering
Scheme. Neurocomputing, 2015, 151(3), pp:268-277 (SCI)
[3] Xungao
Zhong, Xunyu Zhong and Xiafu Peng. Robust Kalman FilteringCooperated
Elman Neural Network Learning forVision-Sensing-Based
RoboticManipulation with Global Stability. Sensors, 2013, 10(13),
pp:13464-13486. (SCI)
[4] Xungao Zhong, Xiafu Peng, Xunyu Zhongand
Lixiong Lin. Dynamic Jacobian Identification Based on State-Space for
Robot Manipulation. Applied Mechanics andMaterials, vols. 475-476
(2014)pp: 675-679.(EI)
[5] Xungao Zhong, Xiafu Peng, Xunyu Zhong
and Xueren Dong. Multi-Channel with RBF Neural Network Aggregation Based
on Disparity Space for Color Image Stereo Matching. IEEE 5th
International Conference on Advanced Computational Intelligence (ICACI),
10(2012) PP:620-625. (EI)
[6]XUNGAO ZHONG, XIAFU PENG, XUNYU
ZHONG. NEURAL-BAYESIAN FILTERING BASED ON MONTE CARLO RESAMPLING FOR
VISUAL ROBUST TRACKING. Journal of Theoretical and Applied Information
Technology, 2013, 2(50), pp: 490-496.
[7] Xungao Zhong, Xiafu Peng
and Xunyu Zhong. Severe-Dynamic Tracking Problems Based on Lower
Particles Resampling. TELKOMNIKA Indonesian Journal of Electrical
Engineering. 2014, 12(6), pp:4731-4739.
[8] Xunyu Zhong, Xungao
Zhong and Xiafu Peng. Velocity-Change-Space-based Dynamic Motion
Planning for Mobile Robots Navigation. Neurocomputing. 2014, 143(11),
pp:153-163. (SCI)
[9] Xunyu Zhong, Xungao Zhong, Xiafu Peng.
VCS-based motion planning for distributed mobile robots: collision
avoidance and formation. Soft Computing,2016,5(20), pp: 1897-1908. (SCI)
[10] 仲训杲,徐敏, 仲训昱, 彭侠夫. 基于雅可比预测的机器人无模型视觉伺服定位控制, 控制与决策, 已在线发表, 2018.
[11] 仲训杲,徐敏, 仲训昱, 彭侠夫. 基于图像的机器人非标定视觉反馈控制全局定位方法, 厦门大学学报(自然科学版), 已录用, 2018.
三、应用技术成果
（一）基于多模特征深度学习的机器人抓取判别
研究了多模特征深度学习及其在机器人智能抓取判别中的应用，该方法针对智能机器人抓取判别问题,
研究多模特征深度学习与融合方法. 该方法将测试特征分布偏离训练特征视为一类噪化, 引入带稀疏约束的降噪自动编码 (Denoising
auto-encoding, DAE), 实现网络权值学习; 并以叠层融合策略, 获取初始多模特征的深层抽象表达,
两种手段相结合旨在提高深度网络的鲁棒性和抓取判别精确性. 实验采用深度摄像机与 6 自由度工业机器人组建测试平台,
对不同类别目标进行在线对比实验. 结果表明, 设计的多模特征深度学习依据人的抓取习惯, 实现最优抓取判别, 并且机器人成功实施抓取定位,
研究方法对新目标具备良好的抓取判别能力.
（二）无标定视觉伺服解决方案及其机器人操作应用
研究了无标定视觉伺服方法及其在机械臂任务操作中的应用。首先提出视觉伺服目标：假设机器人或者摄像节的模型参数未知或者部分未知，视觉伺服的目标是使用摄像节作为传感器，引导机械臂运动，使当前图像特征收敛到期望图像特征，从而完成定位或者跟踪的任务。
手眼协调关系描述。关节图像雅克比矩阵定量描述了机械臂关节变化引起图像特征变化，它是关节-图像映射的局部线性化矩阵。
建立图像雅克比的在线估计器。将关节图像雅克比矩阵的每一个元素作为辅助系统的状态，建立辅助系统的状态方程；摄像机提取到的图像特征作为测量值，建立辅助系统的观测方程。根据Kalman滤波器理论，我们设计了对关节图像雅克比的在线实时估计算法。
构建基于图像矩的目标函数。为了避免传统的基于点特征的缺陷，例如点特征的标记、提取与匹配过程复杂且通用性较差问题。构建基于图像矩的图像特征向量完成视觉伺服任务，来提高视觉伺服系统的稳定性和可靠性。
起始时刻相机图像起始时刻机器人空间图像
任务操作结束时相机图像任务操作结束时机器人空间图像
四、合作企业
厦门**科技股份有限公司是一家集销售、软件研发、技术服务、加工技术整合为一体的高新技术企业。目前公司的经营范围涉及CNC软件开发及数控系统销售、CNC控制零件销售及专业维修；工艺优化、机台升级与技术改造、工程配电与软件优化、专用机控制系统开发、多轴机的设计与开发、机台精度检测与校正优化服务等。公司是国际知名生产制造企业——富士康的产品供应商和技术服务商。
黄教授
