《视觉SLAM十四讲》课后习题—ch7（更新中……）

参考：https://blog.csdn.net/zilanpotou182/article/details/66478915（SIFT、SURF、ORB三种特征点的区别）

1.除了本书介绍的ORB特征点外，你还能找到哪些特征点？请说说SIFT或SURF的原理，并对比它们与ORB之间的优劣

　　特征点：图像里一些特别的地方

　　特征点的种类：SIFT、SURF、ORB、FAST

　　SIFT算法充分考虑了在图像变换过程中出现的光照、尺度、旋转等变化，但是这会带来极大的计算量。

　　SURF算法的速度远快于SIFT，SURF的鲁棒性很好，特征点识别率较SIFT高，在视角、光照、尺度变化等情形下，大体上都优于SIFT。

　　ORB算法运算速度与前两者相比速度最快，但是这种算法尺度方面效果较差，因为ORB不具备尺度变换。

　　定量比较：计算速度：ORB>>SURF>>SIFT（各差一个量级）

    　　　　　　旋转鲁棒性：SURF>ORB~SIFT（表示差不多）

    　　　　　　模糊鲁棒性： SURF>ORB~SIFT

    　　　　　　尺度变换鲁棒性： SURF>SIFT>ORB（ORB并不具备尺度变换性）

　　综上，我们在选择特征点时的依据是如果对计算实时性要求非常高，可选用ORB算法，但基本要保证正对拍摄；如果对实行性要求稍高，可以选择SURF；基本不用SIFT

---

2.设计程序调用OpenCV中的其他种类特征点。统计在提取1000个特征点时在你的机器上的运行时间。

　　首先我们要知道如果要调用opencv中的SIFT和SURF特征点，SIFT和SURF都在nonfree模块中，所以我们就需要nonfree模块。

　　但是在opencv3中，SURF/SIFT 以及其它的一些东西被移动到了独立的库(opencv_contrib)中。

　　所以首先我们需要安装opencv_contrib：（如果你用的是opencv2可以省略安装opencv_contrib这一步骤）

　　安装步骤见：安装opencv_contrib（ubuntu16.0）

　　ORB、SIFT、SURF三种特征点提取方法的代码如下：

#include <iostream>
#include <opencv2/core/core.hpp>
#include <opencv2/features2d/features2d.hpp>
//#include <opencv2/nonfree/features2d.hpp>
//#include <opencv2/nonfree/nonfree.hpp>//SIFT
#include <opencv2/highgui/highgui.hpp>
#include <opencv2/xfeatures2d/nonfree.hpp>//SIFT
#include <chrono>

//using namespace xfeatures2d;
using namespace std;
using namespace cv;

int main(int argc,char** argv)
{
    if(argc!=2)
    {
        cout<<"usage:feature_extraction img1"<<endl;
        return 1;
    }

    //读取图像
    Mat img_1=imread(argv[1],CV_LOAD_IMAGE_COLOR);

    //初始化
    vector<KeyPoint> keypoints_1;//关键点,指特征点在图像里的位置

    //orb
    chrono::steady_clock::time_point ORB_t1=chrono::steady_clock::now();
    Ptr<ORB> orb=ORB::create(500,1.2f,8,31,0,2,ORB::HARRIS_SCORE,31,20);
    chrono::steady_clock::time_point ORB_t2=chrono::steady_clock::now();
    chrono::duration<double> ORB_time_used=chrono::duration_cast<chrono::duration<double>>(ORB_t2-ORB_t1);
    cout<<"extract keypoints of ORB costs: "<<ORB_time_used.count()<<" seconds."<<endl;
    orb->detect(img_1,keypoints_1);

    cout<<"KP1 = "<<keypoints_1.size()<<endl;//特征点的数量
    Mat outimg1;
    drawKeypoints(img_1,keypoints_1,outimg1,Scalar::all(-1),DrawMatchesFlags::DEFAULT);
    imshow("1.png的ORB特征点",outimg1);


//    //SIFT
//    chrono::steady_clock::time_point SIFT_t1=chrono::steady_clock::now();
//    Ptr<xfeatures2d::SiftFeatureDetector> siftDetector_1=xfeatures2d::SiftFeatureDetector::create();
//    siftDetector_1->detect(img_1,keypoints_1);
//    chrono::steady_clock::time_point SIFT_t2=chrono::steady_clock::now();
//    chrono::duration<double> SIFT_time_used=chrono::duration_cast<chrono::duration<double>>(SIFT_t2-SIFT_t1);
//    cout<<"extract keypoints of SIFT costs: "<<SIFT_time_used.count()<<" seconds."<<endl;
//    Mat outImg;
//    drawKeypoints(img_1,keypoints_1,outImg,Scalar::all(-1),DrawMatchesFlags::DEFAULT);

//    cout<<"KP1 = "<<keypoints_1.size()<<endl;
//    imshow("1.png的SIFT特征点",outImg);

//    //SURF
//    chrono::steady_clock::time_point SURF_t1=chrono::steady_clock::now();
//    Ptr<xfeatures2d::SurfFeatureDetector> surfDetector_1=xfeatures2d::SurfFeatureDetector::create();
//    surfDetector_1->detect(img_1,keypoints_1);
//    chrono::steady_clock::time_point SURF_t2=chrono::steady_clock::now();
//    chrono::duration<double> SURF_time_used=chrono::duration_cast<chrono::duration<double>>(SURF_t2-SURF_t1);
//    cout<<"extract keypoints of SURF costs: "<<SURF_time_used.count()<<" seconds."<<endl;
//    Mat outImg;
//    drawKeypoints(img_1,keypoints_1,outImg,Scalar::all(-1),DrawMatchesFlags::DEFAULT);
//    cout<<"KP1 = "<<keypoints_1.size()<<endl;
//    imshow("1.png的SURF特征点",outImg);
    waitKey(0);

    return 0;
}

　实验结果：原始图像为：

　　　　　　　　　　　　　　　　

　　　　　1) ORB

　　　　　　　　　

　　　　　2) SIFT

　　　　　　　　

　　　　  3) SURF

　　　　　　　　

　　　　分析：可见，计算速度是ORB最快，SURF次之，SIFT最慢。

　　但是为什么基于同一张图片提取特征点，三种方法提取出的特征点数目不一样而且相差还很多呢？应该是因为三种方法的原理决定的吧，是因为三种方法提取特征点时选择什么是特征点的依据不同？

SURF选取特征点的依据：SURF算法先利用Hessian矩阵确定候选点，然后进行非极大抑制。

 

---

 

3.我们发现，OpenCV提供的ORB特征点在图像当中分布不够均匀，你是否能找到或提出让特征点分布更加均匀的方法？
 　　我的想法是对于一张待提取特征点的图像，我们把它分成一个个小块，设定一个阈值，对于对个小块，提取特征点，若特征点的数目超过了阈值就不再提取（这种方式可能速度快一些，但是缺点也很明显……），或者在所有提取到的特征点中选择等于阈值的更好的特征点？

　　利用非极大值抑制取出局部较密集特征点的思想：使用非极大值抑制算法去除临近位置多个特征点的问题。为每一个特征点计算出其响应大小。计算方式是一个特征点和其周围n个特征点偏差的绝对值和。在比较临近的特征点中，保留响应值较大的特征点，删除其余的特征点。

---

10.在Ceres中实现PnP和ICP的优化

　PnP:

　　　　求解一个优化问题，关键是是要写出它的cost Fuction的最小二乘形式。

　　根据教材的分析，本题的最小二乘问题可写作：（见P162）

　　这个误差项表示的是将像素坐标（观测到的投影位置）与3D点按照当前估计的位姿进行投影得到的位置相比较得到的误差。所以，我们可以得到以下信息：

　　已知的有：3D点——我们用p_3D表示（等下程序中用）,其对应得投影坐标记为（u, v）

　　　　　　　观测得到的投影位置的像素坐标——p_p

　　待估计的变量：R，t

　　并且在利用ceres优化时，我们还要给出残差的形式：

　　　　　　residual[0]=u-p_p(0,0)

　　　　　　residual[1]=v-p_p(0,1)

　　Ceres的用法步骤：1）定义Cost Function模型；2）调用AddResidualBlock将误差项添加到目标函数中；3）自动求导需要指定误差项和优化变量得维度；4）定好问题后，调用solve函数求解。

　　　　理清楚整个问题的流程，我们就可以利用Ceres优化库来实现PnP优化了。同时优化相机的位姿（即内参,R,t）和外参，代码如下：参考https://www.jianshu.com/p/34cb21e00264

#include <iostream>
#include <opencv2/core/core.hpp>
#include <opencv2/features2d/features2d.hpp>
#include <opencv2/highgui/highgui.hpp>
#include <opencv2/calib3d/calib3d.hpp>
#include <Eigen/Core>
#include <Eigen/Geometry>
#include <ceres/ceres.h>
#include <Eigen/SVD>
#include <chrono>

#include "common/tools/rotation.h"


using namespace std;
using namespace cv;


//第一步：定义Cost Function函数
struct cost_function
{
    cost_function(Point3f p_3D,Point2f p_p):_p_3D(p_3D),_p_p(p_p) {}//3D-2D：知道n个3D空间点以及其投影位置，然后估计相机位姿
    //计算残差
    template <typename T>//模板：使得在定义时可以模糊类型
    bool operator() (
            const T* const r, const T* const t,//r,t为待优化的参数
            const T* K,//k为待优化的参数
            T* residual ) const //殘差
    {
         T p_3d[3];
         T p_Cam[3];//相机坐标系下空间点的坐标
         p_3d[0]=T(_p_3D.x);
         p_3d[1]=T(_p_3D.y);
         p_3d[2]=T(_p_3D.z);
//         通过tool文件夹中的rotation.h中的AngleAxisRotatePoint()函数
//         计算在相机仅旋转的情况下，新坐标系下的坐标
//         也就是p_Cam=R*p_3d
         cout<<"point_3d: "<<p_3d[0]<<" "<<p_3d[1]<<"  "<<p_3d[2]<<endl;
         AngleAxisRotatePoint(r,p_3d,p_Cam);

         p_Cam[0]=p_Cam[0]+t[0];
         p_Cam[1]=p_Cam[1]+t[1];
         p_Cam[2]=p_Cam[2]+t[2];
         //R,t计算T
        //Eigen::Isometry3d T_w_c;
//        T_w_c.rotate(r);

         const T x=p_Cam[0]/p_Cam[2];
         const T y=p_Cam[1]/p_Cam[2];
         //3D点投影后的像素坐标
//         const T u=x*520.9+325.1;
//         const T v=y*521.0+249.7;
        const T u=x*K[0]+K[1];
        const T v=y*K[2]+K[3];

         //观测到的投影位置的像素坐标
         T u1=T(_p_p.x);
         T v1=T(_p_p.y);

         //残差
         residual[0]=u-u1;
         residual[1]=v-v1;
    }
    Point3f _p_3D;
    Point2f _p_p;
};

void find_feature_matches (
    const Mat& img_1, const Mat& img_2,
    std::vector<KeyPoint>& keypoints_1,
    std::vector<KeyPoint>& keypoints_2,
    std::vector< DMatch >& matches );

// 像素坐标转相机归一化坐标
Point2d pixel2cam ( const Point2d& p, const Mat& K );

void bundleAdjustment(const vector<Point3f> points_3d,
                      const vector<Point2f> points_2d, Mat K, Mat &r, Mat &t);

int main ( int argc, char** argv )
{
    if ( argc != 4 )
    {
        cout<<"usage: pose_estimation_3d2d img1 img2 depth1"<<endl;
        return 1;
    }
    //-- 读取图像
    Mat img_1 = imread ( argv[1], CV_LOAD_IMAGE_COLOR );
    Mat img_2 = imread ( argv[2], CV_LOAD_IMAGE_COLOR );

    vector<KeyPoint> keypoints_1, keypoints_2;
    vector<DMatch> matches;
    find_feature_matches ( img_1, img_2, keypoints_1, keypoints_2, matches );
    cout<<"一共找到了"<<matches.size() <<"组匹配点"<<endl;

    // 建立3D点
    Mat d1 = imread ( argv[3], CV_LOAD_IMAGE_UNCHANGED );       // 深度图为16位无符号数，单通道图像
    Mat K = ( Mat_<double> ( 3,3 ) << 520.9, 0, 325.1, 0, 521.0, 249.7, 0, 0, 1 );
    vector<Point3f> pts_3d;
    vector<Point2f> pts_2d;
    for ( DMatch m:matches )
    {
        ushort d = d1.ptr<unsigned short> (int ( keypoints_1[m.queryIdx].pt.y )) [ int ( keypoints_1[m.queryIdx].pt.x ) ];
        if ( d == 0 )   // bad depth
            continue;
        float dd = d/5000.0;
        Point2d p1 = pixel2cam ( keypoints_1[m.queryIdx].pt, K );
        pts_3d.push_back ( Point3f ( p1.x*dd, p1.y*dd, dd ) );
        pts_2d.push_back ( keypoints_2[m.trainIdx].pt );
    }

    cout<<"3d-2d pairs: "<<pts_3d.size() <<endl;

    Mat r, t;
//    solvePnP ( pts_3d, pts_2d, K, Mat(), r, t, false,cv::SOLVEPNP_EPNP ); // 调用OpenCV 的 PnP 求解，可选择EPNP，DLS等方法
   // solvePnP ( pts_3d, pts_2d, K, Mat(), r, t, false,CV_ITERATIVE );
    solvePnP ( pts_3d, pts_2d, K, Mat(), r, t, false);
    Mat R;
    cv::Rodrigues ( r, R ); // r为旋转向量形式，用Rodrigues公式转换为矩阵

    cout<<"optional before: "<<endl;
    cout<<"R="<<endl<<R<<endl;
    cout<<"t="<<endl<<t<<endl<<endl;

    cout<<"calling bundle adjustment"<<endl;

    bundleAdjustment(pts_3d,pts_2d,K,r,t);
}

void find_feature_matches ( const Mat& img_1, const Mat& img_2,
                            std::vector<KeyPoint>& keypoints_1,
                            std::vector<KeyPoint>& keypoints_2,
                            std::vector< DMatch >& matches )
{
    //-- 初始化
    Mat descriptors_1, descriptors_2;
    // used in OpenCV3
    Ptr<FeatureDetector> detector = ORB::create();
    Ptr<DescriptorExtractor> descriptor = ORB::create();
    // use this if you are in OpenCV2
    // Ptr<FeatureDetector> detector = FeatureDetector::create ( "ORB" );
    // Ptr<DescriptorExtractor> descriptor = DescriptorExtractor::create ( "ORB" );
    Ptr<DescriptorMatcher> matcher  = DescriptorMatcher::create ( "BruteForce-Hamming" );
    //-- 第一步:检测 Oriented FAST 角点位置
    detector->detect ( img_1,keypoints_1 );
    detector->detect ( img_2,keypoints_2 );

    //-- 第二步:根据角点位置计算 BRIEF 描述子
    descriptor->compute ( img_1, keypoints_1, descriptors_1 );
    descriptor->compute ( img_2, keypoints_2, descriptors_2 );

    //-- 第三步:对两幅图像中的BRIEF描述子进行匹配，使用 Hamming 距离
    vector<DMatch> match;
    // BFMatcher matcher ( NORM_HAMMING );
    matcher->match ( descriptors_1, descriptors_2, match );

    //-- 第四步:匹配点对筛选
    double min_dist=10000, max_dist=0;

    //找出所有匹配之间的最小距离和最大距离, 即是最相似的和最不相似的两组点之间的距离
    for ( int i = 0; i < descriptors_1.rows; i++ )
    {
        double dist = match[i].distance;
        if ( dist < min_dist ) min_dist = dist;
        if ( dist > max_dist ) max_dist = dist;
    }

    printf ( "-- Max dist : %f 
", max_dist );
    printf ( "-- Min dist : %f 
", min_dist );

    //当描述子之间的距离大于两倍的最小距离时,即认为匹配有误.但有时候最小距离会非常小,设置一个经验值30作为下限.
    for ( int i = 0; i < descriptors_1.rows; i++ )
    {
        if ( match[i].distance <= max ( 2*min_dist, 30.0 ) )
        {
            matches.push_back ( match[i] );
        }
    }
}

Point2d pixel2cam ( const Point2d& p, const Mat& K )
{
    return Point2d
           (
               ( p.x - K.at<double> ( 0,2 ) ) / K.at<double> ( 0,0 ),
               ( p.y - K.at<double> ( 1,2 ) ) / K.at<double> ( 1,1 )
           );
}

//构建最小二乘问题
void bundleAdjustment(const vector<Point3f> points_3d,
                      const vector<Point2f> points_2d,Mat K, Mat &r, Mat &t)
{
//    cout<<"R = "<<endl<<R<<endl;
    cout<<"start:"<<endl;
    double rotation_vector[3],tranf[3];//旋转向量r，平移t
    double k[4];
    rotation_vector[0]=r.at<double>(0,0);
    rotation_vector[1]=r.at<double>(0,1);
    rotation_vector[2]=r.at<double>(0,2);

    tranf[0]=t.at<double>(0,0);
    tranf[1]=t.at<double>(1,0);
    tranf[2]=t.at<double>(2,0);

    k[0]=520.9;
    k[1]=325.1;
    k[2]=521.0;
    k[3]=249.7;

    ceres::Problem problem;
    for(int i=0;i<points_3d.size();++i)
    {
        ceres::CostFunction* costfunction=new ceres::AutoDiffCostFunction<cost_function,2,3,3,4>(new cost_function(points_3d[i],points_2d[i]));
        problem.AddResidualBlock(costfunction,NULL,rotation_vector,tranf,k);
    }
//    cout<<rotation_vector[0]<<" "<<rotation_vector[1]<<" "<<rotation_vector[2]<<endl;
    //配置求解器
    ceres::Solver::Options option;
    option.linear_solver_type=ceres::DENSE_QR;//DENSE_SCHUR
    //true:迭代信息输出到屏幕.false:不输出
    option.minimizer_progress_to_stdout=true;

    ceres::Solver::Summary summary;//优化信息
    //可以和g2o优化做对比
    chrono::steady_clock::time_point t1=chrono::steady_clock::now();
    //开始优化
    ceres::Solve(option,&problem,&summary);
    chrono::steady_clock::time_point t2=chrono::steady_clock::now();
    chrono::duration<double> time_used=chrono::duration_cast<chrono::duration<double>>(t2-t1);
    cout<<"solve time cost = "<<time_used.count()<<" second."<<endl;

    //输出结果
    cout<<summary.BriefReport()<<endl;
    Mat Rotaion_vector=(Mat_<double>(3,1)<<rotation_vector[0],rotation_vector[1],rotation_vector[2]);
//    cout<<rotation_vector[0]<<" "<<rotation_vector[1]<<""<<rotation_vector[2]<<endl;//0,1,2
    Mat Rotation_matrix;
    Rodrigues(Rotaion_vector,Rotation_matrix);//r为旋转向量形式，用Rodrigues公式转换为矩阵
    cout<<"after optional:"<<endl;
    cout<<"R = "<<endl<<Rotation_matrix<<endl;
//    cout<<"R = "<<endl<<<<endl;
    cout<<"t = "<<tranf[0]<<" "<<tranf[1]<<" "<<tranf[2]<<endl;
}

 　　结果：

　　　　　

　　　　　　和g2o优化所得结果做对比：结果大致相同，优化用时也差不多。

 ICP：

　　参考：https://www.jianshu.com/p/1b02e9a36cc4

#include <iostream>
#include <opencv2/core/core.hpp>
#include <ceres/ceres.h>

#include <opencv2/highgui/highgui.hpp>
#include <opencv2/calib3d/calib3d.hpp>
#include <opencv2/features2d/features2d.hpp>
#include <Eigen/Core>
#include <Eigen/Geometry>
#include <Eigen/SVD>

#include <chrono>

#include "common/tools/rotation.h"

using namespace std;
using namespace cv;

void find_feature_matches(const Mat& img_1,const Mat& img_2,
                          vector<KeyPoint>& keypoints_1,
                          vector<KeyPoint>& keypoints_2,
                          vector<DMatch>& matches);

//像素坐标转相机归一化坐标
Point2d pixel2cam(const Point2d& p,const Mat& K);

void pose_estimation_3d3d(const vector<Point3f>& pts1,
                          const vector<Point3f>& pts2,
                          Mat& r,Mat& t_inv);

void bundleAdjustment(const vector<Point3f>& points_3f,
                      const vector<Point3f>& points_2f,
                      Mat& R, Mat& t_inv);//test 声明的行参和定义的不同是否可行:可以的!

struct cost_function_define
{
    cost_function_define(Point3f p1,Point3f p2):_p1(p1),_p2(p2){}
    template<typename T>
    bool operator()(const T* const cere_r,const T* const cere_t,T* residual) const
    {
        T p_1[3];
        T p_2[3];
        p_1[0]=T(_p1.x);
        p_1[1]=T(_p1.y);
        p_1[2]=T(_p1.z);
        AngleAxisRotatePoint(cere_r,p_1,p_2);
        p_2[0]=p_2[0]+cere_t[0];
        p_2[1]=p_2[1]+cere_t[1];
        p_2[2]=p_2[2]+cere_t[2];
        const T x=p_2[0]/p_2[2];
        const T y=p_2[1]/p_2[2];
        const T u=x*520.9+325.1;
        const T v=y*521.0+249.7;
        T p_3[3];
        p_3[0]=T(_p2.x);
        p_3[1]=T(_p2.y);
        p_3[2]=T(_p2.z);

        const T x1=p_3[0]/p_3[2];
        const T y1=p_3[1]/p_3[2];

        const T u1=x1*520.9+325.1;
        const T v1=y1*521.0+249.7;

        residual[0]=u-u1;
        residual[1]=v-v1;
    }
    Point3f _p1,_p2;
};

int main(int argc,char** argv)
{
    if(argc!=5)
    {
        cout<<"usage:pose_estimation_3d3d img1 img2 depth1 depth2"<<endl;
        return 1;
    }

    //读取图像
    Mat img_1=imread(argv[1],CV_LOAD_IMAGE_COLOR);//test
    Mat img_2=imread(argv[2],CV_LOAD_IMAGE_COLOR);

    vector<KeyPoint> keypoints_1,keypoints_2;
    vector<DMatch> matches;
    find_feature_matches(img_1,img_2,keypoints_1,keypoints_2,matches);
    cout<<"一共找到了"<<matches.size()<<"组匹配点"<<endl;

    //建立3D点
    Mat depth_1=imread(argv[3],CV_LOAD_IMAGE_UNCHANGED);//深度图为16位无符号数，单通道图像
    Mat depth_2=imread(argv[4],CV_LOAD_IMAGE_UNCHANGED);//深度图为16位无符号数，单通道图像
    Mat K=(Mat_<double>(3,3)<<520.9,0,325.1,
                              0,521.0,249.7,
                              0,0,1);
    vector<Point3f> pts1,pts2;
    for(DMatch m:matches)
    {
        ushort d1=depth_1.ptr<unsigned short>(int(keypoints_1[m.queryIdx].pt.y))[int(keypoints_1[m.queryIdx].pt.x)];
        ushort d2=depth_2.ptr<unsigned short>(int(keypoints_2[m.trainIdx].pt.y))[int(keypoints_2[m.trainIdx].pt.x)];
        if(d1==0 || d2==0)//bad depth
            continue;
        Point2d p1=pixel2cam(keypoints_1[m.queryIdx].pt,K);
        Point2d p2=pixel2cam(keypoints_2[m.trainIdx].pt,K);
        float dd1=float(d1)/5000.0;
        float dd2=float(d2)/5000.0;
        pts1.push_back(Point3f(p1.x*dd1,p1.y*dd1,dd1));
        pts2.push_back(Point3f(p2.x*dd2,p2.y*dd2,dd2));
    }

    cout<<"3d-3d pairs: "<<pts1.size()<<endl;
    Mat R,t;
    pose_estimation_3d3d(pts1,pts2,R,t);
    cout<<"ICP via SVD results: "<<endl;
    cout<<"R ="<<endl<<R<<endl;
    cout<<"t ="<<endl<<t<<endl;
    Mat R_inv=R.t();
    Mat t_inv=-R.t()*t;
    cout<<"R_inv ="<<endl<<R_inv<<endl;//R^(-1)
    cout<<"t_inv ="<<endl<<t_inv<<endl;

    Mat r;
    Rodrigues(R_inv,r);//R_inv->r
    cout<<"r= "<<endl<<r<<endl;

    for(int i=0;i<5;++i)
    {
        cout<<"p1= "<<pts1[i]<<endl;//??
        cout<<"p2= "<<pts2[i]<<endl;//??
        cout<<"(R*p2+t) = "<<
              R*(Mat_<double>(3,1)<<pts2[i].x,pts2[i].y,pts2[i].z)+t
           <<endl;
        cout<<endl;
    }

    cout<<"calling bundle adjustment"<<endl;
    bundleAdjustment(pts1,pts2,r,t_inv);

    return 0;
}

//匹配特征点对
void find_feature_matches ( const Mat& img_1, const Mat& img_2,
                            std::vector<KeyPoint>& keypoints_1,
                            std::vector<KeyPoint>& keypoints_2,
                            std::vector< DMatch >& matches )
{
    //-- 初始化
    Mat descriptors_1, descriptors_2;
    // used in OpenCV3
    Ptr<FeatureDetector> detector = ORB::create();
    Ptr<DescriptorExtractor> descriptor = ORB::create();
    // use this if you are in OpenCV2
    // Ptr<FeatureDetector> detector = FeatureDetector::create ( "ORB" );
    // Ptr<DescriptorExtractor> descriptor = DescriptorExtractor::create ( "ORB" );
    Ptr<DescriptorMatcher> matcher  = DescriptorMatcher::create ( "BruteForce-Hamming" );
    //-- 第一步:检测 Oriented FAST 角点位置
    detector->detect ( img_1,keypoints_1 );
    detector->detect ( img_2,keypoints_2 );

    //-- 第二步:根据角点位置计算 BRIEF 描述子
    descriptor->compute ( img_1, keypoints_1, descriptors_1 );
    descriptor->compute ( img_2, keypoints_2, descriptors_2 );

    //-- 第三步:对两幅图像中的BRIEF描述子进行匹配，使用 Hamming 距离
    vector<DMatch> match;
    // BFMatcher matcher ( NORM_HAMMING );
    matcher->match ( descriptors_1, descriptors_2, match );

    //-- 第四步:匹配点对筛选
    double min_dist=10000, max_dist=0;

    //找出所有匹配之间的最小距离和最大距离, 即是最相似的和最不相似的两组点之间的距离
    for ( int i = 0; i < descriptors_1.rows; i++ )
    {
        double dist = match[i].distance;
        if ( dist < min_dist ) min_dist = dist;
        if ( dist > max_dist ) max_dist = dist;
    }

    printf ( "-- Max dist : %f 
", max_dist );
    printf ( "-- Min dist : %f 
", min_dist );

    //当描述子之间的距离大于两倍的最小距离时,即认为匹配有误.但有时候最小距离会非常小,设置一个经验值30作为下限.
    for ( int i = 0; i < descriptors_1.rows; i++ )
    {
        if ( match[i].distance <= max ( 2*min_dist, 30.0 ) )
        {
            matches.push_back ( match[i] );
        }
    }
}

Point2d pixel2cam(const Point2d &p, const Mat &K)
{
    return Point2d(
                (p.x-K.at<double>(0,2))/K.at<double>(0,0),
                (p.y-K.at<double>(1,2))/K.at<double>(1,1)
                    );
}

void pose_estimation_3d3d(const vector<Point3f> &pts1, const vector<Point3f> &pts2, Mat &r, Mat &t_inv)
{
    Point3f p1,p2;//center of mass
    int N=pts1.size();
    //计算两组点的质心位置p1,p2
    for(int i=0;i<N;++i)
    {
        p1+=pts1[i];
        p2+=pts2[i];
    }
    p1=Point3f(Vec3f(p1)/N);//test
    cout<<"p1 ="<<endl<<p1<<endl;
    p2=Point3f(Vec3f(p2)/N);//test

    //计算每个点的去质心坐标q1,q2
    vector<Point3f> q1(N),q2(N);
    for(int i=0;i<N;++i)
    {
        q1[i]=pts1[i]-p1;
        q2[i]=pts2[i]-p2;
    }

    //compute q1*q2^T,即书中P174的矩阵W(7.56)
    Eigen::Matrix3d W=Eigen::Matrix3d::Zero();
    for(int i=0;i<N;++i)
    {
        W+=Eigen::Vector3d(q1[i].x,q1[i].y,q1[i].z)*Eigen::Vector3d(q2[i].x,q2[i].y,q2[i].z).transpose();
    }
    cout<<"W ="<<endl<<W<<endl<<endl;

    //SVD on W
    Eigen::JacobiSVD<Eigen::Matrix3d> svd(W,Eigen::ComputeFullU|Eigen::ComputeFullV);
    Eigen::Matrix3d U=svd.matrixU();
    Eigen::Matrix3d V=svd.matrixV();

    if(U.determinant()*V.determinant()<0)
    {
        for(int x=0;x<3;++x)
        {
            U(x,2)*=-1;
        }
    }

    cout<<"U="<<U<<endl;
    cout<<"V="<<V<<endl;

    Eigen::Matrix3d R_=U*(V.transpose());
    Eigen::Vector3d t_=Eigen::Vector3d(p1.x,p1.y,p1.z)-R_*Eigen::Vector3d(p2.x,p2.y,p2.z);

    //convert to cv::Mat
    r=(Mat_<double>(3,3)<<
       R_(0,0),R_(0,1),R_(0,2),
       R_(1,0),R_(1,1),R_(1,2),
       R_(2,0),R_(2,1),R_(2,2));
    t_inv=(Mat_<double>(3,1)<<t_(0,0),t_(1,0),t_(2,0));
}

void bundleAdjustment(const vector<Point3f> &pts1, const vector<Point3f> &pts2, Mat &r, Mat &t_inv)
{

    double cere_rot[3], cere_tranf[3];
    //关于初值的选取有疑问，随便选择一个初值时，结果不正确，why??
    cere_rot[0]=r.at<double>(0,0);
    cere_rot[1]=r.at<double>(1,0);
    cere_rot[2]=r.at<double>(2,0);

    cere_tranf[0]=t_inv.at<double>(0,0);
    cere_tranf[1]=t_inv.at<double>(1,0);
    cere_tranf[2]=t_inv.at<double>(2,0);


    ceres::Problem problem;
    for(int i=0;i<pts1.size();++i)
    {
        ceres::CostFunction* costfunction=new ceres::AutoDiffCostFunction<cost_function_define,2,3,3>(new cost_function_define(pts1[i],pts2[i]));
        problem.AddResidualBlock(costfunction,NULL,cere_rot,cere_tranf);
    }

    ceres::Solver::Options option;
    option.linear_solver_type=ceres::DENSE_SCHUR;
    option.minimizer_progress_to_stdout=true;
    ceres::Solver::Summary summary;
    ceres::Solve(option,&problem,&summary);
    cout<<summary.BriefReport()<<endl;

    cout<<"optional after: "<<endl;
    Mat cam_3d=(Mat_<double>(3,1)<<cere_rot[0],cere_rot[1],cere_rot[2]);
//    cout<<"cam_3d : "<<endl<<cam_3d<<endl;
    Mat cam_9d;
    Rodrigues(cam_3d,cam_9d);
    291 
    cout<<"cam_9d: "<<endl<<cam_9d<<endl;
    cout<<"cam_t: "<<endl<<cere_tranf[0]<<" "<<cere_tranf[1]<<" "<<cere_tranf[2]<<endl;
    Mat tranf_3d=(Mat_<double>(3,1)<<cere_tranf[0],cere_tranf[1],cere_tranf[2]);

    for(int i=0;i<5;++i)
    {
        cout<<"p1= "<<pts1[i]<<endl;
        cout<<"p2= "<<pts2[i]<<endl;
        cout<<"(R*p1+t)= "<<
              cam_9d*(Mat_<double>(3,1)<<pts1[i].x,pts1[i].y,pts1[i].z)+tranf_3d<<endl;
        cout<<endl;
    }
}

结果：

　　仅用ICP得到的位姿为：

　　　　　　

　　我们在两幅图片上分别找一些特征点验证得到的位姿结果：p1=R*p2+t

　　　　　　

 　　利用Ceres优化之后：

　　　　　　

 　　进行验证：