PythonOpenCV：MLP用于最近邻搜索

一：简单C++版本的链接: http://blog.csdn.net/kaka20080622/article/details/9039749

      OpenCV的ml模块实现了人工神经网络（Artificial Neural Networks， ANN）最典型的多层感知器（multi-layer perceptrons, MLP）模型。由于ml模型实现的算法都继承自统一的CvStatModel基类，其训练和预测的接口都是train(),predict()，非常简单。

     下面来看神经网络 CvANN_MLP 的使用~

定义神经网络及参数：

        //Setup the BPNetwork  
        CvANN_MLP bp;   
        // Set up BPNetwork's parameters  
        CvANN_MLP_TrainParams params;  
        params.train_method=CvANN_MLP_TrainParams::BACKPROP;  
        params.bp_dw_scale=0.1;  
        params.bp_moment_scale=0.1;  
        //params.train_method=CvANN_MLP_TrainParams::RPROP;  
        //params.rp_dw0 = 0.1;   
        //params.rp_dw_plus = 1.2;   
        //params.rp_dw_minus = 0.5;  
        //params.rp_dw_min = FLT_EPSILON;   
        //params.rp_dw_max = 50.;  

可以直接定义CvANN_MLP神经网络，并设置其参数。 BACKPROP表示使用back-propagation的训练方法，RPROP即最简单的propagation训练方法。

使用BACKPROP有两个相关参数：bp_dw_scale即bp_moment_scale：

使用PRPOP有四个相关参数：rp_dw0, rp_dw_plus, rp_dw_minus, rp_dw_min, rp_dw_max：

上述代码中为其默认值。

设置网络层数，训练数据：

    // Set up training data  
        float labels[3][5] = {{0,0,0,0,0},{1,1,1,1,1},{0,0,0,0,0}};  
        Mat labelsMat(3, 5, CV_32FC1, labels);  
      
        float trainingData[3][5] = { {1,2,3,4,5},{111,112,113,114,115}, {21,22,23,24,25} };  
        Mat trainingDataMat(3, 5, CV_32FC1, trainingData);  
        Mat layerSizes=(Mat_<int>(1,5) << 5,2,2,2,5);  
        bp.create(layerSizes,CvANN_MLP::SIGMOID_SYM);//CvANN_MLP::SIGMOID_SYM  
                                                   //CvANN_MLP::GAUSSIAN  
                                                   //CvANN_MLP::IDENTITY  
        bp.train(trainingDataMat, labelsMat, Mat(),Mat(), params);  

layerSizes设置了有三个隐含层的网络结构：输入层，三个隐含层，输出层。输入层和输出层节点数均为5，中间隐含层每层有两个节点。

create第二个参数可以设置每个神经节点的激活函数，默认为CvANN_MLP::SIGMOID_SYM，即Sigmoid函数，同时提供的其他激活函数有Gauss和阶跃函数。

使用训练好的网络结构分类新的数据：

然后直接使用predict函数，就可以预测新的节点：

    Mat sampleMat = (Mat_<float>(1,5) << i,j,0,0,0);  
                Mat responseMat;  
                bp.predict(sampleMat,responseMat);  

完整程序代码：

int CCvMLP::main()  
{  
	//Setup the BPNetwork  
	CvANN_MLP bp;   
	// Set up BPNetwork's parameters  
	CvANN_MLP_TrainParams params;  
	params.train_method=CvANN_MLP_TrainParams::BACKPROP;  
	params.bp_dw_scale=0.1;  
	params.bp_moment_scale=0.1;  
	//params.train_method=CvANN_MLP_TrainParams::RPROP;  
	//params.rp_dw0 = 0.1;   
	//params.rp_dw_plus = 1.2;   
	//params.rp_dw_minus = 0.5;  
	//params.rp_dw_min = FLT_EPSILON;   
	//params.rp_dw_max = 50.;  

	// Set up training data  
	float labels[3][5] = {{0,0,0,0,0},{1,1,1,1,1},{0,0,0,0,0}};  
	Mat labelsMat(3, 5, CV_32FC1, labels);  

	float trainingData[3][5] = { {1,2,3,4,5},{111,112,113,114,115}, {21,22,23,24,25} };  
	Mat trainingDataMat(3, 5, CV_32FC1, trainingData);  
	Mat layerSizes=(Mat_<int>(1,5) << 5,2,2,2,5);  
	bp.create(layerSizes,CvANN_MLP::SIGMOID_SYM);//CvANN_MLP::SIGMOID_SYM  
	//CvANN_MLP::GAUSSIAN  
	//CvANN_MLP::IDENTITY  
	bp.train(trainingDataMat, labelsMat, Mat(),Mat(), params);  


	// Data for visual representation  
	int width = 512, height = 512;  
	Mat image = Mat::zeros(height, width, CV_8UC3);  
	Vec3b green(0,255,0), blue (255,0,0);  
	// Show the decision regions given by the SVM  
	for (int i = 0; i < image.rows; ++i)  
		for (int j = 0; j < image.cols; ++j)  
		{  
			Mat sampleMat = (Mat_<float>(1,5) << i,j,0,0,0);  
			Mat responseMat;  
			bp.predict(sampleMat,responseMat);  
			float* p=responseMat.ptr<float>(0);  
			int response=0;  
			for(int i=0;i<5;i++){  
				//  cout<<p[i]<<" ";  
				response+=p[i];  
			}  
			if (response >2)  
				image.at<Vec3b>(j, i)  = green;  
			else    
				image.at<Vec3b>(j, i)  = blue;  
		}  

		// Show the training data  
		int thickness = -1;  
		int lineType = 8;  
		circle( image, Point(501,  10), 5, Scalar(  0,   0,   0), thickness, lineType);  
		circle( image, Point(255,  10), 5, Scalar(255, 255, 255), thickness, lineType);  
		circle( image, Point(501, 255), 5, Scalar(255, 255, 255), thickness, lineType);  
		circle( image, Point( 10, 501), 5, Scalar(255, 255, 255), thickness, lineType);  

		imwrite("result.png", image);        // save the image   

		imshow("BP Simple Example", image); // show it to the user  
		waitKey(0);  
} 

运行结果：

     

二：MLP用于图像分类：

二：MLP的Python版本：