【windows核心编程】IO完成端口(IOCP)复制文件小例

 

1、演示内容

文件复制

 

2、提要

复制大文件时，使用FILE_FLAG_NO_BUFFERING标志

同时需要注意：

读写文件的偏移地址为 磁盘扇区 的整数倍

读写文件的字节数为 磁盘扇区 的整数倍

读文件到的缓冲区在进程地址空间中的地址为 磁盘扇区 的整数倍

 

3、JUST CODING

 

#include "stdafx.h"
#include <Windows.h>
#include <process.h>
#include <iostream>
using namespace std;

//完成键
#define CK_READ  1
#define CK_WRITE 2

void ShowErrMsg(LPCSTR lpMsg); 

//传给线程函数的参数
typedef struct _tagThreadParam
{
    HANDLE hIOCP;                //IOCP
    LPVOID lpAddr;                //读入的内存地址
    LARGE_INTEGER liFileSize;   //源文件大小
    size_t nDataBlockSize;      //每次读写的数据块大小
    HANDLE hSrc;                //源文件
    HANDLE hDest;                //目的文件
    LPOVERLAPPED lpOLPSrc;      //源文件的OVERLAPPED结构指针
    LPOVERLAPPED lpOLPDest;     //目的文件的OVERLAPPED结构指针
}ThreadParam, *LPTHREADPARAM;

int _tmain(int argc, _TCHAR* argv[])
{
   /*LPCTSTR lpSrc = TEXT("D:\SourceSoftware\myeclipse-8.5.0.rar");
      LPCTSTR lpDest = TEXT("D:\SourceSoftware\myeclipse-8.5.0_copy.rar");*/ 

    /*LPCTSTR lpSrc = TEXT("D:\SourceSoftware\VS2010\cn_visual_studio_2010_ultimate_x86_dvd_532347.iso");
    LPCTSTR lpDest = TEXT("D:\SourceSoftware\VS2010\cn_visual_studio_2010_ultimate_x86_dvd_532347_copy.iso");*/ 

    /*LPCTSTR lpSrc = TEXT("D:\SourceSoftware\SQLServer2008\cn_sql_server_2008_r2_developer_x86_x64_ia64_dvd_522724.iso");
    LPCTSTR lpDest = TEXT("D:\SourceSoftware\SQLServer2008\cn_sql_server_2008_r2_developer_x86_x64_ia64_dvd_522724_copy.iso");
*/
    /*LPCTSTR lpSrc = TEXT("D:\SourceSoftware\SQLServer2008\cn_sql_server_2008_r2_developer_x86_x64_ia64_dvd_522724.rar");
    LPCTSTR lpDest = TEXT("D:\SourceSoftware\SQLServer2008\cn_sql_server_2008_r2_developer_x86_x64_ia64_dvd_522724_copy.rar");*/

    

      LPCTSTR lpSrc = TEXT("D:\SourceSoftware\VS2012旗舰版\VS2012_ULT_chs.iso");
      LPCTSTR lpDest = TEXT("D:\SourceSoftware\VS2012旗舰版\VS2012_ULT_chs_copy.iso");


    HANDLE hSrcFile = INVALID_HANDLE_VALUE;  //源文件句柄
    HANDLE hDestFile = INVALID_HANDLE_VALUE; //目标文件句柄
    HANDLE hIOCP = NULL;                     //IOCP
    LPVOID lpAddr = NULL;                     //申请内存地址

    __try
    {
        cout << endl << "开始打开源文件" <<endl;
        //源文件
        hSrcFile = CreateFile(
            lpSrc,                                        //源文件
            GENERIC_READ,                                  //读模式
            FILE_SHARE_READ,                              //读共享
            NULL,                                         //安全属性
            OPEN_EXISTING,                                  //必须存在
            FILE_FLAG_OVERLAPPED | FILE_FLAG_NO_BUFFERING,//异步 | 不用缓存
            NULL                                          //文件模板为空
            );
        if(INVALID_HANDLE_VALUE == hSrcFile)
        {
            ShowErrMsg("源文件打开错误");
            return -1;
        }

        cout << endl << "开始打开目的文件" << endl;

        //目的文件
        hDestFile = CreateFile(
            lpDest,                                        //目的文件
            GENERIC_WRITE,                                 //写模式
            0,                                               //独占访问
            NULL,                                           //安全属性
            CREATE_ALWAYS,                                   //总是创建
            FILE_FLAG_OVERLAPPED | FILE_FLAG_NO_BUFFERING, //异步 | 不用缓存
            hSrcFile                                       //文件属性同源文件
            );
        if (INVALID_HANDLE_VALUE == hDestFile)
        {
            ShowErrMsg("目的文件打开错误");
            return -2;
        }

        cout << endl << "开始获取文件尺寸" << endl;
        //源文件尺寸
        LARGE_INTEGER liFileSize;
        BOOL bRet = GetFileSizeEx(hSrcFile, &liFileSize);
        if (FALSE == bRet)
        {
            ShowErrMsg("获取源文件尺寸失败");
            return -3;
        }

        cout << endl << "开始用源文件尺寸设置目的文件大小" << endl;
        
        //设置目的文件指针位置为源文件尺寸 并 设置文件尾
        BOOL bRet2 = SetFilePointerEx(hDestFile, liFileSize, NULL, FILE_BEGIN);
        BOOL bRet3 = SetEndOfFile(hDestFile);
        if (FALSE == bRet2 || FALSE == bRet3)
        {
            ShowErrMsg("设置目的文件尺寸失败");
            return -4;
        }

        cout << endl << "开始获取磁盘扇区大小 和 系统信息" << endl;
        SYSTEM_INFO sysInfo = {0};
        GetSystemInfo(&sysInfo);
        DWORD dwBytesPerSector = 0UL;
        bRet = GetDiskFreeSpace(TEXT("D:"), NULL, &dwBytesPerSector, NULL, NULL);
        if (FALSE == bRet)
        {
            ShowErrMsg("开始获取磁盘扇区大小 错误");
            return -5;
        }


        //读 
        OVERLAPPED ovlpRead;
        ovlpRead.Offset = 0;
        ovlpRead.OffsetHigh = 0;
        ovlpRead.hEvent = NULL;

        //写
        OVERLAPPED ovlpWrite;
        ovlpWrite.Offset = 0;
        ovlpWrite.OffsetHigh = 0;
        ovlpWrite.hEvent = NULL;

        //创建IOCP 并和 文件关联
        hIOCP = CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, 0, sysInfo.dwNumberOfProcessors);
        if (NULL == hIOCP)
        {
            DWORD dwErr = GetLastError();
            if (ERROR_ALREADY_EXISTS != dwErr)
            {
                ShowErrMsg("创建IOCP 失败");
                return -6;
            }
        } 

        hIOCP = CreateIoCompletionPort(hSrcFile, hIOCP, CK_READ, sysInfo.dwNumberOfProcessors);
        hIOCP = CreateIoCompletionPort(hDestFile, hIOCP, CK_WRITE, sysInfo.dwNumberOfProcessors);

        //申请扇区大小的5倍的内存
        size_t sizeMAX = dwBytesPerSector * 1024 * 64 * 2; //512K * 64 * 2
        size_t sizeMIN = dwBytesPerSector * 1024 * 64 * 2; 

        //申请内存
        lpAddr = VirtualAlloc(NULL, sizeMAX, MEM_RESERVE | MEM_COMMIT, PAGE_READWRITE);
        if (NULL == lpAddr)
        {
            ShowErrMsg("申请内存错误");
            return -7;                
        }
         
         
        //先往IOCP的完成队列插入一个 写完成 项
        //写0字节
        PostQueuedCompletionStatus(
            hIOCP,     //IOCP
            0,           //GetQueuedCompletionStatus取到的传送字节为0
            CK_WRITE,  //写操作
            &ovlpWrite //写OVERLAPPED
            );


        DWORD dwBytesTrans = 0;                                    //传输字节数
        ULONG_PTR ulCompleteKey = 0;                            //完成键
        LPOVERLAPPED lpOverlapped = NULL;                        //OVERLAPPED结构
        BOOL bLastTime = FALSE;                                    //最后一个读操作
        int i = 0;
        int j = 0;
        int nCountZero = 0;                                        //计数 


        /************************************************************************/
        /* 因为前一次只是往IOCP的完成队列插入了一项【写完成】，而并非真的写
        只是让下面的代码从 【读操作】开始， 
        执行序列为： 读-写， 读-写， ... ，读-写
        当每个【读操作】完成时：把缓冲区中的数据写入【目的文件】，并更新【源文件】的偏移量


        当每个【写操作】完成时：更新【目的文件】的偏移量，
        同时，因为操作序列是写操作在后，因此写操作完成后，根据更新后的【源文件】的偏移量
        和【源文件】大小做比较，如果大于等于源文件大小，则说明这是最后一次读取操作，则当下一次
        写操作完成时 退出循环。 如果当前【源文件偏移量】没有达到【源文件大小】则再次从【源文件】
        中读取数据进缓冲区，
        /************************************************************************/
        while(TRUE)
        {
            BOOL bRet = GetQueuedCompletionStatus(hIOCP, &dwBytesTrans, &ulCompleteKey, &lpOverlapped, INFINITE);
            if (FALSE == bRet)
            {
                DWORD dwErr = GetLastError();
                if (NULL != lpOverlapped)
                {
                    ShowErrMsg("线程函数返回错误， 错误原因:");
                    cout << dwErr <<endl; 
                    break;
                } //if
                else
                {
                    if (ERROR_TIMEOUT == dwErr)
                    {
                        ShowErrMsg("等待超时"); 
                    }
                    else
                    {
                        ShowErrMsg("线程函数返回错误， 错误原因2:");
                        cout << dwErr <<endl; 
                    }

                    continue;  
                } //else  

            } //if

            //读操作完成 
            if (ulCompleteKey == CK_READ)
            { 
                cout << endl << "-------------第 " << ++ i << " 次操作完成，开始写文件 ---------------- "<<endl;
                WriteFile(hDestFile, lpAddr, sizeMIN, NULL, &ovlpWrite);

                //读操作完成 更新 源文件的偏移量
                LARGE_INTEGER liSrcFile; 
                liSrcFile.QuadPart = dwBytesTrans;

                ovlpRead.Offset += liSrcFile.LowPart;
                ovlpRead.OffsetHigh += liSrcFile.HighPart; 
            } //if

            //写操作完成 
            else if (ulCompleteKey == CK_WRITE)
            {
                //写操作完成， 更新目的文件的偏移量
                LARGE_INTEGER liDestFile;  
                liDestFile.QuadPart = dwBytesTrans;  
                ovlpWrite.Offset += liDestFile.LowPart;
                ovlpWrite.OffsetHigh += liDestFile.HighPart;

                //当前源文件的偏移量 
                LARGE_INTEGER liTemp;
                liTemp.LowPart = ovlpRead.Offset;
                liTemp.HighPart = ovlpRead.OffsetHigh;
                //当前文件偏移是超过文件大小
                if (liTemp.QuadPart >= liFileSize.QuadPart)
                {
                    break;
                }  
                cout << endl << "*************第 " << ++ j << " 次读写操作完成，开始读文件 ***************"<<endl;
                ReadFile(hSrcFile, lpAddr, sizeMIN, NULL, &ovlpRead); 
                 
            } //else if 

        } //while

        SetFilePointerEx(hDestFile, liFileSize, NULL, FILE_BEGIN);
        SetEndOfFile(hDestFile);

        cout << endl << " $$$$$$$$$$$$$$$$$$$$$ 操作完成 $$$$$$$$$$$$$$$$$" <<endl; 
         
    }
    __finally
    {
        cout << endl << "清理资源" <<endl;
        if (INVALID_HANDLE_VALUE != hSrcFile)
            CloseHandle(hSrcFile);
        hSrcFile = INVALID_HANDLE_VALUE;

        if(INVALID_HANDLE_VALUE != hDestFile)
            CloseHandle(hDestFile);
        hDestFile = INVALID_HANDLE_VALUE;

        if(NULL != lpAddr)
            VirtualFree(lpAddr, 0, MEM_RELEASE | MEM_DECOMMIT);
        lpAddr = NULL; 
    }
    


    cout << endl << endl;
    return 0;
}




void ShowErrMsg(LPCSTR lpMsg){    cout << endl << "Some error happened : " << lpMsg << "
"; } 

4、细节和问题

  过程中发现：某个文件的复制进入死循环，判断break退出while的条件永远不成立，即【目的文件的偏移量】没有达到【源文件的大小】这一条件，单步过程中发现是如下问题

另外：关于读写逻辑的问题，一开始是在收到CK_WRITE的时候更新【源文件】偏移量，在收到CK_READ时更新【目的文件】的偏移量，而且发现网上也有这么做的，后来经过折腾发现逻辑有点问题，反过来比较合理，

即 收到CK_WRITE时更新【目的文件偏移量】，收到CK_READ时更新【源文件偏移量】。

 

5、执行结果