一、说明
如果有一个工具能识别音视中的语音并转换成文字输出，由于可以复制粘贴而不需要逐字逐句地打，那我们进行为音频配字幕工作时将会事半功倍。
其中的关键点是音文转换，音文转换其实在很多地方都可以看到比如qq，百度搜索，讯飞输入法等等，具体到技术而言前述的三个场景其背后的技术都是一样的，都是利用AI进行语音识别。而且腾讯、百度、讯飞当前都开放了自家的语音识别接口免费使用，本文就是利用的百度语音识别接口实现的转换。
其实就配字幕这种工作而言，当前应该可以实现通过写代码自动给音频文件配上字幕，复制粘贴这步都可以省了，当然这不在本文的实现范围。
另外AI识别有一定的错误率，在我们自己使用qq、百度、讯飞时应该都有体会，更何况开放出来的接口一般都不会是公司产品百分百的能力，所以肯定还是要人工介入修正。
二、音文转换程序
2.1 程序说明
官方文档：http://ai.baidu.com/docs#/ASR-API/top
语音识别接口：http://vop.baidu.com/server_api
接口要求：只接受pcm格式音频，请求次数不限但每个音视不能超过60秒
系统环境：Windows-7 X64、Python-3.6.5 X64（miniconda）。minicoda安装可参见“PyCharm+Miniconda3安装配置教程”第二大点，如果直接安装python网上搜搜教程即可。另外需要requests模块所以装完python后需要执行pip install requests安装一下。
gihub地址：https://github.com/PrettyUp/BaiduAI。这里将程序和之前写的程序都放在了BaiduAI项目录，只管其中的vtt目录即可。
程序支持：仅支持mp3格式文件，仅支持英语（要支持普通话将post的dev_pid参数修改为1536即可，参见官方文档）
程序流程：获取video目录下的所有mp3文件并逐个进行处理----将当前要处理的mp3文件使用ffmpeg转换成pcm格式----将生成的pcm文件使用speech-vad-demo切割----将切割后的pcm文件逐个进行音文转换
运行操作：安装好系统环境----将压缩包解压到任意目录----将要转换的mp3文件复制到video文件夹下----使用python运行baiduvi.py文件----程序执行完后在video文件夹下会为各mp3文件生成其同名.srt文件其中即是语音转换成的文字。（首版代码生成的是txt文件，按建议改为直接生成.srt格式字幕文件，操作等使用方式都没改变）如下所示
2.2 程序代码
程序自己写的只有一个文件，我这里命名为baiduvi.py
import base64 import json import os import time import shutil import requests class BaiduVoiceToTxt(): # 初始化函数 def __init__(self): # 定义要进行切割的pcm文件的位置。speech-vad-demo固定好的，没的选 self.pcm_path = ".\speech-vad-demo\pcm\16k_1.pcm" # 定义pcm文件被切割后，分割成的文件输出到的目录。speech-vad-demo固定好的，没的选 self.output_pcm_path = ".\speech-vad-demo\output_pcm\" # 百度AI接口只接受pcm格式，所以需要转换格式 # 此函数用于将要识别的mp3文件转换成pcm格式，并输出为.speech-vad-demopcm16k_1.pcm def change_file_format(self,filepath): file_name = filepath # 如果.speech-vad-demopcm16k_1.pcm文件已存在，则先将其删除 if os.path.isfile(f"{self.pcm_path}"): os.remove(f"{self.pcm_path}") # 调用系统命令，将文件转换成pcm格式，并输出为.speech-vad-demopcm16k_1.pcm change_file_format_command = f".\ffmpeg\bin\ffmpeg.exe -y -i {file_name} -acodec pcm_s16le -f s16le -ac 1 -ar 16000 {self.pcm_path}" os.system(change_file_format_command) # 百度AI接口最长只接受60秒的音视，所以需要切割 # 此函数用于将.speech-vad-demopcm16k_1.pcm切割 def devide_video(self): # 如果切割输出目录.speech-vad-demooutput_pcm已存在，那其中很可能已有文件，先将其清空 # 清空目录的文件是先删除，再创建 if os.path.isdir(f"{self.output_pcm_path}"): shutil.rmtree(f"{self.output_pcm_path}") time.sleep(1) os.mkdir(f"{self.output_pcm_path}") # vad-demo.exe使用相对路径.pcm和.output_pcm，所以先要将当前工作目录切换到.speech-vad-demo下不然vad-demo.exe找不到文件 os.chdir(".\speech-vad-demo\") # 直接执行.vad-demo.exe，其默认会将.pcm16k_1.pcm文件切割并输出到.output_pcm目录下 devide_video_command = ".\vad-demo.exe" os.system(devide_video_command) # 切换回工作目录 os.chdir("..\") # 此函数用于将.speech-vad-demooutput_pcm下的文件的文件名的时间格式化成0:00:00,000形式 def format_time(self, msecs): # 一个小时毫秒数 hour_msecs = 60 * 60 * 1000 # 一分钟对应毫秒数 minute_msecs = 60 * 1000 # 一秒钟对应毫秒数 second_msecs = 1000 # 文件名的时间是毫秒需要先转成秒。+500是为了四舍五入，//是整除 # msecs = (msecs + 500) // 1000 # 小时 hour = msecs // hour_msecs if hour < 10: hour = f"0{hour}" # 扣除小时后剩余毫秒数 hour_left_msecs = msecs % hour_msecs # 分钟 minute = hour_left_msecs // minute_msecs # 如果不足10分钟那在其前补0凑成两位数格式 if minute < 10: minute = f"0{minute}" # 扣除分钟后剩余毫秒数 minute_left_msecs = hour_left_msecs % minute_msecs # 秒 second = minute_left_msecs // second_msecs # 如果秒数不足10秒，一样在其前补0凑足两位数格式 if second < 10: second = f"0{second}" # 扣除秒后剩余毫秒数 second_left_msecs = minute_left_msecs % second_msecs # 如果不足10毫秒或100毫秒，在其前补0凑足三位数格式 if second_left_msecs < 10: second_left_msecs = f"00{second_left_msecs}" elif second_left_msecs < 100: second_left_msecs = f"0{second_left_msecs}" # 格式化成00:00:00,000形式，并返回 time_format = f"{hour}:{minute}:{second},{second_left_msecs}" return time_format # 此函数用于申请访问ai接口的access_token def get_access_token(self): # 此变量赋值成自己API Key的值 client_id = 'f3wT23Otc8jXlDZ4HGtS4jfT' # 此变量赋值成自己Secret Key的值 client_secret = 'YPPjW3E0VGPUOfZwhjNGVn7LTu3hwssj' auth_url = 'https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=' + client_id + '&client_secret=' + client_secret response_at = requests.get(auth_url) # 以json格式读取响应结果 json_result = json.loads(response_at.text) # 获取access_token access_token = json_result['access_token'] return access_token # 此函数用于将.speech-vad-demooutput_pcm下的单个文件由语音转成文件 def transfer_voice_to_srt(self,access_token,filepath): # 百度语音识别接口 url_voice_ident = "http://vop.baidu.com/server_api" # 接口规范，以json格式post数据 headers = { 'Content-Type': 'application/json' } # 打开pcm文件并读取文件内容 pcm_obj = open(filepath,'rb') pcm_content_base64 = base64.b64encode(pcm_obj.read()) pcm_obj.close() # 获取pcm文件大小 pcm_content_len = os.path.getsize(filepath) # 接口规范，则体函义见官方文件，值得注意的是cuid和speech两个参数的写法 post_data = { "format": "pcm", "rate": 16000, "dev_pid": 1737, "channel": 1, "token": access_token, "cuid": "1111111111", "len": pcm_content_len, "speech": pcm_content_base64.decode(), } proxies = { 'http':"127.0.0.1:8080" } # 调用接口，进行音文转换 response = requests.post(url_voice_ident, headers=headers, data=json.dumps(post_data)) # response = requests.post(url_voice_ident,headers=headers,data=json.dumps(post_data),proxies=proxies) return response.text if __name__ == "__main__": # 实例化 baidu_voice_to_srt_obj = BaiduVoiceToTxt() # 自己要进行音文转换的音视存放的文件夹 video_dir = ".\video\" all_video_file =[] all_file = os.listdir(video_dir) subtitle_format = "{\fscx75\fscy75}" # 只接受.mp3格式文件。因为其他格式没研究怎么转成pcm才是符合接口要求的 for filename in all_file: if ".mp3" in filename: all_video_file.append(filename) all_video_file.sort() i = 0 video_file_num = len(all_video_file) print(f"当前共有{video_file_num}个音频文件需要转换，即将进行处理请稍等...") # 此层for循环是逐个mp3文件进行处理 for video_file_name in all_video_file: i += 1 print(f"当前转换{video_file_name}({i}/{video_file_num})") # 将音视翻译成的内容输出到同目录下同名.txt文件中 video_file_srt_path = f".\video\{video_file_name[:-4]}.srt" # 以覆盖形式打开.txt文件 video_file_srt_obj = open(video_file_srt_path,'w+') filepath = os.path.join(video_dir, video_file_name) # 调用change_file_format将mp3转成pcm格式 baidu_voice_to_srt_obj.change_file_format(filepath) # 将转换成的pcm文件切割成多个小于60秒的pcm文件 baidu_voice_to_srt_obj.devide_video() # 获取token access_token = baidu_voice_to_srt_obj.get_access_token() # 获取.speech-vad-demooutput_pcm目录下的文件列表 file_dir = baidu_voice_to_srt_obj.output_pcm_path all_pcm_file = os.listdir(file_dir) all_pcm_file.sort() j = 0 pcm_file_num = len(all_pcm_file) print(f"当前所转文件{video_file_name}({i}/{video_file_num})被切分成{pcm_file_num}块，即将逐块进行音文转换请稍等...") # 此层for是将.speech-vad-demooutput_pcm目录下的所有文件逐个进行音文转换 for filename in all_pcm_file: j += 1 filepath = os.path.join(file_dir, filename) if (os.path.isfile(filepath)): # 获取文件名上的时间 time_str = filename[10:-6] time_str_dict = time_str.split("-") time_start_str = baidu_voice_to_srt_obj.format_time(int(time_str_dict[0])) time_end_str = baidu_voice_to_srt_obj.format_time(int(time_str_dict[1])) print(f"当前转换{video_file_name}({i}/{video_file_num})-{time_start_str}-{time_end_str}({j}/{pcm_file_num})") response_text = baidu_voice_to_srt_obj.transfer_voice_to_srt(access_token, filepath) # 以json形式读取返回结果 json_result = json.loads(response_text) # 将音文转换结果写入.srt文件 video_file_srt_obj.writelines(f"{j} ") video_file_srt_obj.writelines(f"{time_start_str} --> {time_end_str} ") if json_result['err_no'] == 0: print(f"{time_start_str}-{time_end_str}({j}/{pcm_file_num})转换成功：{json_result['result'][0]}") video_file_srt_obj.writelines(f"{subtitle_format}{json_result['result'][0]} ") elif json_result['err_no'] == 3301: print(f"{time_start_str}-{time_end_str}({j}/{pcm_file_num})音频质量过差无法识别") video_file_srt_obj.writelines(f"{subtitle_format}音频质量过差无法识别 ") else: print(f"{time_start_str}-{time_end_str}({j}/{pcm_file_num})转换过程遇到其他错误") video_file_srt_obj.writelines(f"{subtitle_format}转换过程遇到其他错误 ") video_file_srt_obj.writelines(f" ") video_file_srt_obj.close()
参考：