C#实现语音预处理:降噪、静音检测、自动增益(附Demo源码)

      无论是在音视频录制系统,还是音视频通话系统、或视频会议系统中,对从麦克风采集到的说话的声音数据进行预处理,都是是非常必要的。

      语音数据预处理主要包括:​​降噪(Noise Reduction)、静音检测(Silence Detection/VAD)、自动增益(Automatic Gain Control, AGC)​​ 。

一. 语音预处理的作用

   我们先解释一下,降噪、静音检测、自动增益,这些语音预处理分别起什么作用。

(1)降噪

      降噪,用于消除背景噪声,比如马路车流声、环境杂音等,以保留清晰的说话人声。

      更高级的,结合AI模型训练,还可以消除电脑的风扇声、键盘敲击声等等。

(2)静音检测

      静音检测,又称为语音活动检测,用于识别音频流中的静音片段(没有讲话人声),这样可以简化后续的编码等环节,并可以节省传递所需要的带宽。

(3)自动增益

      自动增益,用于动态调整说话声音的音量,使输出电平保持稳定,以避免讲话的声音忽大忽小。

二. 实现语音预处理

      接下来,我们使用C#实现一个Demo,这个Demo将从麦克风采集声音数据,然后进行语音预处理,并且将处理后的声音数据实时播放出来。Demo的运行效果如下图所示:

      C#实现语音预处理:降噪、静音检测、自动增益(附Demo源码)

      Demo 功能很简单,那我们来具体看看代码是如何实现的。

1. 创建采集器、预处理器、播放器

     麦克风声音数据采样率我们选择16K、单声道。 

WaveSampleRate sr = WaveSampleRate.S16k; int channelCount = 1;  //创建语音预处理器,开启降噪、自动增益、静音检测 this.voicePreprocessor = CapturerFactory.CreateVoicePreprocessor(sr, channelCount, true ,true); //创建麦克风采集器 this.microphoneCapturer = CapturerFactory.CreateMicrophoneCapturer(int.Parse(this.textBox_mic.Text), sr); this.microphoneCapturer.AudioCaptured += new ESBasic.CbGeneric<byte[]>(microphoneCapturer_AudioCaptured); //创建声音播放器 this.audioPlayer = PlayerFactory.CreateAudioPlayer(int.Parse(this.textBox_speaker.Text), (int)sr, channelCount, 16, 2);                  this.microphoneCapturer.Start();

  CreateVoicePreprocessor 方法的最后两个参数可以指定在降噪的同时,是否开启静音检测和自动增益功能。

2. 预处理语音数据

      语音预处理器每次处理10ms的声音数据,而现在的麦克风采集器每次采集的是20ms的PCM数据,所以,我们将其拆成两个10ms数据,再提交给预处理器处理。

void microphoneCapturer_AudioCaptured(byte[] audioData) {     if (this.checkBox_enabled.Checked)     {         //麦克风每次采集20ms数据,降噪器每次处理10ms数据。         byte[] frame10ms1 = new byte[audioData.Length / 2];         byte[] frame10ms2 = new byte[audioData.Length / 2];         Buffer.BlockCopy(audioData, 0, frame10ms1, 0, frame10ms1.Length);         Buffer.BlockCopy(audioData, frame10ms1.Length, frame10ms2, 0, frame10ms2.Length);         this.HandleData(frame10ms1);         this.HandleData(frame10ms2);         return;     }      this.audioPlayer.Play(audioData); }

(1)通过一个CheckBox勾选框来实时控制是否启用语音预处理,这样在测试时,就可以很方便的对比体验开启了语音预处理的效果。

(2)调用IVoicePreprocessor 的 Process 方法,就可以完成一帧语音数据(10ms)的预处理。如下所示:

private void HandleData(byte[] frame10ms) {     byte[] res = this.voicePreprocessor.Process(frame10ms);                 if (res == null) //静音帧     {         ++this.silenceFrameCountTotal;         this.audioPlayer.Play(this.voicePreprocessor.SlienceFrame);     }     else     {         this.audioPlayer.Play(res);     } }

  如果Process 方法返回的是null,表示检测到该帧是静音帧,于是,将内置的10ms静音帧 SlienceFrame 提交给播放器去播放。

3. 统计静音帧数量

  一个语音帧是10ms,那么1秒钟就有100个语音帧,程序中,我们统计了上一秒出现了多少个静音帧,并在UI左下方显示出来。

private volatile int silenceFrameCountTotal = 0; private volatile int silenceFrameCountPre = 0; private void timer1_Tick(object sender, EventArgs e) {     int delt = this.silenceFrameCountTotal - this.silenceFrameCountPre;     this.silenceFrameCountPre = this.silenceFrameCountTotal;     //显示上一秒静音帧数量。     this.label_silenceFrameCount.Text = delt.ToString(); }

   实际测试时可以发现,当不说话时,UI实时显示1秒钟出现的静音帧是100个。

三. Demo源码下载

        源码下载:VoicePreprocessDemo.rar

   如果不想打开VS,可以直接到Debug目录下,双击 Oraycn.VoicePreprocessDemo.exe 即可运行Demo,开始体验语音降噪、静音检测、自动增益的处理效果。

        建议使用耳麦测试,对比效果会更明显。当开启预处理时,能立即感觉到背景噪音消失了,而且说话的声音变大了(AGC),不说话时,UI显示静音帧的数量变多。

   来下载试试语音预处理的效果吧。

 

发表评论

评论已关闭。

相关文章