基于whisper流式语音识别

为了实现持续监听麦克风并在检测到声音时进行转录，我们可以将流的监听时间设置为无限长。通过使用一个音量门限来检测是否有声音，然后进行转录。

安装依赖

确保安装必要的库：

pip install torch torchaudio openai-whisper sounddevice numpy
1

代码实现

import torch
import whisper
import sounddevice as sd
import numpy as np

# 加载预训练的 Whisper 模型
model = whisper.load_model("base")

# 设置模型为评估模式
model.eval()

# 定义流式解码函数
def stream_decode(audio_buffer, sample_rate=16000):
    audio_tensor = torch.tensor(audio_buffer).float()
    result = model.transcribe(audio_tensor, fp16=False)
    return result['text']

# 音频缓冲区和其他参数
buffer_size = 16000  # 每个音频块的大小（1秒）
audio_buffer = np.zeros(buffer_size * 10, dtype=np.float32)  # 预留10秒缓冲区
buffer_offset = 0
silence_threshold = 0.01  # 声音门限

# 麦克风回调函数
def callback(indata, frames, time, status):
    global audio_buffer, buffer_offset

    if status:
        print(status, flush=True)

    # 计算当前音频块的音量
    volume_norm = np.linalg.norm(indata) * 10
    if volume_norm > silence_threshold:
        # 将新音频数据复制到缓冲区
        audio_buffer[buffer_offset:buffer_offset+frames] = indata[:, 0]
        buffer_offset += frames

        # 当缓冲区达到或超过设定的大小时进行处理
        if buffer_offset >= buffer_size:
            text = stream_decode(audio_buffer[:buffer_size])
            print(f"Transcription: {text}", flush=True)

            # 移动缓冲区的数据
            audio_buffer = np.roll(audio_buffer, -buffer_size)
            buffer_offset -= buffer_size
    else:
        # 如果检测到的音量低于门限，将缓冲区位置重置
        buffer_offset = 0

# 启动麦克风流
def start_streaming():
    stream = sd.InputStream(callback=callback, channels=1, samplerate=16000, blocksize=buffer_size)
    with stream:
        print("Listening...")
        while True:
            sd.sleep(1000)  # 继续监听

# 开始流式解码
start_streaming()
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59

代码说明

1. 依赖加载：

   • torch 和 torchaudio 用于音频处理和模型推理。
   • whisper 是 OpenAI 的 Whisper 模型的库，用于加载和使用预训练模型。
   • sounddevice 用于从麦克风捕获实时音频。
   • numpy 用于音频数据处理。

2. 流式解码函数 stream_decode：

   • 接受音频缓冲区并使用 Whisper 模型进行解码。
   • 返回解码后的文本。

3. 音频缓冲区和参数设置：

   • buffer_size 定义每个音频块的大小，这里设置为1秒（16000个样本）。
   • audio_buffer 是一个大小为10秒的预留缓冲区。
   • buffer_offset 用于跟踪当前缓冲区的位置。
   • silence_threshold 是音量门限，用于检测有无声音。

4. 麦克风回调函数 callback：

   • 从麦克风捕获音频数据并将其存储到缓冲区中。
   • 计算当前音频块的音量，如果音量超过门限，则将音频数据添加到缓冲区，并进行解码处理。
   • 解码后打印转录结果，并移动缓冲区的数据以准备处理下一个音频块。
   • 如果音量低于门限，将缓冲区位置重置。

5. 启动麦克风流 start_streaming：

   • 使用 sounddevice.InputStream 创建一个音频流，并在回调函数中处理音频数据。
   • 启动流并持续运行，通过 while True 循环保持监听状态。

这个示例代码展示了如何实现持续监听麦克风，并在检测到声音时进行实时转录。你可以根据实际需求进一步优化音量门限和缓冲区处理逻辑，以提高性能和准确性。