跳到主要内容

如何在个人计算机上运行open ai的whisper模型

· 阅读需 2 分钟
star

 随着 chatgpt 的发布,open ai 火遍全网,但它所需要的算力也将普通人拒之门外。Github 上一位保加利亚的大神实现了 open ai 的模型,声称可以在个人计算机上运行,本文基于ggerganov /whisper.cpp这个仓库,在 Windows 上运行 whisper 模型。

1. cygwin & MinGW 安装

 该模型编译依赖 gcc ,故需要先在 Windows 上安装 gcc 的编译环境。 cygwin 使用广泛,故本文采用 cygwin

 前往cygwin官网下载安装包,安装到下面界面的时候,记得搜索以下 gcc,找到 mingw 对应的包,只需要选中 gcc-g++ 即可,它会自动安装对应的依赖。

 安装完成之后,打开 cygwin,检查 /usr/bin/ 目录下是否已经安装好 gcc 了。

2. 模型下载

 将 ggml 格式的模型下载到本地。打开 Windows Power Shell,进入到下载文件的 models 目录下,执行以下命令:

.\download-ggml-model.cmd base.en

3.执行编译

 因为 cygwingccg++ 名字问题,在执行 make 命令时需要指定参数。

make CC=x86_64-w64-mingw32-gcc CXX=x86_64-w64-mingw32-g++
信息

 如果提示找不到 dll,思路如下:

  1. 确认 dll 是否已经安装,通过 cygwin 的安装程序即可查看。
  1. 将下面变量放到 .bashrc 文件里
export LD_LIBRARY_PATH=/usr/lib
export PATH=$PATH:/usr/x86_64-w64-mingw32/sys-root/mingw/bin

4. 执行 whisper

./main -f samples/jfk.wav

署名-非商业性使用-禁止演绎 4.0 国际