楓の葉

启用 VLLM 推理加速可以提高 CosyVoice 的的文字识别速度，启用前后解析时间会缩短一半左右。本教程以 CosyVoice2-0.5B 为例来介绍如何启用 vLLM 加速推理。

启用流程

安装 vLLM 依赖

1

pip install vllm==v0.9.0 transformers==4.51.3 numpy==1.26.4 -i https://mirrors.aliyun.com/pypi/simple/ --trusted-host=mirrors.aliyun.com

引入 CosyVoice2ForCausalLM

1
2

from vllm import ModelRegistry
from cosyvoice.vllm.cosyvoice2 import CosyVoice2ForCausalLM

注册 CosyVoice2ForCausalLM

在初始化 AutoModel 之前执行加入以下代码注册模型：

1

ModelRegistry.register_model("CosyVoice2ForCausalLM", CosyVoice2ForCausalLM)

增加初始化参数

1
2
3
4
5

cosyvoice = AutoModel(model_dir='pretrained_models/CosyVoice2-0.5B',
                      fp16=True, 
                      load_vllm=True,
                      load_trt=True, 
                      load_jit=True)

注意要找一个显存充足的显卡，可通过 export CUDA_VISIBLE_DEVICES=3 来指定 CosyVoice 使用的显卡。

参考资料

• Quick Start Examples | FunAudioLLM/CosyVoice | DeepWiki
• FunAudioLLM/CosyVoice: vLLM Usage

设置步骤

点击左下角齿轮图标，在弹出菜单中选择“代码片段”：

在代码片段文件下拉框中输入 Python 之后，点击回车键，之后将打开 python.json 配置文件。

接下来就可以添加常用的代码片段了。

安装配置 centos-release-scl

安装 centos-release-scl

1

sudo yum install centos-release-scl

配置 repo 文件

调整 /etc/yum.repos.d/CentOS-SCLo-scl.repo

1
2
3
4
5
6
7

[centos-sclo-sclo]
name=CentOS-7 - SCLo sclo
baseurl=https://mirrors.aliyun.com/centos/7/sclo/x86_64/sclo/
# mirrorlist=http://mirrorlist.centos.org?arch=$basearch&release=7&repo=sclo-sclo
gpgcheck=1
enabled=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-SIG-SCLo

调整 /etc/yum.repos.d/CentOS-SCLo-scl-rh.repo，注意 baseurl 地址末尾的 /rh/

1
2
3
4
5
6
7

[centos-sclo-rh]
name=CentOS-7 - SCLo rh
baseurl=https://mirrors.aliyun.com/centos/7/sclo/x86_64/rh/
# mirrorlist=http://mirrorlist.centos.org?arch=$basearch&release=7&repo=sclo-rh
gpgcheck=1
enabled=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-SIG-SCLo

刷新缓存

1
2

yum clean all
yum makecache

本文介绍如何在非Windows主机环境下虚拟化安装和配置 Windows 11 操作系统。

关键步骤

1. 如何在无激活码的情况下完成系统安装

2. 如何绕过微软账号登陆验证

实验环境

• 主机操作系统：macOS Sequoia (15.4.1)

• 虚拟机软件：VMware Fusion 13.6.3

• Windows 安装镜像：Win11_24H2_Chinese_Simplified_x64.iso

详细安装步骤

本文记录 Hexo 的 NexT 主题的安装和配置过程，使用的是官方仓库 README 的指引进行。

theme-next/hexo-theme-next: Elegant and powerful theme for Hexo. (github.com)

先决条件

• hexo ：安装部署可参考文章 Hexo 快速入门

安装配置

安装 NexT 主题

Hexo NexT 主题可通过两种方式安装，一种是直接克隆官方仓库到 {hexo-site}/themes/next 下；一种是通过 npm 安装到 Hexo 主目录。本文使用第二种方式进行安装。

提示：{hexo-site} 指的是 Hexo 生成的博客项目主目录，例如 /path/to/my-hexo-blog

使用 npm 安装 Hexo NexT 主题的命令如下：

1
2

$ cd {hexo-site}
$ npm install hexo-theme-next

npm 国内加速镜像配置：npm config set registry http://registry.npmmirror.com

Properties 文件

一种简单的键值对配置文件形式是 properties 文件，可以被 Java 语言原生支持读取。我们可以使用它为项目进行简单的配置管理，典型的 Properties 文件如下所示：

1
2
3
4
5
6
7
8

# config.properties
# Valid values are info, verbose, debug
logging.level=info

setup.hosts.enabled=false

installer.maven.enabled=true
installer.git.enabled=true

那么像这种文件，我们如何在 Bash 环境下进行读取和使用呢？本文接下来将逐步分析实现的过程。

本文将持续更新目前已知的可以设置的国内软件源以及镜像源的设置方法，方便作者自己备查和减轻开发人员搭建环境的阻碍。

GNU/Linux 发行版软件源

CentOS 7

1
2
3
4
5
6
7
8
9
10
11

# run as root or sudo
rm -fr /etc/yum.repos.d/*.repo
curl -sSL https://mirrors.aliyun.com/repo/Centos-7.repo -o /etc/yum.repos.d/CentOS-Base.repo
sed -i -e '/mirrors.cloud.aliyuncs.com/d' \
       -e '/mirrors.aliyuncs.com/d' \
       /etc/yum.repos.d/CentOS-Base.repo
curl -sSL https://mirrors.aliyun.com/repo/epel-7.repo -o /etc/yum.repos.d/epel.repo
curl -sSL https://mirrors.aliyun.com/ius/ius-7.repo -o /etc/yum.repos.d/ius.repo
sed -i 's repo.ius.io mirrors.aliyun.com/ius/ g' /etc/yum.repos.d/ius.repo
yum clean all
yum makecache fast

2022年12月8日，中国的疫情政策全面放开，逐步取消了健康码和行程吗的查验。老百姓被允许自由出入，之后有人🐑了，杨过了，杨康了，王重阳了。。。我也🐑了。

这周搞错框架升级上线的日期，以为是本周六上线，这两天拼命的适配框架，闹了个乌龙。不过也好，手上的任务早做完早轻松（不知是否真的如此~）。今天下班前问了同事，才知本周不上线，看了一下时间，已经是晚上 9 点多了。。

大厂真的是人尽其用，每天安排给你的任务差不多到了 24 小时轮轴转也没法完成的地步。每周各种进度例会，每天被各种业务同事拉会看问题，问题种类五花八门。与此同时，自己手上还有开发要做，有仓库要守护，简直忙的不亦乐乎。

得知任务无需本周完成之后，反手就是起身打卡下班。外面下着雨，回去的路上突然被一个电话会议拉了进去，上来直接跟我说 UAT 测试有问题，让我上线跟他们看问题。不好意思，我已经下班了，有事明天再说，谢谢~

• 看问题非要赶在晚上九点多看么
• 有测试问题处理要不要打提前量

累过之后，渐渐学会区分上班和下班，也要学会说不。

本文介绍如何使用 k3d 在本地快速启动一个 k8s 集群。k3d 是以容器的方式运行 K3s 集群的工具，K3s 是 Rancher 推出的经过 CNCF 认证的与 K8S 完全兼容的发行版，特点是轻量级，启动快，依赖少，适合边缘计算以及资源能力有限的机器上运行集群。k3d 的这种启动方式对平台依赖少，安装部署比较干净利落，理论上本地只需要一个 Docker 运行环境即可。