开发者将破解后的索尼 PS5 当作本地 AI 服务器：利用 GPU 加速运行 27B 参数 Qwen3.8-27B 模型，速度达 20.9 token/s - 开云官网

IT之家 10 月 17 日消息，根据外媒 Wccftech 的报道，开发者 abhi245y 基于资深 AI 工程师 Mert Cobanov 的 PS5LM（llama.cpp 移植项目），打造了一款名为 PS5LM Plus 的原生 GPU 应用。这款应用使得被破解的 PS5 游戏机能够在本地运行 Qwen3.8-27B 等大型语言模型。

IT之家了解到，PS5LM 的初版主要依赖 CPU 来运行模型。在运行 27B 参数模型时，它平均每分钟只能生成大约 1 个 token。为了提升性能，开发者 abhi245y 移植了 Mesa 开源项目中的 AMD RADV 驱动，并借助 Vulkan 计算接口，让 llama.cpp 能够作为原生应用在 PS5 上执行。这一改动将可用内存从大约 6GB 提升到了 11.4GB，使得主机能够运行经过高度量化的 Qwen3.8-27B 模型。

得益于 PS5 较高的内存带宽（448GB/s），Qwen3.8-27B 的生成速度可以达到每秒 20.9 个 token。在测试过程中，GPU 使用率达到了 100%，而 CPU 使用率仅为 2%。对于更小规模的模型，PS5 还能实现更快的生成速度，例如 Gemma 4 E4B 约为每秒 61 个 token，Llama 3.2 3B 则达到了每秒 124 个 token。

除了利用 PS5 的 GPU 来加速模型推理，PS5LM Plus 还内置了网页聊天界面，并且可以通过局域网 8081 端口提供 API 服务。用户能够通过同一网络中的其他设备访问该页面，与本地运行的模型进行交互。该项目还兼容 OpenAI 和 Anthropic API，方便 opencode、Codex、Claude Code 等工具调用 PS5 上运行的模型。

对于一台主要面向游戏设计的主机来说，PS5 能够充当本地 AI 服务器，为大模型推理提供 GPU 加速，这展示了其硬件在游戏之外的应用潜力。不过，该主机配备的 16GB RAM 统一内存仍然限制了模型的选择和运行质量。此外，运行原生版 llama.cpp 需要先对 PS5 进行越狱，这可能导致游戏机及 PSN 账号被封禁等风险。