跳到主内容
福利啊论坛
返回资源帖子

把 PS5 变成本地 AI 服务器:居家也能跑大模型?

资源

把 PS5 变成本地 AI 服务器:居家也能跑大模型?

一句话结论:有创意也有点疯狂的把越狱 PS5 改成了本地 AI 服务器,能在电视上用手柄浏览模型、跑模型速度还不错,能解决的麻烦是摆脱云端依赖、在家就能做科研的本地算力。

下面讲讲怎么用、能做到啥、以及需要注意的点。

  • 这到底是个什么玩意
    有个国外玩家把越狱后的 PS5 改造成本地 AI 服务器,做成了原生应用,甚至可以在电视上用手柄直接操作,浏览 Hugging Face 上的模型。简单理解就是把家里的一台游戏主机,变成一台小型本地 AI 机房。

  • 能干成什么样的事
    这套改造的亮点在于把大模型跑在本地,速度还挺给力:

    • Qwen 27B 大模型跑到大概 20 tok/s(tokens/秒)。
    • Llama 3.2 3B 版本达到约 124 tok/s。
      当然这是在特定配置下的体验,具体还得看实现细节和硬件环境。PS5 自带 16GB GDDR6 显存,带宽 448GB/s,二手价也不贵,算是“低门槛的本地 AI 硬件入口”之一。
  • 怎么用,怎么操作(大致步骤)

    1. 获取并准备设备:你需要一台可越狱的 PS5,为了能跑本地模型,需要确保系统环境允许自定义应用的安装与运行。
    2. 安装本地 AI 应用:把 AI 服务或应用打包成 PS5 原生的应用形态,放到可启动的环境中。
    3. 连接输入输出:在电视上打开应用界面,用手柄就能浏览、选取模型,像在手机/电脑上用 Hugging Face 那样浏览模型列表。
    4. 试用与测试:挑几个你熟悉的模型(如 Qwen、Llama 系列等)测试推理速度与稳定性,观察是否需要显存/显卡调优。
    5. 维护与扩展:本地 AI 服务器的好处是可控、降延迟、隐私保护,但也要留意散热、功耗和更新。
  • 为什么这件事值得关注

    • 不再被云端模型的调用次数和带宽限制束缚,隐私和数据不出家门就能运行本地推理。
    • 以 PS5 这样的消费级硬件作为本地 AI 入口,降低了入门门槛,让更多家庭和个人科研爱好者尝试本地化的 AI 架构。
    • 即便是二手设备,仍然具备可观的算力,性价比挺高。
  • 做这件事的潜在坑

    • 越狱/自定义必须有风险,稳定性和安全性要自行评估。
    • 模型大小和显存/显带的实际瓶颈,可能决定你能跑哪些模型、以及推理速度。
    • 具体的安装包、操作步骤需要来源的原始教程或社区工具来完成,务必确认来源可靠性。
  • 配图信息
    图1
    图2

  • 实用链接

    • 相关素材定位/参考:
    • 其他相关资源请自行在官方文档/仓库中查找,确保所用工具版本与硬件环境匹配。

结尾小提示:如果你正打算尝试,把家里最不值钱的设备先当成“AI 实验床”,别急着把 couch 的灯光变成“雪茄房”,一步步来,总能在客厅里找到一个属于自己的本地 AI 办公/科研角落。

19次阅读00举报

评论 0

还没有评论,来说两句吧。

登录 后参与评论