• 囧次元动漫

    你有没有算过一笔账?
    每天调试提示词20次,整理资料10次,写脚本5次,还要反复测Skill。一个月下来,WorkBuddy积分消耗轻松破千。充值界面点过几次后,我忽然意识到——这不是一次性投入,是持续性出血。
    换条路走吧。本地模型。
    起初我也觉得这事门槛高,动手后发现比想象中直接。把通义千问装进自己电脑,让WorkBuddy调本地接口,推理不再走云端,积分从此不动。思路清晰,操作也不复杂。
    图片

    主楼
  • 囧次元动漫

    下面聊点实在的。
    B硬件这件事,骗不了人
    网上动不动就推荐14B,但真跑起来,8G内存的机器直接卡成PPT。我的建议很现实:
    · 日常办公本(8G):7B是上限,响应速度能接受
    · 开发机或游戏本(16G+):上14B,体验明显提升
    别跟自己电脑过不去。能流畅跑的模型才是好模型。

    ▍@gamini4amor:7B、14B的模型从哪下?后缀代码从哪能看到?那天下了一个1.1几的QWEN,直接晕菜!

    #1
  • 囧次元动漫

    配置过程,关键就三点
    第一步装Ollama,官网下载安装。装完在终端输入ollama list验证是否正常运行。
    第二步拉模型。终端执行ollama pull qwen2.5:7b或14b版本。下载完再ollama list,把模型名复制下来——待会配置要一字不差地填进去。
    第三步进WorkBuddy对接。路径是左下角头像→设置→模型→添加模型。

    #2
  • 囧次元动漫

    真实体验,不吹不黑
    好处很实在:
    积分再也不用精打细算。以前调试Skill还得掂量着用,现在反复测、来回调,完全不心疼。大量文字处理、资料整理这种体力活,全扔给本地模型干。
    数据留在自己机器上。处理内部文档、代码片段、项目笔记,不用上传云端,心理上踏实很多。
    没网也能用。只要Ollama服务开着,WorkBuddy照样工作。
    但局限性也得说清楚:
    速度全看电脑性能。7B在轻薄本上还凑合,14B就开始吃内存了。复杂Agent、图片理解、高级推理这些重活,本地模型跟云端比还是有差距。
    还有个小事:Ollama得一直后台跑,不小心关了,WorkBuddy调用就会报错。

    #3
  • 囧次元动漫

    我的真实用法
    现在分工很明确:文本处理、提示词调试、资料整理这些日常活走本地,省积分。需要复杂推理、图片识别、专业Agent能力的任务,再切回官方云端。
    这样搭配着用,既省钱又不耽误事。
    B谁适合折腾这套?
    符合下面情况的值得一试:高强度用WorkBuddy、积分经常见底、需要反复调试Skill、处理敏感资料不方便上传、偶尔断网环境办公。
    如果只是偶尔用用、写写文案、问几个问题,真没必要折腾。本地模型对你的价值不大,直接云端更省心。
    B说句掏心窝的话
    本地模型不是什么黑科技,它解决的是个很具体的痛点:把大量重复性、低复杂度的工作从云端挪到本地,释放你的积分压力。它不会让WorkBuddy变得更强,但会让你用得更从容。
    仅此而已。
    B想听听你的情况
    你在用WorkBuddy吗?积分够不够用?有没有动过接本地模型的念头?电脑什么配置,想跑多大的模型?评论区聊聊,我帮你参谋参谋。
    免责声明:本文基于个人在特定硬件环境下的实测记录,不同电脑配置、系统版本、Ollama及WorkBuddy版本可能存在差异。本地模型性能受限于本机硬件条件,开源模型使用请遵守对应开源协议。本文仅作技术学习交流,不代表官方配置方案。

    #4
  • lishuyao1

    这帮人都鸡巴瞎忽悠,你装这个本地模型,那7B模型装的本地就跟二傻子一样,啥都干不了

    ▍@零零000012:本地+网页足够应对百分之95的情况,剩下应对不了的自己去api付钱而且大模型也不是什么都能做到

    #5
  • deepblue1226

    macmini4 丐版够不够部署本地模型?

    #6
  • pbc17371584401

    现在不是每天签到100+每个月送500+注册赠送的1500,自己注册几个号。让他帮你做个本地网关转发服务,github上开源项目就有。自己搞几个号组成号池和中转站一个道理

    ▍@xqrx90:兄弟 GitHub 那个项目叫什么

    #7
  • for_never

    我用单位数据中心部署的deepseek v4 flash int8 日常办公操作都感觉用着很勉强。。。

    #8
  • 【复仇】

    赞成,本地大模型拿来做点东西是真的可行;16G显卡算是刚好的,qwen3.5-9b,256上下文,可以满足挺多需求;但是速度一般

    #9

发表回复

登录后回复