最近，AI 编程工具非常火爆，从 Cursor、V0、Bolt.new 再到最近的 Windsurf。
本篇我们先来聊聊开源方案-Bolt.new，产品上线四周，收入就高达400万美元。
无奈该网站国内访问速度受限，且免费 Token 额度有限。
怎么在本地运行，让更多人用上，加速AI落地，是猴哥的使命。
今日分享，带大家用本地 Ollama 部署的大模型，驱动 bolt.new，实现 AI 编程的 Token 自由。
1. Bolt.new 简介
Bolt.new 是基于SaaS的AI编码平台，底层是由 LLM 驱动的智能体，结合WebContainers 技术，在浏览器内即可实现编码和运行，其优势有：
-
支持前后端同时开发；
-
项目文件夹结构可视化；
-
环境自托管，自动安装依赖（如 Vite、Next.js 等）；
-
运行 Node.js 服务器，从部署到生产
Bolt.new的目标是，让更多人都能完成 web应用开发，即便是编程小白，也能通过简单的自然语言实现创意。
官方已将项目开源：https://github.com/stackblitz/bolt.new
不过，官方开源的 bolt.new 支持模型有限，国内很多小伙伴都无法调用海外的 LLM API。
社区有大神二开了 bolt.new-any-llm，可支持本地 Ollama 模型，下面带大家实操一番。
2. Qwen2.5-Code 本地部署
前段时间，阿里开源了 Qwen2.5-Coder 系列模型，其中 32B 模型在十余项基准评测中均取得开源最佳成绩。
无愧全球最强开源代码模型，在多项关键能力上甚至超越 GPT-4o。
Ollama 模型仓库也已上线 qwen2.5-coder：
Ollama 是一款小白友好的大模型部署工具
2.1 模型下载
关于下载多大的模型，可根据自己的显存进行选择，32B 模型至少确保 24G 显存。
下面我们以 7b 模型进行演示：
2.2 模型修改
由于 Ollama 的默认最大输出为 4096 个token，对于代码生成任务而言，显然是不够的。
为此，需要修改模型参数，增加上下文 Token 数量。
首先，新建 Modelfile 文件，然后填入：
然后，开始模型转换：
转换成功后，再次查看模型列表：
2.3 模型运行
最后，在服务端检查一下，看模型能否被成功调用：
如果没什么问题，就可以在 bolt.new 中调用了。
3. Bolt.new 本地运行
3.1 本地部署
step1: 下载支持本地模型的 bolt.new-any-llm：
step2: 复制一份环境变量：
step3: 修改环境变量，将替换成自己的：
step4: 安装依赖（需本地已安装好 node）
step5: 一键运行
看到如下输出，说明启动成功：
3.2 效果展示
浏览器中打开，选择 Ollama 类型模型：
注意：首次加载，如果没拉取到 Ollama 中的模型，多刷新几次看看看。
来实测一番~
左侧是区域，右侧是区域，下方是区域。写代码、安装依赖、终端命令，全部由 AI 帮你搞定！
如果遇到报错，直接把报错丢给它，再次执行，如果没什么问题，右侧页面就可以成功打开。
注：由于示例中用的 7b 小模型，有需要的朋友可以尝试用 32b 模型，效果会有显著提升。
写在最后
本文带大家在本地部署了 qwen2.5-code 模型，并成功驱动 AI 编程工具 bolt.new。
用它来开发前端项目还是相当给力的，当然，要想用好它，懂点基本的前后端概念，会事半功倍。
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓
对于0基础小白入门：
如果你是零基础小白，想快速入门大模型是可以考虑的。
一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。
👉1.大模型入门学习思维导图👈
要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。
👉2.AGI大模型配套视频👈
很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。
👉3.大模型实际应用报告合集👈
这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）
👉4.大模型落地应用案例PPT👈
光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。（全套教程文末领取哈）
👉5.大模型经典学习电子书👈
👉6.大模型面试题&答案👈
截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）
• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；
• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习