【端侧AI 与 C++】7. 使用更通用的推理引擎 ONNX Runtime (ORT) 跑通本地模型加载 - 手撕图片预处理
前面我们跑通了流程，但用的是假数据。现在我们要玩真的了。我们将引入一张真实的 JPG/PNG 图片，并亲手写代码把它变成模型能“吃”下的格式。本文在上文封装代码的基础上，我们自己用C++手写代码，真
阅读全文【端侧AI 与 C++】6. 使用更通用的推理引擎 ONNX Runtime (ORT) 跑通本地模型加载 - 封装
上篇文章我们本地跑通了更通用的本地推理框架 ONNX Runtime(ORT)，并对代码进行了拆解和解读。本文我们先将代码整理一下，将那个“一锅炖”的 main.cpp 拆解成专业的 C++ 类结构
阅读全文【端侧AI 与 C++】5. 使用更通用的推理引擎 ONNX Runtime (ORT) 跑通本地模型加载 - 解析
上篇文章我们本地跑通了更通用的本地推理框架 ONNX Runtime(ORT)，本文我们对上文的代码进行拆解和总结。0. 系列文章• 【端侧AI 与 C++】1. llama.cpp源码编译与本地运
阅读全文【端侧AI 与 C++】4. 使用更通用的推理引擎 ONNX Runtime (ORT) 跑通本地模型加载
前面文章我们主要用 llama.cpp 在本地加载并运行了一个模型。但 llama.cpp 主要是针对当下比较火的大模型的。其实，目前最通用的端侧推理引擎是 ONNX Runtime 库。今天，我们
阅读全文【端侧AI 与 C++】3. 第一个 C++ AI 程序 (HelloAI)-解析
上篇文章，我们从0到1写了一个手动调用模型文件的过程。今天，我们在 main.cpp 文件上，深入看一下 llama.cpp 接口的定义，以及一些编码过程中可能有的疑问，例如： 为什么调用模型文件是
阅读全文【端侧AI 与 C++】2. 第一个 C++ AI 程序 (HelloAI)
上篇文章我们本地编译运行了 llama.cpp，跑通了本地模型的运行。但是用的是 llama.cpp 自带的调用模型和运行程序，今天，我们不使用 llama.cpp 自带的 main 程序，我们要自
阅读全文【端侧AI 与 C++】1. llama.cpp源码编译与本地运行
本人 Mac 环境，其它环境可参考0. 环境准备0.1 安装 Homebrew（如果还没装）在终端执行：/bin/bash -c "$(curl -fsSL https://raw.githubus
阅读全文GPT-5来了，为什么却感觉没啥进步？
还记得你第一次用ChatGPT的感觉吗？像从诺基亚穿越到iPhone，震惊得一晚上睡不着。可现在，GPT-5来了，你却只想说一句：就这？AI是不是到瓶颈了？厂商没动力卷了？还是说，我们的感知出了问题？
阅读全文白话论文 | 大模型‘过劳死’警告：数据越多，AI反而越难教？
点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例• 欢迎 点赞 + 关注 👏
阅读全文AI浏览器大爆发：一场“超级入口”争夺战正上演！
点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例• 欢迎 点赞 + 关注 👏
阅读全文AI推理模型的“思维链”：真的可信吗？最新研究揭示真相
点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例• 欢迎 点赞 + 关注 👏
阅读全文无需训练数据！华为团队提出日志分析新方法LogPrompt，性能提升380%
点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例• 欢迎 点赞 + 关注 👏
阅读全文长推理（Long Reasoning）成本太高？7大压缩技术帮你省下一半Token！
点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例• 欢迎 点赞 + 关注 👏
阅读全文【learnOpenGL学习笔记_17】OpenGL高级教程 - 模板测试原理与实践
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例•
阅读全文CoD: 抛弃CoT？大模型推理提速80%！Chain of Draft（草稿链）技术揭秘
点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例• 欢迎 点赞 + 关注 👏
阅读全文【learnOpenGL学习笔记_16】OpenGL高级教程 - 深度测试
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例•
阅读全文MARS框架：用多智能体+苏格拉底对话自动优化AI提示词
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例•
阅读全文很简单的一篇文章：如何一次性使用多个 MCP Server
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例•
阅读全文让AI对话更“长情”，微软清华团队提出记忆优化新框架 - SECOM
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例•
阅读全文【learnOpenGL学习笔记_15】OpenGL模型加载实战 - 从零到一实现复杂模型渲染，加光照更好看
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例•
阅读全文【learnOpenGL学习笔记_14】OpenGL模型加载实战 - 从零到一实现复杂模型渲染
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 微信私信免费领取AI、C++等相关资料，持续收集更新中！• 大家好，我是 同学小张，日常分享AI知识和实战案例• 欢迎 点赞
阅读全文智能体生态革命：谷歌A2A协议重塑 AI Agent 协作新纪元
点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例• 欢迎 点赞 + 关注 👏
阅读全文【踩坑记录】Windows安装Ubuntu双系统，以及Ubuntu安装显卡驱动踩的坑 - 重装十多遍换来的血泪教训
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例•
阅读全文Manus开源替代品梳理：五大项目对比与选型指南，建议收藏
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例•
阅读全文DeepSeek可以进行文生图了？
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 关注后回复 "deepseek"，免费送你一份我整理的AI相关资料！• 大家好，我是 同学小张，日常分享AI知识和实战案例•
阅读全文【learnOpenGL学习笔记_13】OpenGL多光源融合 - 综合实战
如果觉得本文对你有帮助，点个赞和关注呗 ~~~点击上方公众号，关注↑↑↑ 微信私信免费领取AI、C++等相关资料，持续收集更新中！• 大家好，我是 同学小张，日常分享AI知识和实战案例• 欢迎 点赞
阅读全文