全部安全开发新闻数码摄影汽车北京AIIT其他
  • 文章封面

    Claude Code 的上限,就是你的上限

    作者:AI大模型调参指北笔记发布日期:2026-06-02 21:50:12

    过去几个月,我几乎全程在用 Claude Code 开展工作——是正经的生产级工作:搭建新服务、重构遗留系统、从零重建集成测试架构。说实话,这段时间我交付的代码里,超过80%都是AI生成的。但有个没

    阅读全文
  • 文章封面

    如何用Claude Code提升软件工程工作效率、改善生活

    作者:AI大模型调参指北笔记发布日期:2026-06-01 21:00:00

    Claude Code 正席卷软件工程领域,以前所未有的速度改变着这个行业。不少资深工程师直言,自己现在一行代码都不用写了。谷歌负责 Gemini 项目的首席工程师亚娜·多甘(Jaana Dogan

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之二十二

    作者:AI大模型调参指北笔记发布日期:2026-05-31 20:00:00

    stringUtils#if ENABLE_BF16#include <cuda_bf16.h>#endif // ENABLE_BF16#include <cuda_fp16.h>#if ENAB

    阅读全文
  • 文章封面

    OpenClow 深入解析

    作者:AI大模型调参指北笔记发布日期:2026-05-30 21:00:00

    Deep Dive: End-to-End Message Flow我们来一步步追踪你向 OpenClaw 助手发送 WhatsApp 消息时的完整执行流程,理解这一流程能清晰展现系统所有组件如何协

    阅读全文
  • 文章封面

    OpenClaw 架构详解

    作者:AI大模型调参指北笔记发布日期:2026-05-29 21:00:00

    IntroductionOpenClaw 是一套可部署在自有基础设施上的个人AI助手平台:你可以将它运行在笔记本电脑、虚拟专用服务器(VPS)、闲置的Mac Mini或是云容器中。它能把各类AI模型

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之二十一

    作者:AI大模型调参指北笔记发布日期:2026-05-28 21:00:00

    tllmException#define NEW_TLLM_EXCEPTION(...)

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之二十

    作者:AI大模型调参指北笔记发布日期:2026-05-26 21:00:00

    tensorrt_llm/commonfile(GLOB SRCS *.cpp)file(GLOB CU_SRCS *.cu)add_library(common_src OBJECT ${SRCS

    阅读全文
  • 文章封面

    MPI Send and Receive

    作者:AI大模型调参指北笔记发布日期:2026-05-23 21:32:00

    发送和接收是 MPI 里面两个基础的概念。MPI 里面几乎所有单个的方法都可以使用基础的发送和接收 API 来实现。在这节课里,我会介绍怎么使用 MPI 的同步的(或阻塞的,原文是 blocking

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之十九

    作者:AI大模型调参指北笔记发布日期:2026-05-21 21:00:00

    CMakeLists.txtcmake_minimum_required(VERSION 3.18 FATAL_ERROR)set(CMAKE_EXPORT_COMPILE_COMMANDS ON)

    阅读全文
  • 文章封面

    nano-vllm-voxcpm 架构

    作者:AI大模型调参指北笔记发布日期:2026-05-20 21:00:00

    本文档说明 nanovllm_voxcpm/ 包的架构:主要模块的功能、运行时的交互方式。本仓库提供:• 一套与模型无关的推理运行时(调度 + KV 缓存管理 + 执行抽象)。• 基于该运行时实现的

    阅读全文
  • 文章封面

    LLM推理优化的核心技术:深入理解KV缓存与分页注意力机制

    作者:AI大模型调参指北笔记发布日期:2026-05-19 21:00:00

    随着大型语言模型(LLM)的规模和复杂性不断增加,高效的推理变得愈发重要。为优化 LLM 的推理过程,已经出现了两种关键技术,即 KV(键值)缓存和分页注意力。在本文中,我们将详细解释这些概念,理解

    阅读全文
  • 文章封面

    HF 和 TRT-LLM multinomial 采样解码实现三

    作者:AI大模型调参指北笔记发布日期:2026-05-18 21:00:00

    SamplingLayer//! \brief Top class for sampling layers.//! It sets up and executes TopKSamplingLayer

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之十八

    作者:AI大模型调参指北笔记发布日期:2026-05-16 21:00:00

    cpp_library#include <dlfcn.h>template <typename tSymbolSignature>tSymbolSignature getTrtLLMFunction

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之十七

    作者:AI大模型调参指北笔记发布日期:2026-05-15 21:00:00

    sessoin.py@contextlib.contextmanagerdef _scoped_stream(): '''Create a scoped cuda stream, and sy

    阅读全文
  • 文章封面

    HF 和 TRT-LLM multinomial 采样解码实现二

    作者:AI大模型调参指北笔记发布日期:2026-05-14 21:00:00

    invokeBatchApplyPenaltytemplate void invokeBatchApplyPenalty(InvokeBatchApplyPenaltyParams<float> c

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之十六

    作者:AI大模型调参指北笔记发布日期:2026-05-13 21:00:00

    ammo.pytry: import ammo.torch.quantization as atq from ammo.torch.export import export_model_

    阅读全文
  • 文章封面

    flashinfer.sampling 实现二

    作者:AI大模型调参指北笔记发布日期:2026-05-12 21:00:00

    bench_sampling# https://github.com/flashinfer-ai/flashinfer/blob/48966b603ebabcd003f7272e8dc161ce05

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之十四

    作者:AI大模型调参指北笔记发布日期:2026-05-11 21:00:00

    LLaMADecoderLayerclass LLaMADecoderLayer(Module): def __init__(self, layer_id,

    阅读全文
  • 文章封面

    Ruff:打造无错误、高可维护性Python代码的现代化代码检查工具

    作者:AI大模型调参指北笔记发布日期:2026-05-10 22:00:00

    在这里插入图片描述代码检查是编写整洁、可读且可共享代码的关键环节。Ruff这类代码检查工具能分析代码,排查语法错误、风格问题和可疑的代码结构。在提交并共享代码前,通过代码检查可以提前解决问题,提升代

    阅读全文
  • 文章封面

    HF 和 TRT-LLM multinomial 采样解码实现一

    作者:AI大模型调参指北笔记发布日期:2026-05-09 21:00:00

    HF logits_procssGenerationConfigclass GenerationConfig(PushToHubMixin): # no-format """ Cl

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之十四

    作者:AI大模型调参指北笔记发布日期:2026-05-08 22:00:00

    LLaMADecoderLayerclass LLaMADecoderLayer(Module): def __init__(self, layer_id,

    阅读全文
  • 文章封面

    什么是氛围编程(Vibe Coding)?

    作者:AI大模型调参指北笔记发布日期:2026-05-02 21:00:00

    定义氛围编程是一种新兴的软件开发模式:开发者借助人工智能(AI),通过自然语言提示生成可运行代码,大幅提升开发效率,同时降低编程门槛,尤其适合编程基础薄弱的人群快速搭建应用。该概念由AI研究者安德烈

    阅读全文
  • 文章封面

    入门MPI必看!一文搞懂分布式并行编程的核心基础

    作者:AI大模型调参指北笔记发布日期:2026-04-29 21:00:00

    分布式计算早就不是什么“高冷技术”了——它就像我们每天用的手机、电脑一样普及,而你能刷到这篇MPI教程,本身就说明你已经走在了并行编程的路上。不管你是为了课程作业、工作需求,还是单纯对并行/分布式

    阅读全文
  • 文章封面

    MPI Hello World 教程:从代码解析到运行实操

    作者:AI大模型调参指北笔记发布日期:2026-04-29 21:00:00

    这节课将通过一个基础的 MPI Hello World 程序,带大家掌握 MPI 程序的基本结构,同时详细讲解如何编译、运行 MPI 程序,核心涵盖 MPI 环境初始化、进程管理等基础知识点,帮大

    阅读全文
  • 文章封面

    MPI 组与通讯器详解

    作者:AI大模型调参指北笔记发布日期:2026-04-29 21:00:00

    在之前的教程中,我们一直使用默认通讯器 MPI_COMM_WORLD。对于简单程序而言,这已经足够满足需求——毕竟这类程序的进程数量较少,通信场景也相对简单,通常只需与单个进程对话,或与所有进程同

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之十三

    作者:AI大模型调参指北笔记发布日期:2026-04-27 21:00:00

    QuantModefrom enum import IntFlag, auto 这行代码让你能够创建支持位运算(如按位或 |、按位与 &)的枚举类型,并能自动为成员分配值。这在管理一组可以组合使用的

    阅读全文
  • 文章封面

    BS::thread_pool 一个快速、轻量级、现代且易于使用的线程池库

    作者:AI大模型调参指北笔记发布日期:2026-04-25 21:00:00

    IntroductionMotivation多线程技术对于现代高性能计算至关重要。自 C11 版本以来,C 标准库就引入了使用诸如 std::thread 这样的构造函数来实现内置的底层多线程支持。

    阅读全文
  • 文章封面

    MiMo-V2-Flash技术报告

    作者:AI大模型调参指北笔记发布日期:2026-04-24 21:00:00

    摘要本文提出MiMo-V2-Flash,一款总参数量3090亿、激活参数量150亿的混合专家(MoE)大语言模型,专为高效强推理与智能体能力设计。该模型采用滑动窗口注意力(SWA)与全局注意力交替的

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之十二

    作者:AI大模型调参指北笔记发布日期:2026-04-23 21:00:00

    attention.pyclass RotaryScalingType(IntEnum): none = 0 linear = 1 dynamic = 2class Positio

    阅读全文
  • 文章封面

    TensorRT-LLM 0.5.0 源码之十一

    作者:AI大模型调参指北笔记发布日期:2026-04-22 21:00:00

    mlp.py在这里插入图片描述MLPclass MLP(Module): def __init__(self, hidden_size,

    阅读全文
上一页下一页