TinyML

引言：边缘智能体正在从“能跑模型”变成“能做闭环” 过去几年，端侧 AI 的讨论大多停留在模型能不能塞进设备：摄像头能不能跑目标检测，MCU 能不能跑唤醒词，工业网关能不能离线识别异常。到了 2025 和 2026 年，问题已经变了。现在更值得关心的是：设备能否在本地理解环境、调用工具、管理状态，并在网络不稳定甚至完全离线时完成一个业务闭环。 这也是边缘硬件和 AI Agent 结合后最有价值的地方。真正落地时，模型只是其中一层，摄像头、麦克风、传感器、NPU、DSP、缓存、队列、OTA、日志和安全策略都会影响最终效果。如果只把注意力放在参数量和 TOPS 上，很容易做出一个演示很好看、现场不稳定的系统。 本文关注的主题是 把 ESP32-S3 当作常开感知节点，用低功耗语音、低帧率视觉和本地规则 Agent 完成离线闭环。 它不是简单地把云端大模型搬到开发板上，而是围绕功耗、内存、实时性、隐私、硬件加速和工程可维护性重新设计一套端侧智能系统。 端侧智能体参考架构 输入设备Camera / MicSensor / Bus 预处理ISP / DSP滤波 / 特征 模型推理NPU / GPUINT8 / Cache Agent 决策状态 / 工具策略 / 记忆 设备执行GPIO / UARTMQTT / CAN 云端同步日志 / OTA模型更新 从传感输入到动作反馈，端侧 Agent 需要处理的不只是模型推理。 一、先把系统边界画清楚 边缘 Agent 与普通边缘推理最大的区别，是它要处理“感知—判断—动作—反馈”这条链路。一个只会输出分类结果的模型，通常只需要输入张量和输出张量；一个能工作的端侧智能体，还需要记住最近发生了什么、知道哪些工具可以调用、判断什么时候应该上报云端，以及在失败时如何降级。 实际项目中，最容易出问题的往往不是模型本身，而是层与层之间的数据移动、线程调度和异常恢复。摄像头帧缓冲占了多少内存，音频采集是否会被日志阻塞，NPU 算子有没有回退 CPU，工具调用有没有超时，这些细节都会决定系统能不能长期运行。 二、硬件平台：先看数据路径，再看 TOPS 很多选型文档会把 TOPS 放在第一位，这当然重要，但如果只看 TOPS，很容易踩坑。端侧系统的瓶颈经常出现在摄像头到内存、内存到 NPU、NPU 到 CPU、CPU 到显示或总线这些路径上。尤其是视觉和多模态任务，数据搬运的代价可能比模型计算还高。...

引言 TinyML（Tiny Machine Learning）是嵌入式系统与机器学习的交叉领域，专注于在微控制器等低功耗边缘设备上部署机器学习模型。随着 IoT 设备的普及和边缘计算需求的增长，TinyML 正在成为 2026 年嵌入式开发的核心技能之一。 与传统云端机器学习不同，TinyML 将 AI 推理能力带到设备端，实现低延迟、低功耗、离线运行的智能功能。本文将带你从理论基础到实战部署，完整掌握 TinyML 开发流程。 什么是 TinyML？ 定义与特点 TinyML 是机器学习的一个子集，专注于将训练好的模型部署到微控制器和其他低功耗边缘设备上。其核心特点包括： 特性 说明 超低功耗 通常在毫瓦级功率预算下运行 小内存占用 模型大小通常在几 KB 到几 MB 低延迟推理 本地推理，无需云端通信 离线运行 不依赖网络连接，隐私性更好 低成本 运行在几美元的微控制器上 TinyML vs 传统机器学习 传统 ML 流程： 传感器 → 数据上传 → 云端服务器 → 模型推理 → 结果返回 → 设备执行 ↑________________________________↓ 高延迟、高带宽、隐私风险 TinyML 流程： 传感器 → 本地推理 → 设备执行 ↑___________↓ 低延迟、零带宽、隐私安全 典型应用场景 智能穿戴设备：手势识别、活动分类、健康监测 工业 IoT：预测性维护、异常检测、振动分析 智能家居：语音唤醒词检测、存在感知、能耗优化 农业传感器：病虫害识别、土壤分析、灌溉决策 消费电子：降噪耳机、智能相机、手势控制 TinyML 开发全流程 阶段一：模型开发与训练 1....

什么是 TinyML？ TinyML 是指在资源极度受限的设备（如微控制器）上运行机器学习模型的技术。它让边缘设备能够在本地进行 AI 推理，无需联网。 TinyML 的优势 低功耗：毫瓦级功耗，电池供电可行 低延迟：本地推理，无需云端往返 隐私保护：数据不出设备 离线工作：无需网络连接 成本低：无需昂贵的云端服务 应用场景 应用 说明 语音识别 关键词检测、语音命令 传感器分析 异常检测、预测性维护 图像识别 人脸检测、物体分类 健康监测 心率分析、活动识别 工业 IoT 振动分析、故障预测 开发平台选择 硬件平台 平台 特点 价格 Arduino Nano 33 BLE ARM Cortex-M4F，384KB RAM $25 ESP32-S3 双核 Xtensa，WiFi+BT $8 STM32 Nucleo 多种型号，生态完善 $10-30 Raspberry Pi Pico RP2040，双核 ARM $5 软件框架 TensorFlow Lite for Microcontrollers：最流行 Edge Impulse：在线平台，易用 PyTorch Mobile：适合 Python 开发者 CMSIS-NN：Arm 优化的神经网络库 实战：语音关键词检测 步骤 1：数据收集 使用 Edge Impulse 收集语音数据：...