目录

基于 openvela 的本地音频事件检测系统

本项目基于 openvela / NuttX 构建端侧音频事件检测系统,实现 DMIC 实时采集、MFCC 特征提取、TFLite Micro INT8 推理、后处理确认和本地事件告警,可在无云端依赖条件下识别 coughknock 两类音频事件。

核心功能

  • 端侧实时音频采集:从 hw:snddmic 采集 48 kHz / 16-bit / stereo PCM。
  • 本地推理:板端完成 MFCC 特征提取和 INT8 TFLite Micro 推理。
  • 事件类别:backgroundcoughknock
  • 本地告警:串口输出 [AED] event=...,GPIO LED 提供可视化提示。
  • 复现模式:支持 selftestfilelive 三类运行方式。

端到端链路

DMIC 采集
-> 立体声转单声道 / 重采样
-> 滑动窗口
-> MFCC 特征提取
-> TFLite Micro INT8 推理
-> 后处理确认 / 误报抑制
-> 串口日志和 LED 告警
-> 最终 emitted events 人类动作计数

快速运行

selftest:

aed --mode selftest --backend tflm --no-led

安静背景测试:

aed --mode live -D hw:snddmic -r 48000 -c 2 -d 30 --backend tflm

实时演示:

aed --mode live -D hw:snddmic -r 48000 -c 2 -d 60 --backend tflm

WAV/file 复现:

aed --mode file --input /tmp/aed_test.wav --backend tflm --no-led

预期事件输出示例:

[AED] event=cough score=...
[AED] event=knock score=...

emitted events:
  cough: ...
  knock: ...

提交包目录

handup/
  README.md
  LICENSE
  NOTICE
  PACKAGE_MANIFEST.md
  source/audio_event_detector/       源码和模型文件
  firmware/                          v35 固件镜像和 SHA256
  docs/                              复现、技术、测试、数据和告警说明
  demo/logs/                         构建日志和板端串口日志
  demo/videos/                       演示视频
  demo/wav_samples/                  file 模式样例 WAV
  demo/dashboard/                    浏览器演示辅助页
  scripts/                           板端测试命令和串口记录说明

板端验证摘要

已完成 openvela 端侧音频事件检测闭环,并在 background、pure cough、pure knock 和 mixed 场景中进行板端验证。当前系统重点展示端侧实时采集、TFLite Micro INT8 推理、本地串口/LED 告警能力,以及最终统计中的人类动作计数口径。

详细结果见 docs/测试评估报告.md

关于

基于 openvela/NuttX 的端侧离线音频事件检测系统,支持 cough/knock 两类事件,完成 DMIC 采集、MFCC、TFLite Micro INT8 推理与串口/LED 告警。

224.6 MB
邀请码
    Gitlink(确实开源)
  • 加入我们
  • 官网邮箱:gitlink@ccf.org.cn
  • QQ群
  • QQ群
  • 公众号
  • 公众号

版权所有:中国计算机学会技术支持:开源发展技术委员会
京ICP备13000930号-9 京公网安备 11010802047560号