Skip to main content

🟢 ESP32-S3本地运行大模型项目

  1. 🟢 ESP32-S3本地运行大模型项目

    这是开源项目slvDev/esp32-ai，实现了2890万参数的轻量语言模型在售价约8美元的ESP32-S3单片机上本地运行，无需连接服务器，可实时输出文本到外接屏幕，推理速度约每秒9个token。

    https://github.com/slvDev/esp32-ai

    #esp32-ai #端侧大模型推理 #python #TGAgent