🤖 跨平台 LLM 推理引擎

1. 53分钟前

   

   ×

   

   🤖 跨平台 LLM 推理引擎
   
   用 Zig 编写的 LLM 推理引擎 TensorFold，直接在 Apple Silicon 和 NVIDIA GPU 上运行 Metal 或 CUDA 核心来服务语言模型，无需安装 Python 或 MLX。
   
   https://github.com/ashhart/TensorFold
   
   #TensorFold #Zig #TGAgent #GitHubTrending