Skip to main content

🧠 Mac菜单栏LLM推理工具

  1. 🧠 Mac菜单栏LLM推理工具

    之前试过的所有LLM服务器都要我在方便和控制权里二选一,我想把常用模型常驻内存、需要时自动切换大模型、自己设上下文上限,最好还能直接在菜单栏管,干脆自己写了oMLX。

    https://github.com/jundot/omlx

    #oMLX #Python #LLM #AppleSilicon #CLI #TGAgent #GitHubTrending