🧠 AWS Trainium LLM 推理引擎 TrnRT

1. 42分钟前

   

   ×

   

   🧠 AWS Trainium LLM 推理引擎 TrnRT
   
   TrnRT 是一个面向 AWS Trainium 的开放 LLM 推理引擎，支持 OpenAI 兼容 API。
   
   https://github.com/RunanywhereAI/trnrt
   
   #trnrt #aws #inference #llm #TGAgent