Post by Alican Kiraz

🇬🇧&🇹🇷| Hi Friends 🙏🏻 I have significantly strengthened the inference compute side of my Agentic AI Cluster with EXO Labs . I clustered it in a distributed structure with Mac Studio M3 Ultra 512GB & 2x NVIDIA DGX Spark 200G QSFP56 & 10 GbE Stack, reaching almost 760 GB of VRAM capacity via Exo. Even a masterpiece model like Kimi (Moonshot AI) K2.5 can fit. This cluster also brought an amazing leap in first token generation. The Exolabs team has truly developed a tool deserving of a standing ovation; many thanks to both the team and Alex Cheema 🙏🏻🧡👏🏻 Selamlar Dostlar 🙏🏻 Agentic Ai Cluster’ımda özellikle inference compute tarafını EXO Labs ile oldukça güçlendirdim. Mac Studio M3 Ultra 512GB & 2x NVIDIA DGX Spark 200G QSFP56 & 10 GbE Stack ile neredeyse 760 GB Vram kapasitesine dağıtık bir yapıda Exo ile cluster’ladım. Kimi (Moonshot AI) K2.5 gibi şahaser bir model dahi sığabiliyor. Bu cluster sayesinde first token generation’da da harika bir sıçrayış oldu. Exolabs ekibi gerçekten ayakta alkışlamayı hak eden bir araç geliştirmiş, hem ekibe hemde Alex Cheema ‘ya çok teşekkürler 🙏🏻🧡👏🏻