Kimi K3 es gratis,

@edteam

812.0K followers · usually 27.0K views a post

Views

151.5K

Likes

5.1K

Comments

153

Shares

383

Selling · SaaS › AI Tool

Kimi K3seen in 27 videos →youtube.com/edteam ↗

Why it worked

The video effectively highlights the extreme cost of running a powerful AI model locally, contrasting its 'free' software aspect with the massive hardware investment required. This creates a strong value proposition for cloud-based AI solutions or services that abstract away this complexity.

Summary

The video discusses the high cost of running the Kimi K3 AI model locally, estimating it at nearly a million dollars for the necessary hardware. It highlights that despite being free, the infrastructure required to run it for even a small number of users is prohibitively expensive.

Structure

1Introduction to Kimi K3's cost
2Hardware requirements and cost breakdown
3Comparison to other models and speed
4Conclusion on the high cost of local deployment

Product placement

The video discusses the Kimi K3 AI model and its hardware requirements, specifically mentioning Nvidia DGX B200 nodes and GPUs. It also shows a screenshot of the Nvidia DGX B200 product page.

Call to action

Mira el video completo: LINK EN EL PERFIL

Original caption

Kimi K3 es gratis y abierto, pero correrlo en tu propia computadora cuesta casi un millón de dólares en hardware. Necesitas dos nodos Nvidia DGX B200 con 2.2 TB de RAM unificada. Y con todo eso, sirve para apenas 20 usuarios concurrentes. El modelo abierto más poderoso del mundo es gratis solo si no lo quieres usar sin la nube. #loAprendisteEnEDteam #nadieExplicaMejor #KimiK3 #Nvidia #InteligenciaArtificial #LocalLLM

More from @edteam

Their other posts in the index, biggest breakout first.

On-screen text

KIMI K3 ES GRATIS, PERO CORRERLO EN LOCAL CUESTA CASI UN MILLÓN para correr Kimi K3. Y ese Kimi podría servir a 10 a 20 personas. Entonces lo necesitaríamos son por lo menos unos 2.2 TB de RAM o mejor dicho, como se está diciendo internet, dos nodos B200 de Nvidia. NVIDIA DGX B200 The foundation for your AI factory. Introduction Benefits Performance Specs Resources Get Started Talk To Us Cada nodo tiene 8 GPUs, un NVIDIA DGX B200 The foundation for your AI factory. Introduction Benefits Performance Specs Resources Get Started Talk To Us Entonces la Nvidia DGX B200 como referencia tiene 8 GPUs y necesitaríamos dos de correrlo. Cada una de estas cuesta alrededor de 400 mil dólares. nodos, no podrías meter ahí a toda la empresa, una empresa diga pues yo tengo la banco, un banco pagar 800 mil dólares, listo tengo los ingenieros, voy a infraestructura y tenemos Kimi empresa y se acabó. pueden hacer por supuesto, pero ten en cuenta que servirían más o menos a unos 20 o sea a buena velocidad y eso que Kimi comparado con otros modelos, creo que es unos 40 tokens por 60 o sea es lento realmente, necesitarías 800 mil dólares para unos 20 usuarios a próxima por ahí, es

Transcript

Kimi K3 es gratis, pero correrlo en local cuesta casi un millón. Necesitarías 800 mil dólares solamente para correr Kimi K3. Y ese Kimi podría servir a 10 a 20 personas. Entonces lo necesitaríamos son por lo menos unos 2.2 TB de RAM o mejor dicho, como se está diciendo, internet, dos nodos B200 de Nvidia. Cada nodo tiene 8 GPUs, un nodo es una computadora. Entonces la Nvidia DGX B200 como referencia tiene 8 GPUs y necesitaríamos dos de estas para correrlo. Cada una de estas cuesta alrededor de 400 mil dólares. Dos nodos, no podrías meter ahí a toda la empresa, una empresa diga, pues yo tengo la banco, un banco, un banco no va a poder pagar 800 mil dólares, listo. Tengo la plata, tengo los ingenieros, voy a infraestructura y tenemos Kimi, empresa y se acabó. Lo pueden hacer por supuesto, pero ten en cuenta que estos dos nodos servirían más o menos a unos 20, o sea a una buena velocidad y eso que Kimi comparado con otros modelos, creo que es unos 40 tokens por 60, o sea es lento realmente. Entonces necesitarías 800 mil dólares para servir a unos 20 usuarios a próxima por ahí, es caro.