VRAM هي ذاكرة البطاقة الرسومية. عند تشغيل نموذج عليها، تحتاج إلى مساحة لأوزانه وسياق المحادثة وعمليات الحساب.
الحجم المطلوب ليس رقماً ثابتاً؛ يتأثر بعدد المعاملات وطريقة الضغط (Quantization) وطول السياق والبرنامج المستخدم. تحقق من متطلبات النموذج المحدد قبل تنزيله.
تريد تطبيق ما قرأته؟
المشاريع ↗