شرح فريق Hugging Face إضافة دعم لتشغيل ملفات GGUF المضغوطة داخل مكتبة Transformers. هذا يتيح تحميل نماذج أصغر حجماً عبر واجهات Python المعروفة بدلاً من تغيير أدوات التجربة بالكامل.
صيغة GGUF شائعة في تشغيل النماذج محلياً، والضغط الكمي (Quantization) يقلل مساحة الذاكرة مقابل احتمال تغير الجودة. تركز المرحلة الأولى من التكامل على أجهزة Apple Silicon وبعض البنى المدعومة.
يوضح المقال أن llama.cpp يظل خياراً مناسباً عندما تكون أولوية المشروع كفاءة التشغيل المحلي. أما تكامل Transformers فيفيد البحث والتقييم والتعديل ضمن أدوات Python؛ جرّب الاثنين على جهازك قبل الاختيار.
تريد تطبيق ما قرأته؟
المشاريع ↗