متطلبات الأجهزة

فهم متطلبات الأجهزة يساعدك على تحديد ما إذا كان يمكنك تشغيل نموذج لغوي معين على جهازك.

مواصفات وحدة المعالجة المركزية (CPU)

وحدة المعالجة المركزية تلعب دورًا مهمًا في تشغيل النماذج اللغوية:

عدد النوى: النماذج الكبيرة تستفيد من المعالجات متعددة النوى. يُوصى بـ 8 نوى أو أكثر للنماذج المتوسطة والكبيرة.
السرعة: يُفضل معالجات بتردد عالٍ (3.5GHz أو أعلى) لتحسين سرعة الاستدلال.
معمارية المعالج: تدعم الطرز الحديثة من المعالجات (Intel من الجيل التاسع فصاعدًا، AMD Ryzen) تعليمات متقدمة تُسرع عمليات الاستدلال.
الاعتبارات للنماذج المختلفة: النماذج الصغيرة (>1 مليار معامل) يمكن تشغيلها على معظم المعالجات الحديثة، بينما تتطلب النماذج الأكبر معالجات أقوى.

وحدة معالجة الرسومات تقدم تسريعًا كبيرًا للنماذج اللغوية:

ذاكرة الفيديو (VRAM): العامل الأكثر أهمية لتشغيل النماذج. المتطلبات التقريبية:
- 4GB: نماذج صغيرة (>1 مليار معامل) مع تكميم 4-بت أو 8-بت
- 8GB: نماذج متوسطة (1-7 مليار معامل) مع تكميم
- 16GB: نماذج متوسطة بدقة كاملة أو نماذج كبيرة مع تكميم
- 24GB+: نماذج كبيرة (7+ مليار معامل) بدقة كاملة
معمارية GPU: بطاقات NVIDIA مع دعم CUDA هي الأكثر توافقًا مع أدوات النماذج اللغوية. سلسلة RTX تقدم أفضل أداء.
خيارات AMD و Intel: أصبح دعم ROCm (AMD) و OneAPI (Intel) أفضل، لكنه لا يزال أقل شمولًا من CUDA.

الذاكرة العشوائية مهمة خاصة للتشغيل على المعالج المركزي:

الحد الأدنى: 16GB للنماذج الصغيرة والمتوسطة مع تقنيات تقليل الذاكرة.
الموصى به: 32GB للاستخدام العام ومعظم النماذج المتوسطة.
للنماذج الكبيرة: 64GB أو أكثر للنماذج الكبيرة عند التشغيل على المعالج المركزي.
الاعتبارات الإضافية: الذاكرة السريعة (DDR4-3200 أو DDR5) تحسن الأداء، خاصة عند التشغيل على المعالج المركزي.

متطلبات التخزين تعتمد على عدد وحجم النماذج:

النماذج الصغيرة: تتطلب 1-4GB لكل نموذج.
النماذج المتوسطة: تتطلب 4-10GB لكل نموذج.
النماذج الكبيرة: تتطلب 10-50GB لكل نموذج.
نوع التخزين: يُوصى بالأقراص الصلبة SSD لتحميل النماذج بشكل أسرع وتجربة استخدام أفضل.