دليل
الاشتراك تسجيل دخول المشرف اتصل بنا

تكامل HuggingFace

استخدام SkyDeck.ai كواجهة مستخدم لنماذج HuggingFace الخاصة بك.

بعد نشر نقطة النهاية الخاصة بك للتوقعات على موقع HuggingFace، يجب أن تشاهد الواجهة التالية:

في هذه الصفحة، ستحتاج إلى المعلومات التالية:

  • عنوان URL لنقطة النهاية

  • مستودع النموذج

  • رمز API. يمكنك عرض هذا بالتحقق من خانة "إضافة رمز API" في كود أمثلة الاستدعاء.

بالإضافة إلى ذلك، ستحتاج أيضًا إلى نافذة السياق للنموذج الخاص بك. يمكن العثور على هذا في صفحة معلومات النموذج.

بعد جمع هذه المعلومات، قم بتنسيقها على شكل JSON كما هو مبين في النموذج أدناه:

{
    "api_key":"your_api_key",
    "endpoint": "your_api_endpoint",
    "model_name": "meta-llama/Llama-2-7b-chat-hf",
    "context_window": 4096
}

بعد ذلك، الصق ذلك في حقل الاعتماد الخاص بالتكامل.

بمجرد التحقق بنجاح من الاعتماد، يجب أن ترى نموذج HuggingFace الخاص بك مدرج في قائمة النماذج في GenStudio:

تصغير نقاط نهاية HuggingFace إلى الصفر

تصغير إلى 0 هو ميزة ديناميكية يقدمها نقاط النهاية للتوقعات، مصممة لتحسين استخدام الموارد والتكاليف. من خلال مراقبة أنماط الطلب بذكاء وتقليل عدد التكاثرات إلى لا شيء خلال الأوقات الخاملة، فإنه يضمن أنك تستخدم الموارد فقط عند الضرورة.

ومع ذلك، يُدخل هذا فترة بداية باردة عند استئناف حركة المرور، وهناك عدد قليل من الاعتبارات التي يجب أن تكون على علم بها. للإطلاع على نظرة معمقة حول كيفية عمل هذه الميزة، فوائدها، والتحديات المحتملة، يرجى الرجوع إلى دليل HuggingFace حول التحجيم التلقائي.

النماذج المدعومة

حاليًا، ندعم نقاط النهاية فقط للنماذج التي تحمل تفاصيل 'توليد النص' والتي يتم نشرها كحاويات 'الاستدلال بتوليد النص'. نحن نعمل على توسيع قائمتنا من النماذج المدعومة.

Previousتكامل قاعدة البياناتNextتكامل Together AI

Last updated