LoginTechs
لوجن تيكس منصة متخصصة بمتابعة ونقل آخر الأخبار والمقالات التقنية وكل ما يخص التكنولوجيا الحديثة والأحداث التقنية والخدمات الرقمية.

استخدام نماذج تعلم الآلة في السحابة

201

- Advertisement -

لتطوير البرامج، يوجد العديد من المنهجيات والأنماط والتقنيات لإنشاء التطبيقات وتشغيلها واستخدامها. ويعد DevOps المنهجية الحديثة التي تصف ثقافة هندسة البرمجيات مع نظرة شاملة لتطوير البرامج وتشغيلها.

بالنسبة لعلم البيانات، هنالك الكثير من المعلومات حول كيفية بناء نماذج الآلة والتعلم العميق. يبدو أن الجوانب التشغيلية لا تزال تتطور. نحاول حالياً فهم كيفية استخدام النماذج في السحابة وكيفية استخدامها بكفاءة في التطبيقات. وفيما يلي بعض النتائج التي تم التوصل إليها حتى الآن:

في أبسط الحالات، يمكن تغليف النماذج المقدمة من قبل علماء البيانات والنماذج التي يطورها المطورون في حاويات البرنامج Docker والوصول إليها عبر واجهات برمجة التطبيقات REST. ويمكن تشغيل حاويات Docker، على سبيل المثال، على Kubernetes أو على منصات بدون خوادم مثل OpenWhis. وعند إنشاء تطبيقات الويب المعتمدة على Flask، يمكن تجميع النماذج وتشغيلها في نفس الحاوية.

وفي الوقت الذي يطبق فيه هذا من أجل نماذج أولية وعمليات تقييم سريعة، هناك العديد من الجوانب الأخرى التي تحتاج إلى أن تؤخذ في الاعتبار عند استخدام النماذج في بيئات الإنتاج.

لذا لنلق نظرة على تعيين الإصدارات،وخطوط أنابيب الاستدلال، وتحسين نماذج الاستدلال، والمتطلبات القياسية للخدمات في هذا المقال:

أولاً تعيين الإصدارات

بالنسبة إلى الخدمات الأخرى وواجهات برمجة التطبيقات، فيجب التعامل مع الإصدارات المتعددة. وكحد أدنى من الممكن طرح نماذج جديدة عبر عمليات الاستخدام باللون الأزرق والأخضر. وإضافةً إلى ذلك، غالباً ما تكون وظيفة إدارة المرور مثل عمليات استخدام الكناري واختبار A / B مطلوبة لتطبيقات الإنتاج المتطورة.

ثانياً خطوط أنابيب الاستدلال

من أجل تشغيل الاستدلالات، يجب أن توفر التطبيقات المدخلات في تنسيق معين كما هو متوقع من النماذج. وفي بعض الحالات، يعني هذا أن البيانات تحتاج إلى تنسيق أولاً. وعلى سبيل المثال، في سيناريو التعرف البصري قد يضطر التطبيق إلى تحويل صورة JPG إلى بنية JSON. وبالعكس قد لا يكون ناتج النموذج بالشكل الذي يتطلبه التطبيق.

بالإضافة إلى ذلك في بعض الأحيان يكون القيام باستدعاءات دفعية بدلاً من التسبب في حركة مرور للشبكة لكل طلب واحد أكثر فعالية. وفي بعض الأحيان يتم استدعاء نماذج متعددة في نفس الوقت وترسل الردود مرة أخرى إلى التطبيقات.

لذا بدلاً من استخدام النموذج الأساسي فقط، يجب استخدام خطوط إنتاج الاستدلال وإتاحتها كخدمة.

ثالثاً تحسينات نموذج الاستدلال

يمكن توظيف النماذج للأجهزة الطرفية عبر Tensor Flow Lite و TensorFlow.js. وفي كلتا الحالتين، يجب تحسين النماذج من حيث حجم النموذج، واستخدام الذاكرة، واستخدام البطارية، إلخ. ولتحقيق ذلك، تتمثل إحدى الطرق في إزالة الانقطاع من الرسم البياني. ويتم استخدام الانقطاع أثناء التدريب لمنع النماذج من الوصول للملاءمة أو المطابقة القصوى .

طريقة أخرى لتحسين النماذج هي التكميم. يتم تحديد الأوزان في الرسوم البيانية في كثير من الأحيان عن طريق الطفو أو التعويم. ومع ذلك عند استخدام الأعداد الصحيحة بدلاً من ذلك، يتم تقليل أحجام النماذج بشكل ملحوظ بينما لا تتأثر الدقة إلا بشكل ضئيل أو لا تتأثر على الإطلاق.

وعلى غرار عمليات التحسين للأجهزة المحمولة، يتم إجراء عمليات التحسين قبل استخدام النماذج في السحابة.

راجع هذه: ما هو TensorFlow ؟ تعرف على مكتبة تعلم الآلة

رابعاً المتطلبات القياسية للخدمات

أما بالنسبة للخدمات الأخرى، فيجب التعامل مع المصادقة والترخيص. من أجل جعل النماذج قابلة للوصول إلى العديد من التطبيقات والمطورين ، فإن إدارة واجهة برمجة التطبيقات أمر مرغوب فيه.

وليست واجهات برمجة التطبيقات (REST) الطريقة الوحيدة لعرض النماذج. ربما تكون بروتوكولات أخرى مثل gRPC أو أنظمة تعتمد على الرسائل هي خيارات أفضل لسيناريوهات محددة.

يجب أن تكون الخدمات التي تعمل بالاستدلالات قابلة للتطوير، ويجب أن تكون هناك مراقبة وظيفية. باختصار، فإن الخدمات التي تعمل بالاستدلالات لها نفس المتطلبات مثل جميع الخدمات الأخرى.

خامساً الأطر المتاحة

هنالك عدة أطر لنشر النماذج في السحابة. وفي أفضل الحالات، يجب أن يستوفي الإطار جميع المتطلبات المذكورة أعلاه، ويجب أن يكون الإطار خالياً من الخادم بحيث يمكن للناس التركيز على منطق الأعمال بدلاً من البنية التحتية. وفيما يلي مجموعة من الأطر والعروض التي قد ترغب في الاطلاع عليها.

يدعم Watson Studio ليس فقط تدريب النماذج ولكن أيضاً استخدامها. ويمكن أن تحتوي هذه النماذج على إصدارات مختلفة ويمكن استدعاؤها عبر واجهات برمجة التطبيقات (REST):

اي بي ام واتس

يمكن استخدام النماذج من IBM Model Asset Exchange بسهولة في Kubernetes. ويدعم Istio الذي يمكن أن يتوضع أعلى Kubernetes إدارة حركة المرور، على سبيل المثال، للقيام بعمليات الكناري التمهيدية.

Seldon هي منصة مفتوحة المصدر لاستخدام نماذج التعلم الآلي على Kubernetes .وهو يدعم المكتبات مثل TensorFlow و Sklearn و REST و gRPC APIs. ويمكن استخدامه بشكل جيد مع النسيج للتعلم العميق.

TensorFlow Serving هو نظام خدمة مرن وعالي الأداء لنماذج التعلم الآلي مع دعم مدمج لنماذج TensorFlow .

PipelineAI هي عبارة عن منصة الذكاء الصنعي في الوقت الحقيقي وتبدو واعدة للغاية.

يتم حزم النماذج في حاويات Docker ويمكن تشغيلها على Kubernetes . ورغم أنَّ هذا الجزء مفتوح المصدر، لم يتم التأكد بعد من مكونات PipelineAI الأخرى التي تقوم بتحسينات النماذج والتصور.

إن كنت مهتماً بكل ما يخص الذكاء الصنعي راجع بعض مقالاتنا من هنا.

 

اترك رد

لن يتم نشر عنوان بريدك الإلكتروني.