أعلنت Amazon عن توافر ميزة تقطير النماذج في Amazon Bedrock (معاينة) والتي تعمل على أتمتة عملية إنشاء نموذج مُقطَّر لحالة استخدامك المحددة عن طريق توليد استجابات من نموذج أساسي كبير (يُسمى نموذج المعلم) وضبط نموذج أساسي أصغر (يُسمى نموذج الطالب) باستخدام الاستجابات المُولَّدة. تستخدم تقنيات توليف البيانات لتحسين الاستجابة من نموذج المعلم. تستضيف Amazon Bedrock بعد ذلك النموذج المُقطَّر النهائي للاستدلال، مما يمنحك نموذجًا أسرع وأكثر فعالية من حيث التكلفة بدقة قريبة من نموذج المعلم، لحالة استخدامك. أنا معجب حقًا بهذه الميزة الجديدة. أعتقد أنها ستكون مفيدة جدًا للعملاء الذين يتطلعون إلى استخدام نماذج الذكاء الاصطناعي التوليدية ولكنهم قلقون بشأن زمن الوصول والتكلفة. من خلال تقطير نموذج كبير إلى نموذج أصغر، يمكن للعملاء تقليل زمن الوصول والتكلفة مع الحفاظ على الدقة. أعتقد أن هذه الميزة ستكون تغييرًا لقواعد اللعبة في مجال الذكاء الاصطناعي التوليدي.
بناء نماذج أسرع وأكثر فعالية من حيث التكلفة وعالية الدقة باستخدام Amazon Bedrock Model Distillation (معاينة)
AWS