30 أكتوبر 2024
طرح "وكلاء الذكاء الاصطناعي" في مرحلة الإنتاج باستخدام Gemini API
إنّ إنشاء ونشر وكلاء الذكاء الاصطناعي هو مجال جديد مثير للاهتمام، ولكن إدارة هذه الأنظمة المعقّدة في بيئة إنتاج تتطلّب إمكانية مراقبة قوية. تتيح AgentOps، وهي حزمة تطوير برامج (SDK) بلغة Python لمراقبة الوكلاء وتتبُّع تكلفة النماذج اللغوية الكبيرة (LLM) وقياس الأداء وغير ذلك، للمطوّرين نقل الوكلاء من النموذج الأوّلي إلى مرحلة الإنتاج، لا سيما عند استخدامها مع إمكانات Gemini API وفعاليتها من حيث التكلفة.
مزايا Gemini
يوضح آدم سيلفرمان، المدير التنفيذي للعمليات في Agency AI، الفريق المسؤول عن AgentOps، أنّ التكلفة هي عامل مهم للمؤسسات التي تنشر وكلاء الذكاء الاصطناعي على نطاق واسع. "لقد لاحظنا أنّ المؤسسات تنفق 80,000 دولار أمريكي شهريًا على طلبات LLM. باستخدام Gemini 1.5، كانت التكلفة ستكون بضعة آلاف من الدولارات مقابل النتيجة نفسها".
إنّ فعالية التكلفة هذه، إلى جانب إمكانات Gemini القوية في فهم اللغة وإنشائها، تجعلها خيارًا مثاليًا للمطوّرين الذين ينشئون وكلاء متطوّرين مستندين إلى الذكاء الاصطناعي. يقول سيلفرمان: "يقدّم لنا Gemini 1.5 Flash جودة مماثلة للنماذج الأكبر حجمًا، وبتكلفة أقل بكثير، كما أنّه سريع للغاية". يتيح ذلك للمطوّرين التركيز على إنشاء سير عمل معقّدة ومتعددة الخطوات للوكلاء بدون القلق بشأن التكاليف المرتفعة.
"لقد لاحظنا أنّ تكلفة تشغيل وكيل فردي مع مقدّمي خدمات نماذج اللغات الكبيرة الآخرين تبلغ 500 دولار أمريكي أو أكثر لكل عملية تشغيل. وتبلغ تكلفة عمليات التشغيل نفسها باستخدام Gemini (1.5 Flash-8B) أقل من 50 دولار أمريكي".
تفعيل وكلاء الذكاء الاصطناعي
تسجّل AgentOps بيانات عن كل تفاعل بين الوكلاء، وليس فقط طلبات LLM، ما يوفّر نظرة شاملة على طريقة عمل الأنظمة المتعددة الوكلاء. يُعدّ هذا المستوى التفصيلي من المعلومات ضروريًا للفِرق الهندسية وفِرق الامتثال، إذ يقدّم إحصاءات مهمة لتصحيح الأخطاء والتحسين ومسارات التدقيق.
إنّ دمج نماذج Gemini مع AgentOps بسيط للغاية، وغالبًا ما يستغرق بضع دقائق فقط باستخدام LiteLLM. يمكن للمطوّرين الاطّلاع بسرعة على طلبات البيانات من Gemini API، وتتبُّع التكاليف في الوقت الفعلي، وضمان موثوقية برامجهم في مرحلة الإنتاج.
نظرة مستقبلية
تلتزم AgentOps بتقديم الدعم لمطوّري البرامج الآلية أثناء توسيع نطاق مشاريعهم. يساعد الذكاء الاصطناعي في الوكالات المؤسسات في التغلّب على تعقيدات إنشاء وكلاء بأسعار معقولة وقابلين للتوسّع، ما يعزّز عرض القيمة المتمثّل في الجمع بين AgentOps وGemini API. وكما يؤكّد "سيلفرمان"، "تساعد هذه المنصة المزيد من المطوّرين المهتمين بالتكلفة على إنشاء وكلاء".
بالنسبة إلى المطوّرين الذين يفكّرون في استخدام Gemini، نصيحة "سيلفرمان" واضحة: "جرِّبوه، وستُبهرك النتائج".