פורסם: 14 במאי 2024, עדכון אחרון: 20 במאי 2024
אנחנו מפתחים ממשקי API של פלטפורמות אינטרנט ותכונות בדפדפן שנועדו לעבוד עם מודלים של AI, מודלים של מומחים ומודלים גדולים של שפה (LLM), שנבנו בדפדפן. בעזרת AI מובנה, האתר או אפליקציית האינטרנט שלכם יכולים לבצע משימות מבוססות-AI, בלי שתצטרכו לפרוס, לנהל או לארח בעצמכם מודלים של AI.
כאן תוכלו לקרוא על היתרונות של AI מובנה, על תוכנית ההטמעה שלנו ועל הדרכים שבהן תוכלו להתחיל להטמיע את הכלים האלה.
אם אתם חדשים בתחום ה-AI באינטרנט, מומלץ לקרוא את המונחון והמושגים של AI באינטרנט.
היתרונות של AI מובנה למפתחי אתרים
הדפדפן כולל AI מובנה, שמספק ומנהל מודלים בסיסיים ומודלים של מומחים.
היתרונות של AI מובנה:
- קלות הפריסה: הדפדפן מפיץ את המודלים, תוך התחשבות ביכולות המכשיר, ומנהל את העדכונים. כלומר, אתם לא צריכים להוריד או לעדכן מודלים גדולים ברשת. אתם לא צריכים לפתור בעיות שקשורות לפינוי אחסון, לתקציב זיכרון בזמן ריצה, לעלויות של הצגת מודלים ולאתגרים אחרים.
- גישה לשיפור המהירות באמצעות חומרה: סביבת זמן הריצה של ה-AI בדפדפן מותאמת כדי להפיק את המרב מהחומרה הזמינה, בין אם מדובר ב-GPU, ב-NPU או במעבד (CPU). כתוצאה מכך, האפליקציה יכולה להשיג את הביצועים הכי טובים בכל מכשיר.
היתרונות של הפעלה בצד הלקוח
עם AI מובנה, אתם יכולים להפעיל AI בצד הלקוח, מה שאומר שאתם נהנים מהיתרונות הבאים:
- עיבוד מקומי של מידע אישי רגיש: AI בצד הלקוח יכול לשפר את סיפור הפרטיות שלכם. לדוגמה, אם אתם עובדים עם מידע אישי רגיש, אתם יכולים להציע למשתמשים תכונות מבוססות-AI עם הצפנה מקצה לקצה.
- חוויית משתמש מהירה: במקרים מסוימים, אם לא צריך לבצע את המסע הלוך ושוב לשרת, אפשר להציג תוצאות כמעט מיידיות. שימוש ב-AI בצד הלקוח יכול להיות ההבדל בין תכונה שימושית לבין חוויית משתמש לא אופטימלית.
- גישה רחבה יותר ל-AI: המכשירים של המשתמשים יכולים לשאת חלק מעומס העיבוד בתמורה לגישה רחבה יותר לתכונות. לדוגמה, אם אתם מציעים תכונות AI פרימיום, אתם יכולים להציג תצוגה מקדימה של התכונות האלה באמצעות AI בצד הלקוח, כדי שלקוחות פוטנציאליים יוכלו לראות את היתרונות של המוצר שלכם, בלי שתצטרכו לשלם על כך עלות נוספת. הגישה ההיברידית הזו יכולה גם לעזור לכם לנהל את עלויות ההסקה, במיוחד בתהליכי משתמשים שנעשה בהם שימוש תדיר.
- שימוש ב-AI במצב אופליין: המשתמשים יכולים לגשת לתכונות מבוססות-AI גם כשאין חיבור לאינטרנט. המשמעות היא שהאתרים ואפליקציות האינטרנט שלכם יכולים לפעול כצפוי במצב אופליין או עם קישוריות משתנה.
AI היברידי: בצד הלקוח ובצד השרת
למרות ש-AI בצד הלקוח יכול לטפל במגוון רחב של תרחישי שימוש, יש תרחישי שימוש שדורשים תמיכה בצד השרת. AI בצד השרת הוא אפשרות מצוינת למודלים גדולים, והוא יכול לתמוך במגוון רחב יותר של פלטפורמות ומכשירים.
כדאי לשקול גישה היברידית אם האפליקציה שלכם דורשת:
- מורכבות: קל יותר לתמוך בתרחישי שימוש ספציפיים ופשוטים באמצעות AI במכשיר. בתרחישי שימוש מורכבים, כדאי לשקול הטמעה בצד השרת.
- עמידות: השימוש הוא בצד השרת כברירת מחדל, ובמכשיר כשהמכשיר במצב אופליין או כשהחיבור לא יציב.
- מעבר חלק למודל חלופי: ייקח זמן עד שדפדפנים עם AI מובנה יהיו נפוצים. יכול להיות שחלק מהמודלים לא יהיו זמינים, ומכשירים ישנים או חלשים יותר לא יעמדו בדרישות החומרה להרצת כל המודלים בצורה אופטימלית. להציע למשתמשים האלה AI בצד השרת.
לדוגמה, אם משתמשים בממשק ה-API המובנה של Prompt, ממשק ה-API זמין רק בתוספים ל-Chrome, ב-Windows, ב-macOS וב-Linux. כדי לוודא שכל המשתמשים יוכלו ליהנות מתכונת ה-AI, כדאי להגדיר ארכיטקטורה היברידית עם Firebase AI Logic.
גישה ל-AI מובנה
הגישה ליכולות ה-AI המובנות מתבצעת בעיקר באמצעות ממשקי API של משימות, כמו Translator API או Summarizer API. ממשקי Task API מיועדים להפעלת הסקה על המודל הטוב ביותר למשימה, בין אם מדובר במודל שפה גדול או במודל מומחה.
מתי כדאי להשתמש ב-AI מובנה
הנה כמה דרכים שבהן בינה מלאכותית מובנית יכולה להועיל לכם ולמשתמשים שלכם:
- צריכת תוכן משופרת באמצעות AI: כולל סיכום, תרגום, סיווג, אפיון ומתן ידע.
- יצירת תוכן בעזרת AI: כמו עזרה בכתיבה, הגהה, תיקון שגיאות איות ודקדוק וניסוח מחדש.
חלק מממשקי ה-API המובנים של AI זמינים בגרסה היציבה של Chrome ובגרסאות מקור לניסיון. ממשקי API ניסיוניים וממשקי API בשלב מוקדם זמינים למשתתפים בתוכנית הגישה המוקדמת (EPP).
תצוגה מקדימה של תכונות חדשות
המשוב שלכם חשוב לנו כדי שנוכל להתאים את ממשקי ה-API לתרחישי השימוש שלכם, וכדי שנוכל להשתמש בו בדיונים שלנו עם ספקי דפדפנים אחרים לצורך סטנדרטיזציה.
הצטרפות לתוכנית EPP מאפשרת לתת משוב על רעיונות ל-AI מובנה בשלבי פיתוח מוקדמים, ולגלות הזדמנויות לבדיקת ממשקי API שנמצאים בתהליך פיתוח באמצעות יצירת אב טיפוס מקומי.