בחירת מודל ה-AI הטוב ביותר לכל משימה עם אוטומטי

אוטומטי הוא נתב מודלים שקורא כל משימה ושולח אותה למודל שמאזן בצורה הטובה ביותר בין איכות, מהירות ועלות. לכל משימה, אוטומטי בוחר מודל מבין מודלים של כמה ספקי AI, על סמך ההערכות של Notion והמודלים שסביבת העבודה שלכם מאפשרת. הוא משתמש במודלים מהירים יותר לשאלות ולעריכות קצרות, ובמודלים בעלי יכולות מתקדמות יותר לעבודה מורכבת.

אוטומטי מופעל כברירת מחדל בבורר המודלים, בצ'אט של סוכן Notion ובהגדרות של סוכן בהתאמה אישית. כשמשתמשים באוטומטי, Notion בוחרת את המודל הטוב ביותר לכל משימה. כך זה עובד:

• אוטומטי מתאים את המודל למשימה. שאלות קצרות, עריכות וסיכומים מועברים למודלים מהירים ויעילים. משימות מורכבות יותר, כגון מחקר מעמיק, כתיבת קוד או בניית סוכנים בהתאמה אישית, עשויות להיות מועברות למודלים בעלי יכולות מתקדמות יותר.

• אוטומטי יכול להסתגל תוך כדי משימה. במהלך משימה מרובת שלבים, אוטומטי יכול לעבור למודל בעל יכולות מתקדמות יותר לשלבים תובעניים, ואז לחזור למודל פשוט יותר לעבודה קלה יותר.

• אוטומטי מתעדכן במודלים חדשים. Notion מעריכה מודלים חדשים מבחינת איכות, מהירות, עלות ואמינות לפני שהיא הופכת אותם לזמינים. המודלים הזמינים דרך אוטומטי עשויים להשתנות. אפשר לקרוא איך Notion מעריכה מודלים מול משימות נפוצות של עבודת ידע →

• אוטומטי פועל בהתאם להגדרות סביבת העבודה שלכם. הוא משתמש רק במודלים שסביבת העבודה שלכם מאפשרת ושעומדים בדרישות שלה, לרבות הגדרות הבקרה על מודלים והגבלות על ספקים. אם אחד מבעלי סביבת העבודה מגביל את המודלים שבהם אוטומטי יכול להשתמש, אוטומטי עובר למודל הבא בעל העלות הנמוכה ביותר שסביבת העבודה מאפשרת.

• כדי לפעול היטב, אוטומטי זקוק למספר מספיק של מודלים מופעלים. אם אחד מבעלי סביבת העבודה מכבה יותר מדי מודלים, אוטומטי יהיה יעיל פחות. בעת שמירת שינוי שמפחית את האיכות הכוללת של אוטומטי, בעלי סביבת העבודה יראו אזהרה.

אפשר לבחור מודל בעצמכם בכל שלב. כדאי לבחור מודל בעצמכם כש:

• אתם רוצים להשתמש באותו מודל לאורך כל הצ'אט, במקום לתת לאוטומטי לבחור מודל או להחליף מודלים כשהעבודה משתנה.

• אתם מעדיפים מודל מסוים לסוג מסוים של עבודה.

• אוטומטי לא סיפק את התוצאה שאתם צריכים, ואתם רוצים לנסות מודל אחר.

כדי לבחור מודל

בצ'אט של סוכן Notion:

1. בוחרים ב-אוטומטי כדי לפתוח את בורר המודלים.

2. מרחפים מעל מודל כדי להשוות מהירות, יכולות ועלות.

3. בוחרים מודל.

לאחר הבחירה, סוכן Notion ישתמש במודל הזה בצ'אט שלכם. כדי לחזור לאוטומטי, פותחים את בורר המודלים ובוחרים ב-אוטומטי.

בהגדרות סוכנים בהתאמה אישית:

1. פותחים את ההגדרות של הסוכן שלכם.

2. עוברים למקטע המודלים ופותחים את בורר המודלים.

3. בוחרים מודל.

4. בוחרים באפשרות שמירה.

לאחר הבחירה, הסוכן בהתאמה אישית ישתמש במודל הזה עד שתשנו אותו.

בעלי סביבת העבודה קובעים אילו מודלים חברי סביבת העבודה יכולים לבחור. מודלים של ספקים שסביבת העבודה שלכם השביתה לא מופיעים. מודלים שסביבת העבודה שלכם הגבילה מופיעים תחת מודלים מוגבלים ואי אפשר לבחור בהם. לפרטים על ניהול מודלי AI והשימוש של חברים בקרדיטים →

בתוכנית לעסקים ובתוכנית Enterprise, סוכן Notion משתמש בקרדיטים מסוג Standard כשמשתמשים באוטומטי, ובקרדיטים מסוג Select כשבוחרים מודל בעצמכם. אם אחד מסוגי הקרדיטים נגמר, מנהל המערכת יכול לאפשר לכם להמשיך להשתמש בתכונות AI באמצעות קרדיטים של Notion. למידע נוסף על ניהול הקרדיטים של AI שלכם →

ברוב המשימות היומיומיות ב-Notion, אוטומטי יכול לעזור לקרדיטים שלכם להספיק לעד פי 10 יותר מאשר בחירה עצמאית במודל מוביל. אוטומטי מתאים את המודל למשימה וצורך פחות קרדיטים לכל משימה, כך שתוכלו להספיק יותר עם הקרדיטים שלכם. בבדיקות שלנו:

• עלות ההרצה הממוצעת של אוטומטי הייתה נמוכה ב-87% מזו של Opus 5.5.

• ליטוש מסמך או אימייל צרך בערך פי 8 פחות קרדיטים מאשר יצירת מסמך אסטרטגיה מפורט או תוכנית רבעונית.

הטבלה משווה את השימוש המשוער בקרדיטים במשימות נפוצות עם אוטומטי ועם Opus 5.5. השימוש בפועל עשוי להשתנות.

צריכת הקרדיטים משתנה בהתאם לתרחיש. לדוגמה, בקשה מסוכן Notion ללטש אימייל בשרשור ארוך עם מידע מורכב עשויה לצרוך יותר קרדיטים. גם במשימות שבדרך כלל צורכות יותר קרדיטים, אוטומטי הפיק תוצאות דומות לאלו של מודלים מובילים.

הערכנו את אוטומטי על ידי הרצה חוזרת של אלפי משימות נפוצות מהעולם האמיתי בסביבת Notion מדומה, ולאחר מכן השווינו את הביצועים של מודלים שונים. כך זה עבד:

1. השווינו בין שני מודלים בכל פעם. הצגנו לקבוצת מודלים מובילים את התוצרים של שני מודלים שונים, זה לצד זה.

2. קבוצת השופטים בחרה בכל פעם בתוצאה הטובה יותר לפי כללי ניקוד קבועים.

3. נתנו לכל מודל ציון Elo על סמך כל ההשוואות הישירות האלה.

ציון Elo מדרג מיומנות לפי הביצועים של שחקן מול אחרים בהשוואות רבות אחד על אחד, כמו בדירוג שחקני שחמט. זו דרך פשוטה ואמינה לדרג מודלים לפי הביצועים שלהם במשימות מהעולם האמיתי.

השוואה ידנית של כל זוג מודלים יקרה, לכן אימנו שופט AI שהדירוגים שלו יתאימו ככל האפשר לדירוגים האלה. כך אפשר לבצע השוואות רבות בבת אחת. הניקוד שלנו מבוסס על השיטה הזו.