AI טועה: איך בונים אוטומציה שלא סומכת עליו בעיניים עצומות

מודלי AI כמו ChatGPT, Claude ו-Gemini טועים לפעמים, ועושים את זה בביטחון מלא: ממציאים מספר, מבלבלים בין שני תאריכים או משלימים שדה שלא היה במסמך. הפתרון הוא לא לוותר על AI, אלא לבנות סביבו בדיקות: לתת לו משימה צרה, לבקש פלט במבנה קבוע, לבדוק את התוצאה בכללים פשוטים, ולהעביר לאישור אנושי כל מה שנוגע בכסף או שהבדיקה לא עברה. כך מקבלים את המהירות של AI בלי לשלם על הטעויות שלו.

למה AI טועה

מודל שפה לא ״יודע״ דברים כמו מאגר נתונים. הוא מייצר את התשובה הסבירה ביותר לפי מה שלמד ולפי מה שנתתם לו. כשהמידע חסר או לא ברור, הוא נוטה להשלים במקום לומר ״לא יודע״. לתופעה הזו קוראים הזיה (hallucination).

המשמעות העסקית: AI מצוין במשימות שבהן התשובה נמצאת מולו, כמו שליפת פרטים מחשבונית או סיכום שיחה, ופחות אמין כשמבקשים ממנו עובדות שלא נתתם לו, כמו מחיר של מוצר או סעיף בחוק.

איפה זה כואב בעסק

• סכום בחשבונית שנקרא לא נכון ונרשם בהנהלת החשבונות.
• תשובה אוטומטית ללקוח שמבטיחה משהו שהעסק לא מציע.
• מספר תעודה או תאריך שהומצא כשהמסמך היה מטושטש.
• סיווג שגוי של פנייה, שגורם לליד חם לחכות.

חמש שכבות הגנה

1. משימה צרה ומוגדרת

אל תבקשו ״תטפל בחשבונית״. בקשו: ״החזר את שם הספק, מספר החשבונית, התאריך, הסכום לפני מע״מ והסכום הכולל. אם שדה לא מופיע, החזר null״. ככל שהמשימה צרה יותר, יש פחות מקום להמציא.

2. פלט במבנה קבוע

בקשו תשובה במבנה JSON עם שדות קבועים. כך האוטומציה יכולה לבדוק שכל שדה קיים ובפורמט הנכון, במקום לנסות להבין טקסט חופשי.

3. בדיקות כלל

זה החלק הכי משתלם, והוא לא דורש AI בכלל:

• האם הסכום הכולל שווה לסכום לפני מע״מ ועוד המע״מ?
• האם התאריך בטווח הגיוני, לא בעתיד ולא לפני שנתיים?
• האם הספק קיים ברשימת הספקים שלכם?
• האם מספר החשבונית כבר נקלט, כלומר כפילות?

4. השוואה למקור

כשיש מקור אמת, השוו אליו. לדוגמה, סכום בחשבונית מול הזמנת רכש, או מחיר בתשובה ללקוח מול המחירון. אם AI ניסח תשובה, הוא צריך לקבל את המחירון כחלק מההנחיה ולא להסתמך על ״זיכרון״.

5. אישור אנושי במקום הנכון

לא כל דבר צריך אישור, כי אז אין טעם באוטומציה. הכלל: מה שעבר את כל הבדיקות ממשיך לבד, ומה שנכשל באחת מהן, או שנוגע בכסף מעל סף מסוים, עובר לתור אישור עם כפתור אחד. כך אדם רואה רק את החריגים.

דוגמה: קליטת מסמכים בווטסאפ

אפשר לראות את שלב השליפה בפעולה במעבדת הדמו: שולחים מסמך ומקבלים פלט מובנה תוך שניות. על התהליך המלא ראו מדריך לאוטומציה של חשבוניות.

מתי לא להשתמש ב-AI בכלל

גם תשובות ללקוחות בנושאים משפטיים, רפואיים או פיננסיים מחייבים לא כדאי לשלוח אוטומטית. שם AI יכול לנסח טיוטה, אבל אדם שולח.

כמה זה מוסיף לעלות

שכבות הבדיקה מוסיפות מעט לזמן הבנייה, ובדרך כלל לא מוסיפות לעלות השוטפת, כי הבדיקות רצות בכלי האוטומציה עצמו. זה חלק מובנה בכל פרויקט שלנו, לא תוספת. פרטים על מחירים בכמה עולה אוטומציה.

השורה התחתונה

AI הוא עובד מהיר מאוד שלפעמים ממציא. לא נותנים לעובד כזה לחתום על צ'קים לבד, אבל גם לא מפטרים אותו. נותנים לו משימה ברורה, בודקים את העבודה שלו אוטומטית, ומסתכלים בעיניים רק על מה שחשוד.

איך בודקים שהמערכת באמת אמינה

לפני שמעלים תהליך עם AI לאוויר, כדאי לעשות בדיקה פשוטה: לקחת 30 עד 50 מסמכים או פניות אמיתיים מהחודש האחרון, כולל המטושטשים והחריגים, ולהריץ עליהם את התהליך. אחר כך משווים את התוצאה לאמת, שדה אחרי שדה.

מה מחפשים? לא רק כמה טעויות היו, אלא אילו. טעות שבדיקת הכללים תפסה ושלחה לאישור היא לא בעיה, זה בדיוק מה שהמערכת אמורה לעשות. הבעיה היא טעות שעברה את כל הבדיקות ונשמרה כאילו היא נכונה. אם יש כאלה, מוסיפים בדיקה או מצמצמים את המשימה, ומריצים שוב.

גם אחרי העלייה לאוויר, כדאי לדגום מדי פעם כמה תוצאות שעברו אוטומטית ולבדוק אותן בעין. זה לוקח כמה דקות בשבוע, ומגלה מוקדם אם משהו השתנה, למשל ספק שהחליף את פורמט החשבונית שלו.

ומה עם עדכוני מודלים?

ספקי AI מעדכנים את המודלים שלהם מדי פעם. בדרך כלל זה משפר, אבל לפעמים משנה התנהגות בדקויות. זו עוד סיבה שבדיקות הכללים צריכות לשבת מחוץ למודל, בכלי האוטומציה עצמו: הן לא משתנות כשהמודל משתנה, והן יתפסו הבדל בפלט לפני שהוא יגיע להנהלת החשבונות.

שאלות נפוצות