הזיה היא מצב שבו כלי בינה מלאכותית ממציא מידע שנשמע אמין אבל אינו נכון — עובדה שלא קיימת, ציטוט שאף אחד לא אמר או ספר שלא נכתב. באנגלית קוראים לזה Hallucination.
מודל שפה בונה תשובה מילה אחרי מילה לפי מה שנראה סביר. לפעמים הדבר הכי ״סביר״ מבחינת התבנית הוא בכלל לא נכון במציאות. למשל, אם שואלים על ספר שלא קיים, המודל עלול להמציא לו עלילה ושם סופר, כי זה נראה כמו תשובה רגילה על ספר.
הזיות מסוכנות במיוחד כי הן נכתבות באותו ביטחון ובאותו סגנון כמו תשובות נכונות. אין סימן אזהרה שאומר ״כאן המצאתי״. לכן בכל דבר חשוב — עבודה לבית הספר, בריאות, מספרים או תאריכים — בודקים במקור אמין, כמו ספר, אתר רשמי או מבוגר שמבין בנושא.
טעות נפוצה היא לחשוב שהזיה היא שקר מכוון. לבינה מלאכותית אין כוונות; היא לא ״יודעת״ שהיא טועה. ההזיה היא תוצאה של הדרך שבה המודל עובד — ניחוש לפי תבניות. וגם אנשים יכולים לטעות, ולכן הרגל טוב הוא לבדוק כל מקור.
💡 איך זוכרים? הזיה = המצאה שנשמעת בטוחה. נשמע טוב ≠ נכון. בודקים!
מודל שפה הוא מודל בינה מלאכותית שאומן על כמות עצומה של טקסט ולמד לנחש איזו מילה, או חלק ממילה, צפויה לבוא אחרי טקסט נתון. כך הוא יכול לכתוב משפטים, לענות ולסכם.
