הזיות של מכונה — בין יצירתיות לעובדות בדוקות

דור AI-ה 52 ג'יימס ווב אני יכול לספר לילד שלי בן התשע ? " Bard סיפק כמה תשובות, אך אחת מהן הייתה שגויה : הוא טען שהטלסקופ צילם את התמונה הראשונה של כוכב מחוץ למערכת השמש, בעוד התמונה הראשונה צולמה בשנת 2004 על ידי טלסקופ אחר . מקרה זה הוביל לירידה של % 8 בערך מניית גוגל, ושימש תזכורת כואבת לכך שהמודלים הללו רחוקים עדיין מלהיות מושלמים . תקרית נוספת, חמורה הרבה יותר, התרחשה במנוע החיפוש Bing Copilot של מיקרוסופט, כאשר המודל ייחס לעיתונאי מרטין ברנקלאו פשעים חמורים, כולל הטרדה מינית ובריחה ממוסד פסיכיאטרי . בפועל, ברנקלאו סיקר מקרים אלו, אך בינה מלאכותית יצרה קשר מוטעה בין הדיווחים לבין האיש שכתב עליהם . מדובר במצב בעייתי במיוחד, שמדגים את הסכנות הגדולות שבשימוש במערכות בינה מלאכותית המפיצות מידע מטעה, שעלול לפגוע בשמם של אנשים חפים מפשע . כיצד מתרחשות הזיות ? כדי להבין את המקור לתופעות הללו, עלינו להבין כיצד פועלים מודלים של שפה גדולה . המודלים הללו מתבססים על מאגרי מידע עצומים ולומדים מהם דפוסים סטטיסטיים כדי לייצר תשובות סבירות לשאלות . אולם, כששואלים אותם שאלות שהן מחוץ למידע שעליו ה...  To the book