שקיפות פותרת בעיה זו באמצעות מודלים הניתנים לפירוש בקלות, שעל חלקם ניגע בחלק הבא. יכולת ההסבר פותרת בעיה זו על ידי "פירוק הקופסה השחורה", או ניסיון לקבל תובנות ממודל למידת המכונה, לעתים קרובות על ידי שימוש בשיטות סטטיסטיות.
מהי הסבר מודל?
הסבר המודל הוא מושג רחב של ניתוח והבנת התוצאות שמספקות מודלים של ML. הוא משמש לרוב בהקשר של דגמי "קופסה שחורה", שקשה להדגים לגביהם כיצד הגיע הדגם להחלטה ספציפית.
מהי הסבר בלמידה עמוקה?
Explainability (המכונה גם "פרשנות") היא התפיסה ש- ניתן להסביר מודל למידת מכונה והתפוקה שלו באופן ש"הגיוני" לאדם ברמה מקובלת … אחרות, כגון מערכות למידה עמוקה, למרות שהן ביצועיות יותר, נותרו הרבה יותר קשות להסבר.
מה המשמעות של הסבר בהקשר של מערכת בינה מלאכותית?
אנדרו Maturo, מנתח נתונים, SPR. "בינה מלאכותית ניתנת להסבר במילים פשוטות פירושה AI שקוף בפעילותו כך שמשתמשים אנושיים יוכלו להבין ולסמוך על החלטות ארגונים חייבים לשאול את השאלה - האם תוכל להסביר כיצד ה-AI שלך יצר את זה תובנה או החלטה ספציפית?" –
מהי בעיית ההסבר?
לאנשים יש סלידה לכאורה מהחלטות קופסה שחורה שמשפיעות עליהם כלכלית, בריאותית ועשרות דרכים אחרות, ובו בזמן לא מודעים לסוגים שונים של החלטות. … כאשר בינה מלאכותית מקבלת החלטות אלו, ניתן לשמוע דרישה להסבר.
