רקע
בעשור האחרון גובר השימוש במערכות המבוססות על מודלים של בינה מלאכותית (AI) (להלן: מערכות מבוססות בינה מלאכותית) בשירותים במימון ציבורי. אף שטכנולוגיה זו מאפשרת לשפר את היעילות, הנגישות וההתאמה של שירותים לצרכים, אם לא משתמשים בה בזהירות היא מעלה סיכונים ממשיים לשעתוק פערים חברתיים ולהעמקת אפליה בקרב אוכלוסיות פגיעות. לנוכח התרחבות השימוש במערכות מבוססות בינה מלאכותית עלה הצורך לבחון כיצד אפשר להבטיח שהן יפעלו על פי ערכי שוויון והוגנות. על רקע זאת פנה הג'וינט למכון מאיירס-ג'וינט-ברוקדייל בבקשה לערוך סקירה שתבחן את ההטיות והסיכונים הגלומים בשימוש במערכות מבוססות בינה מלאכותית בשירותים במימון ציבורי ולמפות כיווני פעולה מעשיים לקידום הוגנות אלגוריתמית – עיקרון המתייחס לאופן שבו מערכות אלגוריתמיות, ובפרט מערכות מבוססות בינה מלאכותית, מקבלות החלטות המשפיעות על בני אדם, או תומכות בהן. עיקרון זה מבקש להבטיח כי החלטות אלו אינן יוצרות או משמרות הטיות בלתי מוצדקות, אפליה או פגיעה בשוויון הזדמנויות בין פרטים וקבוצות באוכלוסייה. המחקר נערך בשיתוף אוניברסיטת בן גוריון.
מטרה
לגבש הבנה שיטתית של האתגרים והסיכונים הקשורים להוגנות ושוויון הזדמנויות בשימוש במודלים של בינה מלאכותית בשירותים במימון ציבורי ולהציג מארג של פתרונות מעשיים שמאפשרים למשרדי הממשלה ולגופים ציבוריים לתכנן, לפתח ולהטמיע מערכות מבוססות בינה מלאכותית באופן שיצמצם הטיות ויקטין סיכונים של פגיעה בהוגנות.
שיטה
הסקירה מתבססת על מידע ממגוון מקורות: מאמרים אקדמיים מן הספרות המקצועית הישראלית והבין-לאומית; ספרות אפורה: דוחות מחקר, מסמכים רשמיים של משרדי ממשלה וארגונים בין-לאומיים; כתבות בעיתונות ושלושה ראיונות עומק חצי מובנים מקוונים עם מומחים בתחום הבינה המלאכותית בישראל. המידע נאסף בחודשים מארס-דצמבר 2025 והראיונות בוצעו בחודשים מאי-יולי 2025.
עיקרי הממצאים ומסקנות
הסקירה מציגה מיפוי של ההטיות והסיכונים הגלומים בפיתוח מערכות מבוססות בינה מלאכותית ובהפעלתן. הממצאים מצביעים על כך שהחלטות מוקדמות בתכנון מערכות מבוססות בינה מלאכותית מעצבות את גבולות ההוגנות לאורך כל שלבי פיתוח המערכת. משום כך חיוני לבצע תהליכי פיתוח זהירים ופיילוטים מבוקרים. עם זאת הממצאים מראים כי קידום הוגנות אינו יכול להישען על עקרונות תיאורטיים או על זיהוי סיכונים בלבד, אלא מומלץ תחילה לבצע בחינה מעמיקה של מטרות המערכת. על פי המטרות שנקבעו נדרש להגדיר כבר בראשית הדרך מהי ההוגנות הרצויה עבור כל מערכת ולבסס מומחיות ייעודית בקרב קובעי מדיניות, המשלבת הבנה טכנולוגית, חברתית ומוסדית. ממדים אלו יוצרים יחד תשתית כוללת לתכנון מערכות מבוססות בינה מלאכותית בשירות הציבורי ולשימוש אחראי בהן.
בצד זאת יש צורך לא רק במיפוי סיכונים אלא גם בפיתוח, אימוץ והטמעה של כלים ופרקטיקות קיימות להתמודדות עם סיכוני הטיה ואי-שוויון והתאמתם לפעולת המערכת הציבורית, כדי להבטיח הגנה על אוכלוסיות פגיעות ולחזק את אמון הציבור. חשוב לציין כי כל מערכת דורשת מערך פתרונות מותאם, ואין פתרון אחיד המתאים לכלל המערכות. לפיכך מערכות מבוססות בינה מלאכותית יכולות לשמש מנוף לתיקון הטיות ולצמצום אי-שוויון, אך הדבר תלוי בהטמעה אחראית המשלבת כלים טכנולוגיים עם מעטפת מוסדית חזקה שמקדמת שוויון הזדמנויות וצדק חברתי.
הצעה לציטוט (APA):
פורזיקי, ו', לבני נבון, ע' ופיינשטיין, ע' (2026). הוגנות בשירותים במימון ציבורי: עקרונות, סיכונים ופתרונות ליישום מדיניות הוגנות אלגוריתמית במערכות מבוססות בינה מלאכותית. סקירה בין-לאומית. דמ-26-076. מכון מאיירס-ג'וינט-ברוקדייל.
Porzycki, V., Livni Navon, I., & Feinstein, O. (2026). Fairness in publicly funded services: principles, risks, and solutions for implementing algorithmic fairness policy in artificial intelligence systems. An international review. RR-076-26. Myers-JDC-Brookdale Institute.