Abstract
המאמר משווה בין הפליה אנושית להפליה אלגוריתמית במערכות קבלת (ADM - Automated Decision Making) החלטות מבוססות אלגוריתם בזירה השוקית, ובוחן את השלכותיהן בהקשר של דיני ההפליה במשפט הישראלי. במאמר אנו מתארות שלושה סוגי הפליה אנושית: הפלית טעמים, המבוססת על העדפות אישיות, הפליה סטראוטיפית, המבוססת ברובה על דעות קדומות, והפליה סטטיסטית, המבוססת על הכללות מדויקות סטטיסטית, אך לא רצויות נורמטיבית. נראה כי בעוד שמערכות בינה מלאכותית עשויות להפחית הפליה הנובעת מטעמים אנושיים, כמו הפליית טעמים והפליה סטראוטיפית, הן לא תוכלנה להימנע מהפליה סטטיסטית, שעשויה להפלות חלק ממשתמשי המוצר או צדדים שלישיים. הבינה המלאכותית פועלת על בסיס מאגרי נתונים גדולים, ומבצעת הכללות סטטיסטיות באופן אינהרנטי. לכן ככל שפערים הם מדויקים סטטיסטית הם יבואו לידי ביטוי בפלט האלגורתמי. בנוסף, גם כאשר מנסים באופן אקטיבי להסיר משתנים מפלים כמו מגדר או גזע, המערכות האלגוריתמיות מסוגלות להסיק את המשתנים הללו ממשתנים אחרים, והתחקות אחר המשתנה בהחלטה המפלה היא כמעט בלתי אפשרית. כך, במקרים מסוימים התוצאות שתתקבלנה על ידי המערכות האלגוריתמיות עלולות דווקא לשעתק את ההפליה ואת אי-השוויון הקיימים בחברה. טענתנו במאמר היא שהפרויקט האלגוריתמי מציב אתגר משמעותי לדיני איסור ההפליה הקיימים. אנו מציעות לפצל את הטיפול המשפטי: להמשיך להחיל את דיני איסור ההפליה המסורתיים על החלטות אנושיות, אך לפתח מסגרת משפטית נפרדת להחלטות אלגוריתמיות שתתמקד בבחינת התוצאות וההשפעות החלוקתיות שלהן. גישה זו תדרוש הכרעות נורמטיביות מורכבות לגבי היקף הפערים המותרים בין קבוצות, ולגבי אופן חלוקת העלויות הכרוכות בצמצומם.
| Translated title of the contribution | Discrimination by People and by Algorithms |
|---|---|
| Original language | Hebrew |
| Pages (from-to) | 73-102 |
| Number of pages | 30 |
| Journal | משפט חברה ותרבות |
| Volume | ח |
| State | Published - 2025 |
IHP Publications
- ihp
- Artificial intelligence
- Bias (Law)
- Computer algorithms
- Computers -- Law and legislation
- Decision making
- Discrimination
- Discrimination -- Law and legislation -- Israel
- Equality
- Law -- Israel
- Statistics
- Stereotypes (Social psychology)
