המגזר הפיננסי נהנה מיתרון טבעי בהטמעת מערכות ניהול אלגוריתמיות, הודות לאופיו הדיגיטלי המבוסס על נתונים מובנים וכמותיים. מערכות אלו משנות באופן מהותי את הקשר בין המוסדות הפיננסיים ללקוחותיהם וכן את הניהול הפנימי של העובדים. המערכות האלגוריתמיות מביאות לשיפורים משמעותיים: הפחתת שגיאות הנובעות מהטיות אנושיות, שיפור חוויית הלקוח, ייעול תהליכים תפעוליים, וקבלת החלטות מבוססות נתונים לצד יכולות זיהוי הונאות מתקדמות. במקביל, האתגרים הייחודיים של המגזר הפיננסי – רגולציה מחמירה, דרישות אמון גבוהות מצד הלקוחות, וטיפול במידע רגיש – מחייבים רמות פיקוח ובקרה מתקדמות. מערכות הניהול האלגוריתמיות עונות על אתגרים אלו באמצעות ניטור רציף של ביצועי עובדים ומדדי איכות שירות בזמן אמת, ובכך מפחיתות באופן משמעותי סיכונים רגולטוריים ותפעוליים.

לצד היתרונות שבהטמעת מערכות בינה מלאכותית בעבודה השוטפת ובניהול העובדים, נדרש להתמודד עם האתגרים שטמונים בכלים מבוססי בינה מלאכותית במקום העבודה, וזאת בשני מישורים: במישור הרגולטורי-חוקי:  המאמר בוחן את האופן שבו השינוי בעבודה המאורגנת, כתוצאה מהטמעת מערכות בינה מלאכותית בארגונים מטופל באירופה, ארצות הברית, ובישראל. האיחוד האירופי אישר במרץ 2024 את חוק ה-EU AI Act המחיל רגולציה מבוססת רמות סיכון, כאשר מערכות "בסיכון גבוה", כמו מערכות להערכת עובדים, כפופות לפיקוח הדוק. במקביל, אושרה אמנה אירופית לבינה מלאכותית (שגם ישראל חתומה עליה) המחייבת את המדינות החתומות עליה לאמץ חקיקה שתשקף עקרונות של פרטיות, שקיפות ואי אפליה. בארה"ב אין חקיקה מחייבת, אלא בעיקר המלצות אתיות. בישראל אומצה החלטת ממשלה 173, המעודדת רגולציה עצמית וניסיונית, אך טרם נחקקה מסגרת משפטית מחייבת.

המאמר  מדגיש שבהיעדר חקיקה ייעודית, גובר הצורך במנגנוני ההגנה של העבודה המאורגנת, מה שמוביל למישור השני שעניינו – חתימה על הסכמים קיבוציים במקומות עבודה מאורגנים. פרופ' קוכן שעסק בהשלכות הבינה המלאכותית במקום העבודה סבר שאחת מהדרכים להתמודד עם אתגרים מסוג זה היא מעורבות של העובדים ונציגיהם בקבלת ההחלטות הטכנולוגיות. על רקע זה, ארגוני העובדים נדרשים לרה-קונספטואליזציה במסגרת פועלם כגוף מייצג במספר מישורים:

הראשון הוא הפיכת משימות מסורתיות לאוטומטיות וביצוען באמצעות מערכות בינה מלאכותית  מציב אתגרים תעסוקתיים לעובדי "הצווארון הלבן". משכך, גובר הצורך בעובדים בעלי מיומנויות טכנולוגיות מתקדמות וחשיבה יצירתית. על כן, ארגוני העובדים צריכים לדרוש הפעלת תוכניות להכשרת עובדים כדי שיוכלו להתאים את עצמם לסביבת העבודה המשתנה.

המישור השני מתמקד בתוצאות הנובעות מהדילמה בין הדרישה הלגיטימית של לקוחות לאבטחת מידע ואמינות שירות מרבית, לבין הזכות הבסיסית של עובדים לפרטיות ותנאי עבודה מכבדים.

על הארגונים לאזן בין אינטרסים אלה, להגדיר גבולות ברורים למעקב (ניטור) אחר העובדים. כמו כן, עליהם לפעול כמתווכים בין הצרכים של העובדים לאלו של הלקוחות ובמסגרת זו, להבטיח שהמאמצים לשפר את השירות ללקוח לא יבוא על חשבון תנאי העבודה.

המישור השלישי דן בהשלכות עידן הטכנולוגיה המתקדמת על החלטות ניהוליות רבות שהפכו לאוטומטיות ולבלתי שקופות. לכן, ההמלצה במאמר היא לדרוש קיום משא ומתן על אופן יישום המערכות במקום העבודה, לחשוף קריטריונים להערכת עובדים, ולשלב את האיגודים בדיונים אתיים ברמה הארגונית. כמו כן, על הארגונים לפעול ברמה הלאומית והבינלאומית לקידום מדיניות ורגולציה שיגנו על זכויות העובדים בעידן הדיגיטלי. על מנת שארגוני העובדים יוכלו להשפיע בפועל בדיונים טכניים ומורכבים על יישום טכנולוגיות חדשות הם נדרשים לפתח מומחיות פנימית בנושא טכנולוגיה ומדיניות דיגיטלית.

נוסף על אלה, השימוש במערכות בינה מלאכותית על ידי מנהלים כלפי עובדים משפיע על אופן ניהול העובדים בעידן הדיגיטלי ומעורר בעיות שמדגישות את הצורך בארגוני העובדים:

ראשית, המאמר מציג מגוון פרקטיקות טכנולוגיות של פיקוח על עובדים, ובוחן את הלגיטימיות המשפטית והאתית של כל אחת מהן: ניטור פעולות עובדים לצורכי אבטחת מידע או ניתוח דפוסי עבודה הכפופים להסכמת העובד ולמגבלות של שימוש עסקי לגיטימי בלבד; מעקב אחר מיקום באמצעות רכבי חברה מותר כאשר למעסיק יש צורך לגיטימי בפיקוח על עובדיו, במיוחד בעבודות ניידות, וכשמדובר בניטור בדיעבד; שימוש באמצעי אבטחה כמו זיהוי ביומטרי ובמצלמות כפוף להוראות רגולטוריות של הרשות להגנת הפרטיות ולהוראות של רשם מאגרי המידע. לעומת זאת, ניטור של רשתות חברתיות לשם איסוף מידע אישי שאינו רלוונטי לעבודה נתפס כפוגעני ולא לגיטימי .ניטור רשתות חברתיות של עובדים לצורכי איסוף מידע אישי שאינו רלוונטי לעבודה נחשב לפוגעני ולחסר הצדקה משפטית או אתית. פעולות ניטור כאלה חושפות מידע פרטי על חייו האישיים של העובד, ועלולות לפגוע בצנעת הפרט.

המאמר מדגיש כי פגיעה בפרטיות העובד ללא הסכמתו מהווה הפרה אסורה, אך מציין כי גם כאשר ניתנת הסכמה, יש להטיל ספק ברצונה החופשי בשל יחסי התלות הכלכלית שבין העובד למעסיק. בהתאם לכך, המחברים מציעים שהחלת מערכות בינה מלאכותית תותנה בהיוועצות מוקדמת עם ארגוני העובדים במסגרת חובת ההיוועצות וניהול משא ומתן עם ארגוני העובדים. זאת ועוד, שהעובד יידרש לתת הסכמה ספציפית ומודעת לכל שימוש שנעשה במידע הנאסף עליו תוך עיגון הדברים בחוזה העבודה. נוסף על כך, על ארגוני העובדים לפעול להגבלת היקף המידע שנאסף ולהימנע ממדיניות של ניטור מוגזם הפוגעת בזכויות העובדים.

שנית, החלטות שמתקבלות על ידי אלגוריתמים עלולות להיות לא שוויוניות ומפלות, וזאת משתי סיבות עיקריות: קבלת החלטות אלגוריתמיות שמבוססות על נתונים יבשים (הישגים, ותק, שהות בעבודה) ללא התחשבות בקריטריונים רלוונטיים אחרים (שירות מילואים, חופשת לידה, מגבלות פיזית) עלולה להוביל לתוצאה מפלה שאסורה לפי חוק שוויון הזדמנויות בעבודה, התשמ"ח–1988; אלגוריתמים לניהול משאבי אנוש שמבוססים על פרקטיקות ישנות מפלות או בלתי הוגנות ועל הטיות חברתיות היסטוריות מובילים לקבלת החלטות מפלות בעניין פיטורין, קידום וגיוס עובדים.

השימוש במערכות ניהול אלגוריתמיות-אוטומטיות מעורר קשיים נוספים: חלוקת משימות בהתבסס על נתונים היסטוריים מוטים; אובדן האינטראקציה האנושית בין מנהלים לעובדים ופגיעה ביחסי העבודה; ניטור מתמיד וקפדני שיוצר סביבת עבודה לחוצה ולא בריאה והתעלמות מנתונים איכותיים והתמקדות בנותנים כמותיים בהערכת ביצועי עובדים. על ארגוני העובדים לפעול להבטחת שקיפות בקבלת החלטות על ידי בינה מלאכותית, לחשיפת הקריטריונים שמשמשים לקבלת החלטות ולהחלת מדדי גיוון ושוויון כדי למנוע תוצאות מוטות. כמו כן, עליהם לדרוש שבהסכמים הקיבוציים יוגדר כיצר הבינה המלאכותית יכולה לשמש מנגנון לקבלת החלטות בנוגע לעובדים.

בסופו של דבר, המאמר מציע גישה מאוזנת וזהירה כלפי שילוב טכנולוגיות מתקדמות במקום העבודה, תוך שימת דגש על מעורבות ארגוני העובדים בין קדמה טכנולוגית לבין שמירה על זכויות העובדים בעידן דיגיטלי.

המאמר צפוי להתפרסם בכתב העת מחקרי רגולציה מבית מרכז חת לחקר התחרות והרגולציה.