רגולציה לבינה מלאכותית במגזר הציבורי
ממשלה שוקלת מסגרת רגולציה לשימוש בבינה מלאכותית במשרדים ובשירותים הציבוריים, מתוך דאגות לפרטיות, שקיפות ואחריות.
גורמים ממשלתיים דנים בהכנסת מסגרת רגולטורית חדשה לשימוש בבינה מלאכותית במגזר הציבורי. הדיון נועד להתמודד עם השילוב המהיר של מערכות אוטומטיות בתהליכים מנהליים ושירותים לאזרח, לצד חששות לגבי סיכונים אתיים ותפעוליים.
מה עומד מאחורי המהלך
הכניסה של טכנולוגיות חדשות לפעילות הממשלתית מעלה שאלות על שקיפות קבלת החלטות, שמירה על פרטיות ומניעת הטיות אלגוריתמיות. בנוסף, קיימת הצורך להסדיר מי נושא באחריות במקרה של החלטות שגויות שיינבעו ממערכות מבוססות נתונים.
עיקרי המסגרת המוצעת
למסגרת המוצעת צפויות להיות כמה נקודות מרכזיות, בהן
- שקיפות בדרכי פעולה והסבר על השימוש במודלים;
- אחריות משפטית ומנהלית על החלטות אוטומטיות;
- הגנה על נתונים ועמידה בכל חובות הפרטיות;
- בחינות איכות ובקרה לפני הפעלת מערכות במגע עם הציבור.
השלכות פוליטיות ומנהליות
החלת רגולציה עלולה להטות את המאזן בין קידום חדשנות נדרשת לבין שמירה על אינטרסים ציבוריים. עלויות יישום, הכשרת כוח אדם והקמת מערכי ביקורת פנימיים הן בין השיקולים שעל הפרק, לצד הצורך בהתאמה לחקיקה קיימת ולתקנים בינלאומיים.
ארגוני חברה אזרחית, מומחים טכנולוגיים ורשויות מקומיות עוקבים אחרי הדיון ודורשים שיתוף ציבורי ופיילוטים מבוקרים לפני הרחבה נרחבת. חלק מהעוסקים בתחום מצביעים על הצורך במנגנוני ערעור ובדיקת השפעה סביבתית וחברתית של פרויקטים המבוססים על בינה מלאכותית.
בשלב הנוכחי המסגרת מיועדת להמשיך לדיון פנימי ולהיחשף להתייעצויות נוספות; הצעדים הבאים כוללים בחינת חברות, ניסויים מבוקרים והכנת המלצות שיכולות להוביל לפעולות רגולטוריות או מדיניות נוספות.
