רגולציה על בינה מלאכותית: מה חברות ועמותות בישראל צריכות להכין כבר עכשיו

בינה מלאכותית הפכה בתוך זמן קצר מכלי ניסיוני לחלק מרכזי בעבודה של חברות וארגונים רבים. מערכות שכותבות טקסטים, מנתחות נתונים, עונות ללקוחות ומסייעות בקבלת החלטות נמצאות בשימוש יומיומי במשרדים, בחנויות מקוונות ואפילו בעמותות קטנות. במקביל, ממשלות וגופים בינלאומיים מבינים שהטכנולוגיה הזו מעוררת שאלות קשות של פרטיות, הוגנות, אחריות ושקיפות, ומתחילים לגבש כללים. עבור ארגונים בישראל, ובמיוחד כאלה שעובדים עם לקוחות או שותפים בחו״ל, ההתפתחויות האלה אינן רק עניין תיאורטי.

למה בכלל צריך רגולציה

מערכות בינה מלאכותית לומדות מתוך כמויות גדולות של מידע, ולעיתים הן משקפות את ההטיות שקיימות במידע הזה. מערכת שמסננת קורות חיים, למשל, עלולה להעדיף מועמדים מקבוצה מסוימת אם היא אומנה על נתונים היסטוריים מוטים. מערכת שמחליטה על אישור הלוואה עלולה לקבל החלטות שקשה להסביר. ומערכות שאוספות מידע אישי עלולות לפגוע בפרטיות של אנשים שלא הסכימו לכך.

הרגולציה נועדה לאזן בין העידוד לחדשנות לבין ההגנה על הציבור. היא לא שואפת לעצור את הטכנולוגיה, אלא לקבוע כללי משחק ברורים: מה מותר, מה דורש זהירות מיוחדת ומה אסור. עבור ארגונים, כללים ברורים יכולים דווקא להקל, כי הם מפחיתים אי ודאות ומאפשרים לתכנן מראש.

הגישה מבוססת הסיכון

אחת הגישות המרכזיות שמתגבשות בעולם מבוססת על חלוקה לפי רמות סיכון. שימושים שנחשבים בעלי סיכון נמוך, כמו מסנן ספאם או המלצות על שירים, כפופים לדרישות מינימליות. שימושים בעלי סיכון גבוה, כמו מערכות בתחומי הבריאות, התעסוקה, החינוך או האשראי, נדרשים לעמוד בדרישות מחמירות של תיעוד, בקרה אנושית, בדיקות דיוק ושקיפות. וישנם שימושים שנחשבים מסוכנים מדי ונאסרים לחלוטין במקומות מסוימים.

לארגונים ישראליים שמוכרים מוצרים או שירותים באירופה, למשל, כללים כאלה עשויים לחול גם אם החברה עצמה רשומה בישראל. המשמעות היא שצריך להכיר את הדרישות בשווקים שבהם פועלים, ולא רק את החוק המקומי.

המצב בישראל

בישראל, הגישה עד כה הייתה זהירה ונטתה להעדיף הנחיות, עקרונות ורגולציה מגזרית על פני חוק כללי אחד. רגולטורים בתחומים שונים, כמו פיננסים, בריאות והגנת הפרטיות, פרסמו מסמכי עמדה והנחיות שמתייחסים לשימוש בבינה מלאכותית בתחומם. במקביל, חוקי הגנת הפרטיות הקיימים חלים גם על מערכות כאלה, במיוחד כשהן מעבדות מידע אישי.

התמונה ממשיכה להתפתח, ולכן חשוב לעקוב אחר העדכונים. ארגון שמשקיע עכשיו בהבנת התחום ובבניית נהלים פנימיים יהיה מוכן טוב יותר לכל שינוי עתידי, ויימנע מהצורך לבצע התאמות דחופות ויקרות בהמשך.

מה כדאי לעשות כבר עכשיו

גם בלי לחכות לחקיקה מחייבת, יש צעדים פשוטים שכל ארגון יכול לנקוט. הצעד הראשון הוא מיפוי: לרשום באילו כלים של בינה מלאכותית משתמשים בארגון, לאילו מטרות, ואיזה מידע מוזן אליהם. בארגונים רבים מתגלה שעובדים משתמשים בכלים שונים באופן עצמאי, בלי שההנהלה יודעת על כך.

• למפות את כל הכלים ואת סוגי המידע שמוזנים אליהם
• לקבוע מדיניות שימוש ברורה לעובדים ולמתנדבים
• להימנע מהזנת מידע אישי רגיש לכלים חיצוניים ללא בדיקה
• להגדיר בקרה אנושית על החלטות משמעותיות
• לתעד את התהליכים ואת ההחלטות שהתקבלו

מדיניות שימוש לא חייבת להיות מסמך משפטי ארוך. לעיתים מספיק דף אחד שמסביר מה מותר להזין לכלים, אילו כלים מאושרים, ומתי חובה לבדוק את התוצר לפני שהוא יוצא החוצה.

עמותות וארגונים חברתיים: תשומת לב מיוחדת

לעמותות יש סיבות מיוחדות להקפיד. הן עובדות לעיתים קרובות עם אוכלוסיות פגיעות, ומחזיקות במידע רגיש על מטופלים, תורמים ומתנדבים. שימוש לא זהיר בכלי בינה מלאכותית עלול לחשוף מידע כזה או לפגוע באמון שהוא הנכס החשוב ביותר של ארגון חברתי.

מצד שני, הכלים האלה יכולים לחסוך לעמותות זמן ומשאבים יקרים: לכתוב טיוטות של בקשות למענקים, לסכם דוחות, לתרגם חומרים ולנתח משובים. הדרך הנכונה היא לא להימנע מהם, אלא להשתמש בהם בתבונה, עם כללים ברורים ובליווי של אנשי מקצוע כשיש ספק. מומלץ להתייעץ עם יועץ משפטי שמתמחה בפרטיות ובטכנולוגיה כדי לוודא שהשימוש עומד בדרישות.

שקיפות מול הלקוחות והציבור

עיקרון שחוזר כמעט בכל המסגרות הרגולטוריות הוא שקיפות. אנשים זכאים לדעת כשהם מתקשרים עם מערכת אוטומטית ולא עם אדם, וזכאים להבין, לפחות באופן כללי, איך התקבלה החלטה שמשפיעה עליהם. ארגונים שמאמצים שקיפות מרצונם, למשל באמצעות הודעה ברורה בצ׳אט באתר או הסבר במדיניות הפרטיות, בונים אמון ומקדימים את הדרישות.

שקיפות כוללת גם הכרה במגבלות. מערכות בינה מלאכותית עלולות לטעות, להמציא פרטים או להציג מידע לא מדויק בביטחון רב. ארגון אחראי בודק את התוצרים, מתקן טעויות ומאפשר לאנשים לפנות לנציג אנושי כשהם צריכים.

מבט קדימה

הרגולציה של בינה מלאכותית נמצאת בשלבים מוקדמים יחסית, והיא צפויה להשתנות ולהתעדכן ככל שהטכנולוגיה מתקדמת. ארגונים שיתייחסו לנושא כאל הזדמנות לבנות תהליכים מסודרים, ולא כאל נטל, ימצאו את עצמם במקום טוב. הם ישתמשו בכלים בצורה בטוחה יותר, יגנו על המידע שבידיהם ויוכלו להציג לשותפים וללקוחות מחויבות לאחריות.

ספקים ושרשרת האחריות

נקודה שארגונים רבים מפספסים היא שהאחריות לא נעלמת כשמשתמשים בכלי של ספק חיצוני. אם עמותה או חברה משלבת באתר שלה צ׳אט מבוסס בינה מלאכותית של חברה אחרת, היא עדיין אחראית כלפי המשתמשים שלה על האופן שבו המידע שלהם מטופל. לכן, לפני בחירת ספק, כדאי לשאול שאלות פשוטות: היכן נשמר המידע, האם הוא משמש לאימון מודלים, למי הוא מועבר, ומה קורה כשמבקשים למחוק אותו.

מומלץ לעגן את התשובות בהסכם כתוב, ולבחון אותן מחדש מדי פעם, כי תנאי השימוש של ספקים משתנים לעיתים קרובות.

לסיכום, אין צורך לחכות לחוק כדי להתחיל לפעול. מיפוי הכלים, מדיניות שימוש פשוטה, בקרה אנושית ושקיפות הם צעדים שכל ארגון, קטן או גדול, יכול ליישם כבר היום. מי שיעשה זאת יהיה מוכן לכל רגולציה שתגיע, וחשוב מכך, ישתמש בטכנולוגיה באופן שמכבד את האנשים שהוא משרת.