אז למה לי רגולציה עכשיו???

בתחרות בין קדמה טכנולוגית לאסדרה רגולטורית – הטכנולוגיה לעולם תנצח. היא מהירה יותר, היא זמינה יותר והיא פרטנית. כל איש חינוך יכול בקלות לעשות שימוש בטכנולוגיות החדשות הצצות חדשות לבקרים, ויישומי בינה מלאכותית הם דוגמה קיצונית לכך: הכנת מצגת מגוונת ומערכי שיעור, החייאת תקשורת עם דמויות היסטוריות או יצירת סרטונים מרתקים -  והכול מהר, בעברית, וישר לטלפון או למחשב של משתמש הקצה. הבינה המלאכותית מתפתחת בקצב אקספוננציאלי, כך שיכולת החישוב מכפילה את עצמה כל שלושה חודשים! ואילו גלגלי הרגולטור זזים, על פי רוב, לאט ובכבדות. אז למה בעצם נדרשת כאן התערבות? מה כל כך מיוחד בטכנולוגיה החדשה? מהם הסיכונים שהיא מביאה איתה, ומה ניתן לעשות? 

כתבה: עו"ד ליהי פלדמן, התוכנית הלאומית לחינוך בעידן רווי בבינה מלאכותית, מינהל טכנולוגיה וחדשנות

אופיה הלומד והעצמאי של הבינה המלאכותית, יחד עם קצב התפתחותה הבלתי ניתן לריסון, מציבים בפנינו אתגרים מהסוג שלא הכרנו עד כה. כדברי המדען והתיאורטיקן פרופסור סטיבן הוקינג: "הצלחה בפיתוח בינה מלאכותית עשויה להיות ההישג האדיר ביותר בהיסטוריה האנושית. אך היא גם עשויה להיות ההישג האחרון, אם לא נדע להימנע מהסיכונים הטמונים בה". 

להלן דוגמאות לעיקרי הסיכונים הייחודיים לבינה מלאכותית:

הסברתיות – הבינה המלאכותית היא מעין "קופסה שחורה". כמשתמשי קצה, אנחנו לא יודעים מה נכנס אליה בעבר, וודאי לא יודעים מה יכול לצאת ממנה, או מה היה תהליך ה"חשיבה" שלה. אם בעבר היינו שולחים ילד לעיין בספר דיגיטלי או בערך של ויקיפדיה – יכולנו מראש לדעת בדיוק מה הוא ימצא שם ולמה ייחשף. אולם הבינה המלאכותית אינה צפויה, המלצותיה אינן ברורות, ותהליך קבלת ההחלטות שלה אינו ניתן לשחזור. כך ייתכן כי מערכת בינה מלאכותית בחרה "תלמיד מצטיין" מתוך הכיתה, אולם לא עשתה כן על פיו ציונים, אלא על פי אוסף היקשים שהאלגוריתם שלה מאפשר  (למשל – סטטיסטיקה לפיה תלמידים מצטיינים מגיעים תמיד מוקדם בבוקר, או כל דבר אחר). שימוש בכלי שלא ניתן להסביר את מהלכיו, עלול להביא לבעיות אמינות, אמון, הנחיה והסתמכות, ולערער את עקרונות ההל"ה. 

חוסר שקיפות וחובת גילוי – יישומי בינה מלאכותית מתאפיינים ברצון לרצות את המשתמש ולספק לו את מבוקשו. בתוך כך הם מתנצלים, מעודדים, ואף "מתעניינים" בבן שיחם, תוך יצירת מצב של האנשה (אנתרופורמיזם), שעשוי לגרום למשתמש, בוודאי כאשר מדובר בילדים, לשכוח שלא נמצא מולו יצור תבוני, אלא ביטוי אלגוריתמי של ידע. בלא מנגנוני הגנה ראויים, המחייבים את כלי הבינה להזדהות ככזה, הגבולות עלולים להיטשטש (ר' גם סעיף שלומות להלן). 

הטיות וחוסר שוויון – מערכת בינה מלאכותית נסמכת על המידע שהוזן לה ושעל פיו אומנה. וככל שמידע זה מכיל מידע מוטה או מפלה – כך גם התוצרים יהיו כאלה. כך למשל כאשר מבקשים מכלי בינה מלאכותית לצייר "אדם חכם", על פי רוב תתקבל תמונה של גבר לבן עם עור בהיר וחליפה. מהלך מעין זה, במיוחד בעולמות החינוך, עלול להפלות לרעה קבוצות אוכלוסייה רבות שלא נכללו בנתוני האימון של המערכת, וללא הפעלת שיקול דעת אנושי, עלול אף להיגרם מכך נזק רב. 

הזיות (מידע כוזב) – מערכות בינה מלאכותית מוכוונות לספק פתרון לשאלה אותה נשאלו, ואם אין פתרון כזה זמין או בנמצא – הן בהחלט עלולות להמציא מענה שאין לו כל קשר למציאות. "הזיות" של מערכות בינה מלאכותית הן תופעה נפוצה בכל התחומים ובכל המודלים. בעולם בו תלמיד מבקש מידע ממערכת ומקבל ממנה מידע מפוברק, מתעצם לאין ערוך הצורך בחיזוק החשיבה הביקורתית ויכולת האימות של התלמידים (והמורים), על מנת שלא יולכו שולל ויאבדו קשר עם המציאות. 

אחריותיות –  בעולם בו קבלת החלטות (למשל – מתן ציון, או סיווג למגמה מסוימת, או בניית תוכנית לימודים אישית, או סוכן בינה מלאכותית המבצע פעולות בעולם האמיתי) נעשית בידי מכונה בלבד, ללא מעורבות אנושית, מתעוררת שאלת האחריות: מי הגורם הנושא באחריות למקרה של תקלה. בהיעדר הסדרה משפטית ברורה כיום, אחד המענים האפשריים הוא הקפדה על מעורבות אנושית, לכל הפחות לפני קבלת החלטה סופית  - עיקרון של human in the loop, על מנת לספק מענה אחריותי בשלב זה. 

פרטיות – עקרון הגנת הפרטיות הוא זכות יסוד, והוא כולל הגנה על מידע אישי. בעולם בו מערכות בינה מלאכותית יכולות לאסוף כמויות אדירות של מידע אישי, להשתמש בו, להצליב אותו עם מקורות מידע אחרים, ואף ללמוד ממנו וליישמו במקרים דומים – ישנו חשש כבד לשמירה על הפרטיות מול כלים אלה. רצוי לפיכך להימנע משיתוף מידע אישי במערכות בינה מלאכותית, ולכל הפחות להשתמש במערכות מוכרות ומבוססות המקיימות מדיניות פרטיות ואבטחת מידע ראויה. 

שלומות – בלא מנגנוני הגנה מינימליים, כלי בינה מלאכותית עלולים בקלות לחשוף ילדים לתכנים בלתי הולמים ואף מסוכנים; הם עלולים שלא לזהות מצוקות רגשיות של תלמיד; והם עלולים להביא להתמכרות, תלות ואובדן כישורים חברתיים. כבר דווחו מקרים לא מעטים של נערים ונערות שפיתחו מערכת יחסים קרובה עם דמות בינה מלאכותית, שלבסוף הביאה לאובדנות או לעידוד לאלימות. יש לשים לב כי יישומים בעלי אוריינות פדגוגית עשויים לספק יותר הגנה מובנית מפני סיכונים אלה, מאשר כלים גנריים.

קניין רוחני – מערכות בינה מלאכותית יכולות לעשות שימוש ביצירות מוגנות בזכויות קניין רוחני, ולהפיצן לגורמים שלישיים ללא שמירה על זכויות היוצר (למשל – מבחן או סיפור שכתב מורה או תלמיד ושהעלה אותו לצ'אט). כמו כן, ישנה שאלה בדבר הזכויות בתוצרי בינה מלאכותית (למשל – תמונה שיצר בוט על פי בקשת המשתמש – של מי הזכויות עח התמונה). נושא זה נמצא כיום בדיונים בבתי משפט, וטרם נקבעו הלכות ברורות לגבי גבולות הקניין הרוחני. בעולם זה של אי ודאות, יש לפתח רגישות בשימוש בכלי בינה, הן במודעות לחומרים אותם משתפים עם הבינה, הן בצמצום העלאת יצירות ייחודיות,  והן בתוצרים אותם מקבלים מהבינה, בהם יש לאזכר את השימוש בבינה המלאכותית בתהליך היצירה.

בעולם קיימות גישות שונות לאסדרת טכנולוגיה חדשנית. הגישה האירופאית היא קשוחה יותר ופטרנליסטית יותר, וכמו שבשנת 2018 נחקק חוק מקיף בתחום הגנת הפרטיות – הוא ה-GDPR שהשפיע בפועל על מדיניות הפרטיות של העולם כולו - כך העביר האיחוד האירופי בסוף 2024 חוק בינה מלאכותית, ה-AI ACT שנכנס לתוקף באופן מדורג עד שנת 2026. חוק זה חל על המשק כולו, וקובע מדרג של חובות וסנקציות רחבות על פי מנעד של ניהול סיכוני בינה מלאכותית. כך מוגדרים יישומי בינה אסורים בקצה האחד של הספקטרום (למשל, העושים שימוש באיסוף פרצופים מרשתות ציבוריות, או הסתמכות על ניתוח הבעות פנים במקומות עבודה או לימודים), ויישומים בעלי סיכון נמוך בקצה השני (כגון דירוג סרטים או חיזוי תנועה). 

לעומת זאת, הגישה האמריקאית היא הרבה יותר מבוזרת תפיסתית, ולכן אין דבר חקיקה מרכזי המאסדר את כל עקרונות הבינה המלאכותית. כל מדינה נדרשת לקבוע לעצמה את המדיניות הכללית, ובתחום החינוך, המדיניות יכולה להיקבע אף ברמת המחוז או בית הספר הבודד. 

בישראל ננקטה גישת ביניים. אין כיום דבר חקיקה מרכזי ורוחבי, אולם מסמך מדיניות של משרד המדע והמשפטים לענעיין זה מנחה כל סקטור לבחון מהם הצרכים הייחודיים לאוכלוסיית היעד שלו, ומהם מנגנוני האסדרה הרכים הדרושים לקביעת התנהלות אחריותית עם יישומי בינה מלאכותית. ניתן למשל לעיין בחוות הדעת שהוציא לעניין זה הסקטור הפיננסי. 

מבין שתי האפשרויות: לרוץ קדימה או להישאר מאחור - משרד החינוך בחר בחלופה הראשונה. מתוך רצון לתת מענה מיידי, רחב ומהיר, נדרשו גם מהלכים רגולטוריים שנועדו להבטיח הגנה מיטבית ומהירה, מתוך ההבנה כי עדיפות ודאות וקדמה על פני הגנה מוחלטת וקיבעון. בעולם דינמי ומתחדש נדרשת "זמישות" (זמינות וגמישות – או אג'יליות) מחשבתית ומהלכים מתעדכנים ומתפתחים. וכך היה:

1. הנחיות שימוש בבינה מלאכותית – במהלך הכולל שיתוף פעולה והתייעצות מקצועית עם נציגי המינהלים השונים, עודכנו ההנחיות הראשונות שהופצו שנה קודם לכן, עם פרוץ הבינה המלאכותית לחיינו.

הנחיות אלה כוללות:

• מבוא לעקרונות בינה מלאכותית, יתרונותיה וסיכוניה
• עקרונות לשימוש לפי חלוקה לקבוצות גיל (אסור עד כיתה ג', בכיתה ד' מותר רק בוט חינוכי של המשרד, בכיתות  ה'-ז' מותרים רק סוגי כלים המותירים שליטה בידי המורה, ומכיתה ח' - מותר לעשות שימוש עצמאי בכלים שאושרו לכך.)
• כללי שימוש

אם בעבר לצורך אישור ספר דיגיטלי, למשל בהיסטוריה, היה צורך באישור טכני שהאתר עומד בדרישות אבטחת מידע, באישור פדגוגי לכך שהתוכן מותאם לתוכנית הלימודים, ובאישור משפטי על תנאי ההתקשרות והשימוש - הרי שבעידן הבינה המלאכותית, לא ניתן להסתפק בבדיקות אלה על מנת להבטיח שהשימוש בכלי בינה מלאכותית הוא מאובטח. 

כדוגמה, נחשוב על למידה באמצעות בוט להיסטוריה. פשוט? מממש לא. צריך לחשוב על סוגיות רבות 

1. מהם המקורות עליו נסמך הבוט?
2. אולי מוצגת תפיסה שאינה עולה בקנה אחד עם ערכי מערכת החינוך בישראל?
3. מה לגבי אבטחת מידע – לא רק בעת ההתחברות לאתר, אלא גם בהקשר לפרטים שתלמידים עשויים להעלות לצ׳אטבוט תוך כדי שיחה עימו?
4. וכיצד נבטיח שהתוכן אליו נחשפים התלמידים הינו ראוי?

 נושא התקינה הייעודית לבינה מלאכותית בעולם, נמצא עוד בחיתוליו, ובתחום החינוך אף פחות מכך. לפיכך היה צורך במענה מקומי ומיידי. ראשית, עודכן תקן אבטחת מידע לספקי מוסדות חינוך של המשרד, הקובע תנאי סף הכרחיים לסוגיות חדשות רבות בתחום. נוסף על כך, מתגבש בימים אלה נוהל חדש לתחום בינה מלאכותית, שיוסיף רובד נוסף ומותאם של הגנה, לכשיתפרסם. 

גם במבט צופה עתיד, למשל בכל הנוגע ללמידה מותאמת אישית, הרי שהפוטנציאל הגלום בבינה המלאכותית הוא אדיר, ונדרש ליווי רגולטורי צמוד, על מנת להבטיח את האיזונים הדרושים ולאפשר בניית תשתית ראויה ואחריותית.

ישנן טענות לפיהן הבינה המלאכותית תשתלט על העולם. אך אולי גם לא. הרי הייתה כבר מהפכה תעשייתית ומהפכת האינטרנט, ואפילו חששות מכך שהמצאת הוויקיפדיה תשבש את יכולות המחקר של תלמידים. אם הולכים מספיק אחורה, אפשר להתייחס לאמירתו של אייזיק אסימוב: "כל התקדמות טכנולוגית יכולה להיות מסוכנת. האש הייתה מסוכנת מההתחלה, וכך גם הדיבור – ושניהם עדיין מסוכנים עד היום – אך בני האדם לא היו בני אדם בלעדיהם".

ומכאן שומה עלינו לנקוט משנה זהירות, להיות שומרי הסף ולהפעיל מנגנוני הגנה, בין אם ברמה אישית, מקצועית, משרדית, לאומית או עולמית, על מנת להצליח לרתום את יתרונות הבינה המלאכותית לטובת ילדינו והאנושות כולה.