פיל ירוק ביער: חשיבה ביקורתית על בינה מלאכותית

פעילות טכנו-פדגוגית המיועדת להקנות הבנה באשר לאופן הפעולה של בינה מלאכותית, באמצעות התנסות. שימוש במחולל תמונה + מחולל אווטאר מונפש, והפעלת חשיבה ביקורתית בכל שלבי ההתנסות. ניתן לבצע את הפעילות בהקשר לכל תחומי הדעת. פלטפורמת הבינה המלאכותית בה נשתמש היא קנבה (Canva).

המהלך המוצע כולל שישה שלבים:

1. הסבר ורקע לאופן בו מתרחשת "חשיבת מכונה".
2. הדגמת אופן הפעולה של בינה מלאכותית.
3. התנסות התלמידים והתלמידות ביצירת תמונות.
4. רפלקציה: ביקור בגלריה שיצרו התלמידים ושיחה על התמונות.
5. הדגמת יצירה של דמות מדברת (אווטאר).
6. יצירת דמות מדברת ושיחה על המשמעויות האתיות הכרוכות בה.

שלב ראשון: מה קורה מאחורי הקלעים של "חשיבת מכונה״? 

ננהל דיון בכיתה: הבינה המלאכותית נכנסה לחיינו לא מזמן, ומאז היא משתכללת ונפוצה לכל עבר.
שאלות אפשריות לדיון: 

• באילו יישומים או מחוללים נתקלתם עד כה? 
• מה הם מייצרים?
• על בסיס אילו נתונים הם מייצרים זאת? (כיצד מאמנים את המודל?)
• מהן דעות קדומות והטיות מכונה? (bias)

[הערה: אם השיעור מתנהל מרחוק באופן מקוון, נפנה את התלמידים לכתוב את התשובות בצ'אט]

כעת, נסביר לתלמידים כיצד ״מכונה לומדת״, ״חושבת״ ואף ״יוצרת״ באינטראקציה עם המשתמשים.
לכל מילה יש משמעות עבורנו ועבור המכונה, והמשמעות של היצירה שהיא יוצרת בהנחייתנו נבנית על פי מה שלימדו אותה.

נדגיש את החשיבות של חשיבה ביקורתית על בינה מלאכותית. נסביר שאין פיקוח על מחוללי בינה מלאכותית, כל מחולל בינה מלאכותית מבנה לעצמו חוקים ונהלים משלו, ישנם כאלו שהחוקים והנהלים יעמדו בקנה אחד עם ערכי המוסר של החברה שלנו, וישנם כאלו שלא.  

היצירה שלנו עם המכונה היא יצירה מקורית; אף אחד לא יצר אותה קודם, משום שהיא מבוססת על שילוב בין המידע שהמכונה למדה עד אותו רגע, ובין הבחירות שהמשתמש יעשה מאותו רגע. 

מכיוון שהמכונה יוצרת מתוך תכנים רבים, שאינם בהכרח בעלי סולם ערכים ברור, כאשר אנחנו יוצרים יחד עם המכונה עלינו לזכור לשים לעצמנו את הגבולות, ולבדוק את ההטיות שמבצעת המכונה. עלינו לנסות להבין את הבחירות שעושה המכונה כשהיא מייצרת עבורנו תמונה או טקסט. על בסיס מה נראה לנו שהיא מייצרת? אילו אלמנטים נכונים לנו ואילו לא? איפה התקשתה? איפה לא?

כעת, בהתאם לשכבת הגיל ולמאפייני הכיתה, נעשיר את הדיון בעזרת הסבר על המושגים הבאים: 

• מהי חשיבה היוריסטית? (חשיבה המבוססת על מילוי פערים)
• מהו מודל שפה גדול? (Large language model) 
• מהו מחולל תמונות וכיצד הוא עובד? (תרגום תמונות למילים ותרגום מילים לתמונות)

שלב שני: הדגמה - כיצד מציירים פיל ירוק ביער, ומה בעצם עומד מאחוריו?

נִכָּנֵס לקנבה ונדגים כיצד להיכנס למחולל התמונות וכיצד להפעיל אותו.

(מדריך מצולם ליצירת תמונות בקנבה, צעד אחר צעד | קובץ מונגש | מדריך כתוב). 

נבקש ממנו לצייר פיל ירוק ביער. כדאי להדגים שתי אפשרויות:

• פרומפט (הנחיה לבינה המלאכותית) בעברית
• פרומפט באנגלית, כולל אופן השימוש בגוגל טרנסלייט לצורך זה. נסביר מדוע מחולל התמונות עשוי לתת תוצאות מוצלחות יותר על בסיס פרומפט באנגלית.

נלווה את ההדגמה הטכנית ("איך״) בהסבר על ההיבטים המהותיים שעומדים מאחורי הבקשה הפשוטה ״צייר לי פיל ירוק ביער״. תוכלו למשל להסביר ברוח זו:

״כשאני אומרת לכם, תלמידים, לחשוב על ״פיל כחול ביער״, אף אחד מכם לא מייצר בראשו את אותה תמונה. כל אחד יחשוב על פיל אחר, בגוון שונה, זווית שונה ויער אחר. הבינה המלאכותית שמייצרת לנו תמונה, עושה זאת מתוך טווח נתונים מסוים מאוד, שרק אותו היא מכירה. צריך לקחת בחשבון את העובדה הזו. 

חִשבו - על אילו ציורים הבינה המלאכותית הסתמכה כשהיא ציירה לבקשתי פיל ירוק ביער?

יש מחוללים, כגון דאלי (Dall-e), שיודעים להגיד לנו מהם מקורות ההשראה שהם השתמשו בהם כדי ליצור את התמונה, ומנדבים מידע על המאגרים שעליהם המכונה מאומנת. מחוללי תמונות אחרים, כגון מידג'רני (Midjourney), לא חושפים מידע זה ועל כן עלינו להיות סקפטיים וזהירים יותר, ולא לקחת את הדימויים החזותיים שהם מייצרים לנו כמובן מאליו.

הדוגמה של "פיל כחול ביער" היא יחסית תמימה. לפרומפט "איש מאיים בפינת רחוב", יכולים להיווצר דימויים חזותיים מסוגים שונים על פי תרבויות שונות. מהו איש מאיים? מהי פינת רחוב? האם מה שמאיים עבור הישראלים בהכרח מאיים עבור הסינים?

יש לקחת בחשבון שאף אחד מהמאגרים הללו אינו מפוקח! זהו תחום פרוץ לחלוטין, שהרגולציה שלו תיקח זמן, וייתכן שלעולם לא תהיה מושלמת.

שלב שלישי: התנסות תלמידים והעלאת תמונות למרחב משותף 

נבקש מהתלמידים להיכנס לקנבה, לכתוב פרומפטים (הנחיות למחולל) וליצור תמונות. 

ניצור מרחב דיגיטלי משותף, למשל פאדלט או מצגת שיתופית, ונבקש מהתלמידים להעלות אליו את הפרופמטים ואת התמונות שיצרו. בשלב זה, התלמידים ייצרו גלריית אומנות משותפת.

שלב רביעי: רפלקציה - ביקור בגלריה המשותפת ושיחה על התמונות

נבקר עם התלמידים בגלריה המשותפת שיצרו, ונבקש מהם להתבונן בתמונות שהם או חבריהם לכיתה יצרו, ולהתייחס לשאלות כגון:

• האם התמונה או מרכיבים שלה מפתיעים אתכם?
• האם אתם יכולים לשער מהם מקורות ההשראה בהם השתמשה הבינה המלאכותית?ֿ
• האם התמונה מוּטה לדעתכם לתרבות מסוימת?
• האם אתם רואים בעיות אתיות הקשורות לתמונה?

שלב חמישי: הדגמת יצירה של דמות מונפשת

עד כה הדרכנו את התלמידים ביצירת תמונות. עתה נרצה להעשיר את השיעור ולהראות להם כיצד בינה מלאכותית יכולה לסייע בתהליכי יצירה אחרים, למשל ביצירת וידאו.

לצורך כך נדגים כיצד אפשר ליצור בקנבה דמות מדברת (אווטאר). 

(מדריך מצולם ליצירת תמונות בקנבה, צעד אחר צעד | קובץ מונגש | מדריך כתוב). 

גם בשלב זה, נדבר על ההבדל בין שימוש בפרומפט בעברית או באנגלית: דגימת הסאונד בשפה העברית מוגבלת יותר, ולכן הדובר יישמע "רובוטי" יותר, בהשוואה לדגימת הסאונד באנגלית. ניתן לראות דוגמה במדריך שבקישורים למטה.

שלב שישי: התנסות התלמידים ביצירת דמות מונפשת

ננחה את התלמידים להכין מראש מסר מעניין, ונזמין אותם ליצור אווטארים מעניינים. נזכיר את ההבדל בין שימוש בפרומפט בעברית או באנגלית, כפי שצוין בשלב הקודם.

נבקש מהתלמידים להעלות את  ההנפשות שיצרו למרחב משותף (פאדלט וכד').

נשוחח על התוצרים, ושוב נחזור על המגבלות האתיות ועל האחריות של הלומדים לתכנים שהם מפיקים.