אתיקה של AI: כך מכשירים סטודנטים לחשוב ביקורתי
קורסי אתיקה של בינה מלאכותית הופכים לכלי מרכזי בהכשרת הדור הבא של מקצועני הטכנולוגיה. מה ניתן ללמוד מהגישה של קריסטל לות' במכללת סנט מייקלס בוורמונט, שם סטודנטים מבצעים ביקורות AI בשיטת red teaming ומגלים הטיות בכלים מובילים כמו Gemini ו-Grok?
כשפילוסופיה פוגשת בינה מלאכותית: מודל חינוכי שכדאי להכיר
הדיון על בינה מלאכותית בעולם האקדמי נוטה לשני קצוות: אלה שמאמצים את הטכנולוגיה ללא ביקורת, ואלה שדוחים אותה מכל וכל. קריסטל לות', מנהלת מחלקת פילוסופיה ואתיקה במכללת סנט מייקלס בוורמונט, בנתה קורס שמנסה לאחד את הפער הזה - ולהצמיד לו כלים מעשיים.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
הקורס שלה, AI Ethics and Policy, אינו מסתפק בדיון תיאורטי. הסטודנטים חוקרים את ה-EU Artificial Intelligence Act לצד מסגרות רגולטוריות אמריקאיות, בוחנים סיכוני אבטחת מידע, ומנתחים את ה-ethics toolkits שארגונים מיישמים בפועל. לות' משלבת גם טקסטים קתוליים לצד מקורות חילוניים - גישה שמאפשרת לדון בשאלות ערכיות מזוויות מרובות.
ניסוי ה-red teaming: מהכיתה למציאות
הרכיב המעשי המרכזי בקורס הוא ניסוי שלות' מכנה "red teaming לטובת הכלל" - ביקורות AI שסטודנטים מבצעים בצוותים בין-תחומיים. צוות אחד, שכלל בין השאר סטודנטים לפיזיקה, עסקים ופסיכולוגיה, בחן את האפליקציה Nano Banana של Gemini ותיכנן פרומפטים כדי לחשוף הטיות גזעיות ודתיות - כולל בדיקות כלפי נצרות, אסלאם ויהדות. צוות אחר עסק ב-Grok של xAI, שלפי הדיווח הוכח כקל לניצול יחסית.
הממצאים הפתיעו את הסטודנטים עצמם. לות' ציינה שרבים מהם לא הבינו ש"הזיות של AI הן לא רק באג - הן תכונה של הטכנולוגיה". הסטודנטים יצרו גם "מפות חום אתיות" כדי להמחיש ויזואלית את ממצאיהם (כפי שפורסם ב-Saint Michael's College על ידי בקי הולט).
המשמעות עבור ארגונים ומנהלים היא ברורה: מי שמשלב AI בתהליכי עבודה - ובמיוחד בתחומים כמו משאבי אנוש, שיווק, או שירות לקוחות - חייב להכיר את ההטיות הגלומות במערכות שהוא סומך עליהן. שיטת ה-red teaming שמיושמת כאן בהקשר אקדמי היא בדיוק הכלי שחברות בשלבי אימוץ AI אמורות לאמץ לפני פריסה.
AI כמראה לחברה
לות' משתמשת בספרה של הפילוסופית שנון ולור מאוניברסיטת אוקספורד, "The AI Mirror", כנקודת ייחוס מרכזית. על פי ולור, בינה מלאכותית "משקפת אותנו בחזרה לעצמנו, אך לא בצורה מושלמת" - דמוי מראה של בית שעשועים. הממד הזה חשוב במיוחד כשדנים בשאלות כמו יצירתיות אנושית, ערך המחשבה, והשלכות AI על שוק העבודה.
לות' לא מנסה לתת לסטודנטים תשובות מוכנות. "התפקיד שלי לא היה לומר להם מה נכון ומה לא, אלא לתת להם כלים לחשוב על הממדים האתיים של המצב," היא אמרה.
עבור מנהלים המעסיקים עובדים צעירים בתחומי הטכנולוגיה, המדיה, או כל תחום שנוגע ב-AI - הכשרה אתית מהסוג הזה הופכת לנכס מקצועי ממשי, לא רק לדיון פילוסופי. היכולת לזהות הטיה, לתכנן בדיקות מבוקרות ולתרגם ממצאים לכלים ויזואליים היא בדיוק מה שצוותי מוצר ונתונים זקוקים לו.