עריצותה הסמויה של שכבת היישור

כלי הבינה המלאכותית הג’נרטיבית (היוצרת) נכנסו לחיינו בסערה. הם אמנם הצטרפו לשאר האלגוריתמים שכבר הקיפו אותנו מכל עבר, אבל הביאו גם הבטחה חדשה: הפעם האלגוריתם הוא בשליטה שלנו. אנו כותבים שורת מלל קצרה ומקבלים מיד טקסט, תמונה, וידיאו, שיר, תוכנה. מהבחינה הזו, מדובר בכלים שיצרו דמוקרטיזציה מדהימה של יכולות שהיו שייכות בעבר לקבוצה אליטיסטית מצומצמת. לכן לא מפתיע שכלים אלו משווקים לרוב כמקדמים ערכים ליברליים וקידמה פורצת דרך. אני לגמרי מסכים עם הדעה שמי שלא יקפוץ על הרכבת היום וילמד להשתמש בכלים האלו וביכולות המדהימות שהם מביאים איתם, עלול למצוא את עצמו מאחור. אבל סיבה נוספת לכך שחייבים להכיר את הכלים האלו היא מה שחוקר המדיה דאגלס ראשקוף טען בספרו “Program or Be Programmed”  עוד ב-2010: רק הבנה עמוקה שלהם תוכל לעזור לחברה שלנו להתמודד עם ההשלכות הרחבות שהם מביאים איתם – לטובה, אבל גם לרעה.

רק לפני שנים אחדות התמודדנו עם מהפכה קטנה בהרבה בהיקפה: כניסת הרשתות החברתיות לחיינו. למרות אזהרות שפיזרו במשך שנים חוקרים מובילים כמו אזה רסקין וטריסטן האריס (בין היתר היוצרים של הסרט “הדילמה החברתית” והיום מהמרכז לטכנולוגיה אנושית), רק בימינו נעשים נסיונות רגולציה משמעותיים בנושא. בינתיים קיימת הסכמה שהנטייה של האלגוריתמים שמפיצים את המידע ברשתות אלו מקדמת הסתה וקיטוב חברתי, ובמובנים רבים כירסמה ביסוד הדמוקרטיה – וכל זה עבור בצע כסף.

בהקשר זה, קשה שלא לחשוב על ולטר בנימין ומאמרו המכונן “אמנות בעידן השעתוק הטכני”, שתהה על ההשפעות הפוליטיות והחברתיות של כניסת כלים חדשים (המצלמה והקולנוע) כבר לפני כ-90 שנה. אני מבקש לדבר על “אמנות בעידן השעתוק האלגוריתמי”, ולהצביע על צד שאנחנו הרבה פחות נוטים לזהות בכלי הבינה המלאכותית הג’נרטיבית בפרט ובכניסתם של אלגוריתמים לניהול תחום התרבות בכלל, והוא נטייתם לקדם דווקא ערכים שמרניים ואוטוריטריים.

זה מתחיל כבר בשלב האימון של אלגוריתמים לומדים. מודלי LLM מאומנים על בסיסי נתונים עצומים, הבנויים ברובם מקורפוסים היסטוריים, ומתוכם נגזר מנגנון סטטיסטי שמעדיף פלט בעל הסתברות גבוהה בתוך ההתפלגות. במלים פשוטות יותר, המודל נוטה להעדיף את מה שכבר נוסח, סופר, תועד והפך לדפוס. חריגות, אנומליות, ניסוחים רדיקליים או צורות לא יציבות נדחקים מטבעם לשוליים. מעבר לכך, המודל נוטה לנסח את הפלט שלו בלשון קוהרנטית וסמכותית, וכך מעניק לאותם דפוסים היסטוריים חזות של אמת אובייקטיבית לכאורה. במובן זה, הבינה לא רק משחזרת ידע, אלא גם מייצבת אותו.

בשנת 2022 התחלתי לחקור את כלי הבינה המלאכותית הראשונים שנחשבו פורצי דרך – ChatGPT, Midjourney, DALL-E. בתקופה המוקדמת, כאשר כתבתי בשורת הפרומפט “doctor” וביקשתי לקבל דימוי, שמתי לב שקיבלתי רק תמונות של גברים. בהתחלה הייתי בטוח שיש היגיון לוגי מאחורי ההעדפה, אך אחרי בדיקה הבנתי ששיעור הרופאות בארה”ב דווקא גבוה. עם הזמן למדתי שההטיה קיימת בגלל שהמערכת הוזנה בבסיס נתונים שכלל המון פרטים היסטוריים מתקופות שבהן רופאים היו באמת בעיקר גברים ובאינספור דימויים של רופאים מבנקי תמונות דוגמת Shutterstock, שמציגים בעיקר שחקנים מחופשים לרופאים.

עכשיו תגידו בצדק שהיום, כאשר רובנו פוגשים את המערכות הללו בפועל, הן לרוב לא נחוות כשמרניות. לא פעם הן נחוות אפילו כמתונות, זהירות, מכילות, ולפעמים אפילו ליברליות או woke במובהק. אבל כאן חשוב להבחין בין ליבת המודל לבין שכבות היישור והבטיחות שמולבשות עליו לאחר האימון. כאשר אנו פוגשים בכלי הבינה המלאכותית, הוא סיים ללמוד ולנתח את הבסיס האלגוריתמי שהוא מופעל על-פיו. מה שכן יכול לשנות אותו אלו שכבות נוספות של גישה למידע או הוראות שמטמיעים בו המפתחים.

נחזור לדוגמה שלנו על הרופא כדי להבין מהי אותה שכבת יישור: עוד באמצע שנת 2022 המצב שתיארתי קודם כבר השתנה. כעת, כשביקשתי להציג רופאים, הוצגו גברים ונשים במגוון רחב של צבעים וצורות. מה השתנה מאז בדרך שבה המנגנון חושב? האם הוא נהיה חכם יותר? אז זהו, שלא בדיוק. חוקר בשם אנדי באיו (Andy Baio) מצא דרך מרתקת לחשוף את שכבות היישור האלו באופן פשוט ממה שציפיתם. הוא כתב פרומפט פשוט מאוד: “הצג דמות מחזיקה בשלט שעליו כתוב”. זה היה סוף הפרומפט. התוצאות שקיבל הציגו את הדרך שבה OpenAI התערבה בפרומפטים שלנו. כך למשל התקבל דימוי של אדם שחור המציג את המלה “אפריקאי” או אשה המציגה שלט עם המלה “אשה”. הבנתם את הטריק? בשכבת היישור המודל התבקש להוסיף באופן רנדומלי מלים שמייצגות גיוון למשפטים מסוג מסוים. ברגע אחר שחשף את האבסורד, חוקר שונה ראה כיצד כשביקש לראות חייל גרמני משנות ה-40, קיבל ייצוג של אשה אסיאתית במדים גרמניים.

עכשיו כשהבנו את ההבדל בין המרכז של האלגוריתם לבין שכבת הייצוב, נוכל גם להבחין כיצד אמנם לרבים מאיתנו המנועים נראים ליברליים, אבל אחרים כבר יכולים לבחור להשתמש במנועים כמו Grok או Deepseek, שהם בעלי שכבת יישור שונה לחלוטין. עם ההבנה הזו נוכל אולי לדמיין שמדובר בקרב ענקים בין שני כוחות פוליטיים – מצד אחד מנועים ליברליים ובשני שמרניים או אוטוקרטיים. אבל זה ממש לא כך. כי כמו השכבה המקורית של המידע שמנחה את האלגוריתם, במובנים רבים גם לחברות עצמן יש קוד זהה שמשותף לכולן ומכוון אותן לתוצאות דומות.

כדי לאמן מודל שכזה נדרש הון עתק. על כן, היחידים שמסוגלים לעשות זאת הם תאגידי ענק. כאשר תאגיד מגייס הון כל-כך גדול, הוא מחויב למשקיעים שלו ולערכי השוק. הוא נוטה להימנע ממהלכים שיפגעו בקהל שלו או מהלכים שיערערו את הזירה. לעומת זאת הוא יעדיף לעודד מהלכים שישמרו את כוחו ואף יגדילו אותו עם הזמן. פה אפשר להזכיר את התמונה של ענקי הטכנולוגיה שהתגודדו בהשבעתו השנייה של דונלד טראמפ וכמה מהם אף הצטלמו איתו – מאסק, צוקרברג, בזוס, פיצ’אי וקוק.

אפשר לטעון שאין כל פסול בקפיטליזם, או בשמרנות בעצם, מה שבמובנים מסוימים נכון מאוד. אבל כאן אני רוצה לחזור לתפקידה של התרבות. המון אנשים זוכרים מהטקסט של בנימין בעיקר את הדיבור על ה”הילה”, אותה חד-פעמיות של יצירה שמושכת אותנו. אבל בדרך כלל אנו שוכחים את העובדה שמיד לאחר מכן הוא האדיר דווקא את הכוח העצום של סרט, שבו קהלים שונים בכל העולם צופים במקביל. בנימין לא סלד מהקולנוע ואף סבר שיש בו המון פוטנציאל, אבל הוא בהחלט פחד שבאמצעות שימוש מזיד במדיה, היא תהיה הרסנית.

לדעתי בנימין היה מתפעל מהעידן שלנו, שבו לכל אחד יש ביד מצלמה זמינה, אפילו תוכנת עריכת וידיאו, וכן כלי הפצה. הוא היה עשוי לראות בכך מהפכה פרולטרית של הפצת כלי הייצור. אבל האם הדבר יהיה נכון גם לבינה המלאכותית הג’נרטיבית, שבה כל אחד יכול לכתוב פרומפט ולקבל תוצר?

לדעתי התשובה היא בהחלט לא. הסיבה היא שלמרות האשליה שהאלגוריתם זמין לכולם על-ידי הקלדה של כמה שורות טקסט, הוא בעצם שייך רק למתי מעט. תאגידי הענק, שיכולים להרשות לעצמם לאמן מודל מידע גדול, הם מי שמזינים את המידע, מתכנתים את שכבות היישור, ובכך מקבעים מערכי כוח שאנחנו לא יכולים לראות. הם מי שמניעים אותנו לצרוך מנועים כחלק ממהפכה תרבותית, ולעתים מסתירים ביודעין השלכות חברתיות משמעותיות. כשהם כבר מעודדים רגולציה, הם עושים זאת כדי למנוע ממתחרים קטנים יותר בשוק לפעול.

כדי להסביר עד כמה זה מהותי, בואו, כמו בנימין לפנינו, נחזור לדבר באופן טהור על תרבות. בשנת 2020 נחשף כי חברת Warner Brothers חתמה עם חברה בשם Cinelytic על שימוש במערכת אנליטית “להנחיית קבלת החלטות בשלב ה-greenlight”, כלומר בשלב שבו מחליטים אילו פרויקטים ראויים להתקדם ולקבל תקציבי הפקה. מובן שהתוכנה לא נועדה להחליף את השיפוט האנושי, אך תארו לעצמכם את בעל המקצוע שצריך להחליט אם סרט ראוי לקבל תקציב של עשרות או מאות מיליוני דולרים כאשר הוא ניצב מול מנגנון סטטיסטי ואסרטיבי שטוען שעל-פי ניתוח העבר, הסרט עומד להפסיד הון בקופות.

מאז שהחיבור בין החברות התפוצץ במדיה, רוב האולפנים בחרו שלא לפרסם חיבורים דומים, אבל מפרסומים אחדים שדלפו מאז אפשר להבין שאלו נכנסים באופן זוחל למרכז התעשייה. כך למשל בשלהי 2025 חשפה WME, החברה המרכזית שמשמשת לסינון תסריטים בהוליווד ובעצם מחליטה אילו תסריטים בכלל יגיעו לשולחן העבודה של האולפנים הגדולים – כי גם היא עושה שימוש בכלי דומה: ScriptSense. בפברואר השנה, ג’ניס מין, מי שהיתה במשך שנים העורכת הראשית של “הוליווד רפורטר”, חשפה שהשימוש בבינה מלאכותית בהוליווד רחב בהרבה ממה שהחברות מוכנות לחשוף.

הבעיה היא שבכך מכרנו את תעשיות התרבות שלנו להגיון השוק ולהיגיון של תאגידים מסוימים שיוצרים את הכלים שיחזו את התשובה, וסירסנו את כל מה שעשוי להיות יצירתי, מפתיע או שונה. האלגוריתמים שחוזים הצלחה של סרטים משווקים את עצמם ככאלו שאומנו על מאות אלפי תסריטים ונתוני שוק של סרטים שונים כדי לספק המלצות מבוססות – ממוצעים של תוכן היסטורי. מן הסתם, אין דרך לבסס אלגוריתם כזה על העתיד או אפילו על ההווה, ואם נגיד לעצמנו שאין פה בעיה של ממש, כי בסוף בן-אדם יידע לראות את הייחודיות של יצירת מופת שונה ומיוחדת, נצטרך להציב את עצמנו בנעליו של אותו בעל המקצוע שעומד מול התחזית של המחשב להפסד של עשרות מיליוני דולרים ולתהות אם היינו מוכנים להתנגד לתחזית לו היינו במקומו. בעודנו מהססים ללחוץ על הכפתור, המערכת עשויה להציע לנו ליצור דווקא סרט בוקרים בכיכובו של ויל סמית ולשחררו לקראת כריסמס. גם אם נבחר להתעלם.=ין פה בעיה של ממש, כי בסוף בן , עם הזמן אני בטוח שהמלצות המערכת ישנו את הרכב הקולנוע שאנו צופים בו.

מה בדבר צילום סרטון? באחרונה צילמתי באמצעות האייפון שלי תערוכה שאצרתי, שבה האור היה עמום וצהבהב בכוונה. כמובן, המכשיר התעקש לצבוע את הקירות בלבן, אף שזה לא היה נכון. בדרך דומה לפילם של פעם, שהיה מותאם לעורם של אנשים לבנים, הכלים שבידינו כיום מקדמים ערכים שמרניים – רק באופן בוטה בהרבה. תמונות האייפון המרהיבות כבר כוללות התערבות אלגוריתמים רחבה שמבחינה בין דמות, עץ או שמיים וצובעת כל אחד מהם באופן ספציפי. תארו לכם את מצלמות הקולנוע של העתיד (שאני בטוח שמפותחות היום), שיצבעו מחדש את התמונות בהתאם לדרך שבה נרצה לראות את התמונה, שבאמת תיראה ליוצרים ולצופים מפתה בהרבה. כאשר נסיים לראות את הסרט, אולי נלחץ על כפתורי ההצעה שלידו ונראה את הסרט הבא לפי אלגוריתם שיבחר את הממוצע של הבחירות של אנשים שדומים לנו. כך לא ניחשף לסרט השונה מן הנורמה של מה שהאלגוריתם מאמין שנהנינו ממנו.

ומה על התסריט המקורי? כפי שטענה ג’ניס מין שהזכרנו קודם, איזה תסריטאי העומד מול דף ריק לא יתפתה לפתוח את מנועי השפה ולהתייעץ איתם? כאשר איגוד התסריטאים התנגד לבינה מלאכותית כיוצרת, הוא בשום אופן לא חסם את הדרך לשימוש בבינה בתהליכי יצירה (ובצדק). אבל אני מקווה מאוד שהתסריטאים יבינו כיצד המנועים האלו משפיעים על היצירה.

אפשר גם לדון למשל בזכויות היוצרים והפגיעה באמנים, או ההשפעות הסביבתיות של הבינה המלאכותית, ואפילו ההשפעות החיוביות שלה, כמו האופן שבו יכולות חדשות (יצירת תמונות, סרטים ואפקטים מיוחדים) נעשו זמינים בהרבה ומאפשרים ליוצרים לשפר את רמת יצירתם ולאתגר את עצמם. אבל ברוח ערכי אסכולת פרנקפורט המקורית, אני רוצה להתמקד בהשפעות החברתיות והפוליטיות ארוכות הטווח שלדעתי נוגעות לכולנו. כל הכלים שהצגתי, ועוד רבים שנכנסו לפעולה בשדות התרבות, עומדים להשפיע על היצירות שניצור ונחווה – תוך הפיכת השיח לממוצע יותר והגבלת עולם הדימויים וההקשרים לשמרני יותר.

כמובן שיוצרים יוכלו להמשיך להתעלות מעל הכלים והשפעתם, אבל הדבר אינו סותר את העובדה שבטווח הארוך, השינוי הזה הוא בהחלט קריטי. ואם נצא שוב מעולם התרבות לעולמות הפוליטיקה והחברה, הוא עשוי להיות הרסני ממש.

אני חסיד גדול של ולטר בנימין, שהצליח להיות אופטימי גם לאחר עליית הנאצים לשלטון. אני רוצה לראות בכלים אלו אפשרות למהפכה אמיתית שתיטיב עם ההמונים, שיוכלו לקבל גישה לכלים האמיתיים – האלגוריתמים ומנגנוני השליטה שלהם – ולא רק לתוצרים שלהם בצורת משוב מהונדס לפרומפטים. בו בזמן אני מקווה שנוכל למנוע את החזון שחברי אסכולת פרנקפורט האחרים, כמו אדורנו והורקהיימר, היו כנראה מצביעים עליו, של חרושת תרבות מטמטמת, מזיקה, ובעיקר כזו שנועדה, באמצעות מלחמות ופחד, לשמר מבני כוח.

*

המאמר נערך מתוך דברים שנאמרו בפסטיבל פרנקפורט לקולנוע בשנת 2026