מהסרה ועד סימון: כך מתגבשת הרגולציה החדשה נגד דיפ־פייקים

ההתמודדות הרגולטורית עם דיפ־פייקים מתחילה להתכנס לשני מסלולים מרכזיים: מצד אחד, חקיקה ממוקדת נזק בארצות הברית; מצד שני, משטר שקיפות וסיווג סיכונים רחב יותר באיחוד האירופי. בשני המקרים, נקודת המוצא דומה: דיפ־פייקים כבר אינם נתפסים רק כבעיה של תוכן מטעה, אלא כסיכון לציבור, לפרטיות, לבחירות, לביטחון ולשוק הדיגיטלי עצמו.

בארצות הברית, המגמה הנוכחית היא רגולציה נקודתית יותר, שמתמקדת קודם כול בפגיעות הקשות והברורות ביותר. לפי דיווח שציטט את CNBC, הונחה בקונגרס הצעת חוק חדשה שמבקשת לצמצם הפצה של דיפ־פייקים ותמונות אינטימיות לא־בהסכמה, ובמקביל לחזק הגנות לחושפי הפרות בתחום ה-AI. לפי אותו דיווח, ההצעה הובלה בידי Ted Lieu ובגיבוי של Jay Obernolte, ונשענת על המלצות כוח המשימה הדו־מפלגתי של בית הנבחרים בנושא בינה מלאכותית.

המהלך הזה מצטרף לשורת יוזמות אמריקאיות מהשנה האחרונה. חוק TAKE IT DOWN Act שנכנס לתוקף במאי 2025 מחייב פלטפורמות להסיר תמונות אינטימיות לא־בהסכמה, לרבות זיופים דיגיטליים ודיפ־פייקים, לאחר קבלת הודעה תקפה מהנפגע. במקביל, חקיקה נוספת כמו DEFIANCE Act מקדמת זכות תביעה אזרחית לקורבנות של זיופים אינטימיים דיגיטליים. בנוסף, יוזמות אחרות בקונגרס מבקשות לחייב זיהוי, סימון או הטמעת מטא־דאטה בתוכן שנוצר באמצעות AI.

באירופה, לעומת זאת, ההתמודדות רחבה יותר ונכנסת דרך AI Act. סעיף 50 לחוק קובע שספקים של מערכות AI שמייצרות אודיו, תמונה, וידאו או טקסט סינתטי צריכים לוודא שהתוצרים יסומנו בפורמט קריא־מכונה ויהיו ניתנים לזיהוי כתוכן שיוצר או עבר מניפולציה באמצעות AI. בנוסף, מפעילים של מערכות שמייצרות או משנות תמונה, קול או וידאו לכדי דיפ־פייק חייבים לגלות שהתוכן נוצר או עבר שינוי מלאכותי. כאשר מדובר בטקסט שפורסם כדי ליידע את הציבור בנושא בעל עניין ציבורי, קיימת גם חובת גילוי — אלא אם התקיימה ביקורת אנושית או אחריות מערכתית על הפרסום.

עם זאת, האיחוד האירופי לא מסתפק רק בסימון דיפ־פייקים. רציטל 110 של ה-AI Act קובע שמודלי AI כלליים עלולים ליצור “סיכונים מערכתיים”, ובהם פגיעה בתהליכים דמוקרטיים, פגיעה בביטחון הציבורי והכלכלי, הפצת תוכן שקרי, בלתי חוקי או מפלה, פגיעה בפרטיות, ואפילו אפשרות להעצמת יכולות סייבר התקפיות. כלומר, באירופה דיפ־פייקים ממוסגרים כחלק משאלה רחבה יותר: מתי מודל AI חזק מספיק כדי להפוך לסיכון מערכתי שדורש פיקוח מוגבר.

מכאן עולה מגמה רגולטורית ברורה. ארצות הברית נוטה כרגע לטפל בדיפ־פייקים דרך נזק קונקרטי: הונאה, התחזות, פורנוגרפיה לא־בהסכמה ופגיעות צרכניות. האיחוד האירופי מטפל בהם דרך שקיפות, סימון וסיווג סיכונים בתוך משטר רגולטורי כולל יותר. בשני הצדדים, הכיוון דומה: לא עוד הסתמכות על כללים וולונטריים בלבד, אלא מעבר לחובות משפטיות של גילוי, הסרה, אחריות והגנה על נפגעים ומדווחים.

בשורה התחתונה, הרגולציה על דיפ־פייקים מתעצבת כיום סביב שלושה עקרונות חוזרים: שקיפות לגבי תוכן שנוצר ב-AI, אכיפה מהירה נגד שימושים פוגעניים במיוחד, ואחריות מוגברת על מי שמפתחים, מפעילים ומפיצים את המערכות. ההבדל בין וושינגטון לבריסל הוא בעיקר בשיטה — לא בכיוון.