טיקטוק יוצאת נגד ספאם AI: תבחן מערכות זיהוי לחשבונות שמפיצים תוכן מטעה
הבחינה החדשה מגיעה לאחר שטיקטוק זיהתה שינוי בדפוסי השימוש ב־AI: פחות יצירה נקודתית של סרטונים, ויותר ייצור המוני של תוכן שמאתגר את יכולת הזיהוי
Photo credit: Thomas Fuller / SOPA Images via Reuters Connect
טיקטוק מתחילה להרחיב את המאבק שלה בתוכן שנוצר באמצעות בינה מלאכותית ומשמש להפצת ספאם, עם דגש על תחומים שבהם מידע כוזב עלול להשפיע על אמון הציבור — בהם פוליטיקה, אקטואליה, ייעוץ פיננסי ותוכן רפואי.
בשבועות הקרובים תחל החברה בפיילוט של מערכות זיהוי משופרות, שיתמקדו לא רק בזיהוי סרטונים בודדים שנוצרו באמצעות AI, אלא באיתור חשבונות שמייצרים ומפיצים כמויות גדולות של תוכן כזה. המהלך מגיע על רקע החשש כי כלי AI מאפשרים ליצור במהירות כמויות עצומות של תכנים באיכות גבוהה יחסית, באופן שעלול להציף פלטפורמות ולדחוק החוצה יוצרים ותכנים אותנטיים.
טיקטוק מסרה כי במהלך הרבעון הראשון של 2026 הסירה יותר מ־86 מיליון חשבונות מזויפים במסגרת מאמציה להילחם בספאם ובהתנהגות לא אותנטית.
במקביל, החברה מצטרפת לוועדה המנהלת של ארגון C2PA, שמקדם את תקן Content Credentials — טכנולוגיה שנועדה לאפשר זיהוי של מקור תוכן ושל שינויים שבוצעו בו באמצעות כלי AI. טיקטוק הייתה אחת מפלטפורמות הווידאו הראשונות שאימצו את התקן, ולדבריה עד היום תייגה יותר מ־3 מיליארד סרטונים כתוכן שנוצר באמצעות AI, באמצעות שילוב של Content Credentials, כלי תיוג ליוצרים וטכנולוגיית סימון מים בלתי נראית.
לצד כלי הזיהוי, החברה משקיעה גם בהרחבת אוריינות AI בקרב משתמשים. במסגרת זו היא משתפת פעולה עם ארגון NAMLE ועם חוקר הבינה המלאכותית הנרי אג'דר ליצירת מדריך לשימוש אחראי בכלי AI.
הצעדים מגיעים בתקופה שבה פלטפורמות חברתיות נדרשות להתמודד עם אתגר כפול: מצד אחד לצמצם שימוש לרעה ב־AI להפצת מידע מטעה, ומצד שני לאפשר למשתמשים וליוצרים להמשיך להשתמש בטכנולוגיה ככלי יצירתי.