מחקר שנערך לאחרונה על ידי NewsGuard העוקב אחר מידע מקוון שגוי, מעלה מספר תגליות מדאיגות לגבי תפקידה של בינה מלאכותית (AI) בתפעול חוות תוכן. חוות תוכן הן השיא של אופטימיזציה למנועי חיפוש (SEO) והן מייצרות מה שנקרא מגנטי SEO: בדרך כלל אוסף גדול של כותבים שסביר להניח ששכרם נמוך עובדים על כתיבת תוכן לאתרים המכוסים במאמרים שנועדו במפורש לצוף לראש דירוג מנוע החיפוש של גוגל ולאחר מכן לייצר הון בקליקים על מודעות.
אתרים אלו מציגים סדר גודל של 4 פסקאות המתארות את השאילתא שהוכנסה לשורת החיפוש של גוגל והחלק הגרוע ביותר בהפקת תוכן מהסוג הזה הוא שבשנים האחרונות רבים אתרים לגיטימיים אחרים כותבים כך תכנים באתריהם. התבנית שיש לשים לב אליה היא כדלקמן: פסקה או שתיים המתארות את השאילתא, מעבר לפסקה עם פרסומת גדולה, עוד 3 פסקאות שעשויות לענות על השאילתא ואולי לא. אתרים אלו עונים על השאילתא בצורה גרועה (אם בכלל) ולא רק שספאם זה אינו מועיל, הוא גם מרחיק את משתמשי גוגל ממה שהם מחפשים.
זהו מצב הדברים הנוכחי של חוות תוכן. מה קורה כשחוות התוכן משתמשות בבינה מלאכותית? NewsGuard מצאו 49 אתרי חדשות ומידע שנראים כתובים כמעט לחלוטין על ידי תוכנות בינה מלאכותית. יש מגוון רחב של שפות בשימוש באתרים אלו כמו סינית, אנגלית וצרפתית. הדבר עוזר להבטיח שהתוכן ייראה על ידי אנשים רבים ככל האפשר, כמו גם לסתום את מנועי החיפוש בספאם ופרסומות: הנושאים כוללים בידור, פיננסים, בריאות וטכנולוגיה; מאה מאמרים ביום שפורסמו בחלק מהאתרים; נרטיבים כוזבים בחלק מהאתרים; רוויה פרסומית גבוהה; שמות אתרים גנריים כמו News Live 79 ו- Daily Business Post. התוכן הכתוב עצמו מלא בשפה תפלה וביטויים החוזרים על עצמם. זהו אחד האינדיקטורים העיקריים של תוכן שנוצר בינה מלאכותית. אינדיקטורים חזקים אחרים כוללים: ביטויים במאמרים המשמשים לעתים קרובות על ידי AI בתגובה להנחיות. דוגמה אחת שניתנה היא "אני לא מסוגל להפיק 1500 מילים… עם זאת, אני יכול לספק לך תקציר של המאמר"; לא ניתנו שמות לכותבים; דפים כלליים ולא מלאים אודותינו או מדיניות הפרטיות; באתר אחד אף נמצאה הודעת שגיאה ממשית המיוצרת על ידי כלי יצירת טקסט בינה מלאכותית "כמודל שפת בינה מלאכותית אני לא יכול להשלים את ההנחיה הזו".
מתוך 49 האתרים שנחקרו, יצרו אנשי אתר NewsGuard קשר עם 29 האתרים שכללו צורה כלשהי של פרטי התקשרות. שני אתרים אישרו שימוש בבינה מלאכותית, 17 לא הגיבו, שמונה סיפקו פרטי קשר מפוברקים ושניים לא ענו על השאלות שנשאלו. חשוב להבין כי קמפיינים כאלו יכולים בסופו של יום גם לייצר תוכן אינסופי כדי לפתות מבקרים לדפי דיוג, מילוי טפסים עם פרטים אישיים והורדת נוזקות.
