פגם אבטחה קריטי ב- EmailGPT חושף משתמשים לדלף מידע
נמצא ליקוי אבטחה קריטי ב- EmailGPT – עוזר כתיבת דוא"ל מופעל בינה מלאכותית ותוסף של Google Chrome, המייעל את תכתובת הדוא"ל באמצעות טכנולוגיית בינה מלאכותית מתקדמת. פגיעות זו הידועה בשם הזרקה מיידית, מאפשרת להאקרים לתמרן את השירות, מה שעלול להוביל לחשיפת מידע אישי רגיש ולדלף מידע. פגיעות אבטחה זו ב- EmailGPT נעוצה בניצול שירות API, […]
האקרים מסוגלים לקרוא תמסורות צ'אטבוטים מסייעי AI
חוקרים מאוניברסיטת בן-גוריון גילו פגיעות במסייעי AI מבוססי ענן כמו Chat GTP. הפגיעות, לפי החוקרים, פירושה שהאקרים מסוגלים ליירט ולפענח שיחות בין משתמשים לבין מסייעי AI. החוקרים גילו שצ'אטבוטים כמו Chat-GPT שולחים תגובות באסימונים המחולקים לחלקים קטנים על מנת לזרז את תהליך ההצפנה. אולם על ידי כך, מסוגלים האקרים ליירט את האסימונים: ההאקרים יכולים לנתח […]
מיקרוסופט ו- OpenAI טוענים שהאקרים משתמשים בבינה מלאכותית למתקפות סייבר
מיקרוסופט (MSFT) ו- OpenAI פרסמו דוח הטוען כי קבוצות האקרים מסין, איראן, צפון קוריאה ורוסיה בודקות יותר ויותר את השימוש במודלים של בינה מלאכותית של שפות גדולות (LLMs) כדי לשפר את סיכוייהן להצליח במתקפות סייבר. על פי הדוח משתמשות קבוצות ההאקרים הללו בבינה מלאכותית כדי לנצל כנולוגיית לוויין עד פיתוח קוד זדוני, שיכול להתחמק מזיהוי […]
