У функції Gemini, що інтегрована у Gmail, було виявлено серйозну уразливість, яка може бути використана зловмисниками для здійснення фішингових атак за допомогою фальшивих резюме електронних листів. Про це повідомляє ресурс BleepingComputer, посилаючись на 0DIN.

Марко Фігероа, менеджер програми GenAI Bug Bounty в Mozilla, виявив цю уразливість. Він зазначає, що злочинці можуть приховувати інформацію в тексті листа, використовуючи білий колір шрифту та зменшуючи його до нуля, що робить текст невидимим для користувача, але доступним для аналізу системою Gemini. Як результат, ШІ може автоматично додавати неправдиві попередження до резюме, такі як фіктивні повідомлення про злами паролів і підроблені номери служби підтримки.

Деякі користувачі можуть не звернути увагу на такі повідомлення, однак інші можуть стати жертвами емоційного впливу подібного контенту. Фігероа підкреслює, що команди безпеки повинні розробити способи для виявлення прихованої інформації та аналізувати резюме, які генерує ШІ, на предмет наявності URL-адрес, телефонних номерів або термінових запитів.

BleepingComputer звернувся до Google з приводу цієї уразливості в Gemini. Представник компанії відповів, що поки не було зафіксовано жодних зловживань, але додав, що Google активно працює над підвищенням безпеки та незабаром впровадить додаткові заходи захисту.