Gmail получил новую функцию искусственного интеллекта, которая делает его еще более безопасным

Почтовый сервис Gmail внедрил новый спам-фильтр на основе искусственного интеллекта — это самое значительное обновление системы защиты за последние годы. Речь идет о внедрении новой системы классификации текстов Resilient & Efficient Text Vectorizer (RETVec).

Разработчики утверждают, что эта система эффективно выявляет спам-сообщения, включая электронные письма с большим количеством специальных символов, смайлов, опечаток и других элементов, которые ранее могли быть различимы для человека, но трудно выявимы для спам-фильтров. Согласно данным, новый алгоритм успешно распознает сообщения с гомоглифами, то есть графически похожими знаками, имеющими разные значения.

По информации от Google, алгоритм RETVec обучен эффективно выявлять сообщения, в которых текст был подвергнут манипуляциям, включая вставку или удаление символов, опечатки, гомоглифы и другие изменения. Алгоритм прошел обучение с использованием продвинутого кодировщика, способного эффективно кодировать любые символы и слова в формате UTF-8. Результатом стал алгоритм, способный работать «из коробки» на более чем 100 языках мира.

RETVec, по всей видимости, функционирует в значительной степени аналогично человеческому восприятию. Алгоритм, построенный на базе искусственного интеллекта с использованием фреймворка TensorFlow, определяет визуальное «сходство» для интерпретации значений слов, а не символов, из которых они состоят.

Согласно данным от Google, замена предыдущего текстового векторизатора в Gmail на RETVec позволила повысить уровень обнаружения спама на 38% по сравнению с базовым, а количество ложных срабатываний снизилось на 19,4%. При этом использование моделью тензорных вычислительных процессоров (TPU) уменьшилось на 83%, что делает это обновление одним из крупнейших для системы защиты Gmail за последние годы.