Ваш почтовый ящик наконец-то станет тише, поскольку Google ликвидирует крупную мошенническую сеть на базе ИИ

Что нужно знать

• Google начала масштабное судебное преследование предполагаемой базирующейся в Китае сети «Outsider Enterprise» за использование ИИ Gemini для масштабных фишинговых мошенничеств.
• Компания объединяет усилия с ФБР и крупными операторами связи, такими как AT&T, T-Mobile и Verizon, чтобы блокировать мошеннические СМС до того, как они дойдут до пользователей.
• Следователи связали эту деятельность с более чем 9 000 фальшивых веб-сайтов и более чем миллионом вредоносных URL-адресов, при этом миллионы мошеннических сообщений были нацелены на пользователей Android.

Инструменты на базе ИИ упрощают повседневные задачи, но они также позволяют киберпреступникам расширять масштабы своих атак. В Google заявили, что была перейдена грань, достаточная для того, чтобы принять юридические меры.

Компания сообщила о координированной операции против предполагаемой китайской киберпреступной сети под названием «Outsider Enterprise», обвинив группировку в использовании собственного ИИ Gemini и других сервисов Google для обеспечения масштабной фишинговой операции. Помимо судебного иска, в Google заявили, что работают с ФБР и крупными операторами связи США, такими как AT&T, T-Mobile и Verizon, чтобы пресечь эту кампанию и блокировать мошеннические сообщения до того, как они попадут к пользователям.

По заявлению Google, сеть продавала в Telegram фишинговые комплекты, которые позволяли даже малоквалифицированным преступникам проводить кампании по рассылке поддельных текстовых сообщений, имитирующих доверенные бренды. Утверждается, что в ходе операции были созданы фальшивые версии сервисов Google и YouTube, а также правительственных ведомств, включая Почтовую службу США и систему платных дорог E-ZPass в Нью-Йорке.

Это была не самодеятельность

В Google заявляют, что масштабы атаки были огромными. Компания отследила более 9 000 фальшивых сайтов и более миллиона мошеннических URL-адресов, связанных с группировкой. Всего за две недели пользователи Android сообщили почти о 55 000 спам-сообщений, а на устройства Android было отправлено 2,5 миллиона сообщений с вредоносными ссылками. По оценкам компании, пострадали сотни тысяч людей, а финансовые потери исчисляются миллионами долларов.

Судебные материалы содержат еще больше подробностей. Как утверждает Google, фишинговая платформа «Outsider» располагала более чем 290 готовыми шаблонами сайтов, способных всего за несколько минут имитировать банки, ритейлеров, телекоммуникационные компании и правительственные ведомства. Этот сервис предположительно использовал код, сгенерированный с помощью ИИ, и продавал подписки всего за 88 долларов в неделю, превратив фишинг в готовый бизнес.

ФБР отмечает, что использование ИИ усложняет обнаружение мошенничества, а в Google заявляют, что существующее законодательство должно за этим поспевать. Компания поддерживает семь двухпартийных законопроектов, направленных на борьбу с мошенничеством на базе ИИ и усиление защиты потребителей. Главный юрисконсульт Google Халима ДеЛэйн Прадо (Halima DeLaine Prado) заявила, что данный иск стал первой для компании скоординированной юридической инициативой такого масштаба.

В Google подчеркивают, что судебный иск — лишь часть принимаемых мер. Компания уже развернула средства защиты на базе ИИ в Android и «Сообщениях Google», заявляя, что ее системы блокируют более 10 миллиардов вредоносных сообщений в месяц.

Мнение Android Central

Я приветствую жесткую позицию Google в отношении мошенничества с использованием ИИ, поскольку от этого в первую очередь выигрывают обычные потребители, которые хотят переписываться, совершать покупки и просматривать веб-страницы без дополнительных головных болей из-за все более убедительных попыток обмана. Хотя ИИ делает инструменты безопасности умнее, он также снижает порог входа для злоумышленникам, которым еще несколько лет назад было бы трудно проворачивать подобные схемы. Честно говоря, выглядит несколько безумно то, что технологии, призванные повысить нашу продуктивность, также используются для рассылки поддельных уведомлений о платных дорогах и доставке. Считаю, что если компании, занимающиеся искусственным интеллектом, продолжат стремительно внедрять новые инструменты, они должны признать: устранение последствий не должно становиться проблемой пользователя.