Киберпреступники используют ИИ-инструменты в своих интересах, выяснили Европол, ЮНИКРИ и Trend Micro

Москва, 23 ноября 2020 г. — Компания Trend Micro Incorporated (TYO: 4704; TSE: 4704), Европол и Межрегиональный Научно-исследовательский институт ООН по вопросам преступности и правосудия (ЮНИКРИ) подготовили совместный доклад, посвящённый использованию искусственного интеллекта (ИИ) в противозаконных действиях — Exploiting AI: How Cybercriminals Misuse and Abuse AI and ML («Эксплуатация ИИ: как киберпреступники используют возможности искусственного интеллекта и машинного обучения и злоупотребляют ими»). В докладе описаны существующие сценарии использования ИИ в преступных целях, возможные варианты развития инструментов киберпреступников в будущем, а также методы борьбы с ними, которые будут полезны представителям правоохранительных органов, правительственных и других организаций.

«ИИ способен помочь миру повысить эффективность процессов в самых различных областях, уровень их автоматизации и общей автономности. Сейчас общественность всё больше беспокоят сценарии неправомерного использования ИИ, поэтому мы должны открыто говорить о возможных угрозах, но и не забывать при этом о потенциальных преимуществах технологий искусственного интеллекта, — отметил Эдвардас Шилерис (Edvardas Šileris), глава Центра по борьбе с киберпреступностью, входящего в состав Европола. — Этот доклад даёт нам возможность предвидеть возможные злоупотребления ИИ и методы его применения в противозаконных целях, а также своевременно предотвращать эти угрозы. Только так мы сможем полностью раскрыть потенциал технологии и извлечь выгоду из её внедрения в мире».

В отчёте говорится о том, что киберпреступники будут использовать ИИ и как вектор, и как поверхность атаки. В настоящее время дипфейки (Deep Fakes) остаются наиболее известным сценарием применения ИИ в качестве вектора атаки. Однако, по мнению авторов доклада, в будущем потребуются новые технологии проверки данных, которые помогут бороться с кампаниями дезинформации и попытками вымогательства, а также угрозами, нацеленными непосредственно на массивы данных ИИ.

Вот всего несколько примеров использования ИИ в преступных целях:

• крупномасштабные и правдоподобные атаки с использованием социальной инженерии;
• вредоносное ПО для уничтожения документов, которое повышает эффективность атак киберпреступников;
• обман систем распознавания изображений и голоса;
• помощь в поиске целей и уклонении от систем защиты при атаках с применением программ-вымогателей;
• «загрязнение» массивов данных за счёт выявления слепых зон в правилах обнаружения.

«Применение ИИ начинает оказывать вполне реальное влияние на наш мир, и становится ясно, что эта технология станет одной из фундаментальных в будущем человечества, — отметил Ираклий Беридзе (Irakli Beridze), руководитель Центра ИИ и робототехники в ЮНИКРИ. — Однако угроза злонамеренного использования ИИ не менее реальна для общества, чем польза от его применения. Для нас большая честь работать с Европолом и компанией Trend Micro и совместно пролить свет на “тёмную сторону” технологий искусственного интеллекта, чтобы стимулировать дальнейшее обсуждение этой важной темы».

В докладе также говорится о том, что уже сейчас разрабатываются системы на базе ИИ, которые должны повысить эффективность вредоносного ПО и препятствовать работе антивирусов и технологий распознавания лиц.

«Киберпреступники всегда первыми внедряли новейшие технологии, и ИИ не исключение. В нашем докладе говорится, что ИИ уже используется для подбора паролей, взлома CAPTCHA и клонирования голоса, а в разработке находится ещё немало инновационных инструментов, — отметил Мартин Рёслер (Martin Roesler), руководитель подразделения Trend Micro по исследованию перспектив развития угроз. — Мы гордимся тем, что объединили усилия с Европолом и ЮНИКРИ, чтобы повысить осведомленность об этих угрозах и помочь в создании безопасного цифрового будущего для человечества».

В завершение доклада авторы дают несколько рекомендаций:

• Потенциал технологий искусственного интеллекта необходимо использовать в качестве инструмента борьбы с киберпреступностью, чтобы защитить индустрию ИТ-безопасности и правоохранительные органы в будущем.
• Необходимо продолжать исследования, которые помогут развивать технологии кибербезопасности.
• Также необходимо популяризировать и разрабатывать безопасные среды проектирования ИИ.
• Политическую риторику об использовании ИИ в целях кибербезопасности стоит минимизировать.
• Рекомендуется активно использовать государственно-частное партнёрство и создавать мультидисциплинарные экспертные группы

Полный текст доклада Exploiting AI: How Cybercriminals Misuse and Abuse AI and ML на английском языке доступен по ссылке: https://www.trendmicro.com/vinfo/us/security/news/cybercrime-and-digital-threats/exploiting-ai-how-cybercriminals-misuse-abuse-ai-and-ml.
 

О Европейском центре по борьбе с киберпреступностью Европола (EC3)

Полицейская служба Европейского союза Европол создала Европейский центр по борьбе с киберпреступностью (European Cybercrime Centre — EC3) в 2013 году, чтобы помочь правоохранительным органам в ЕС справиться с этой новой угрозой и защитить европейских граждан, компании и правительственные организации от онлайн-преступлений. В фокусе внимания подразделения лежат совершаемые организованными группировками киберпреступления, которые приносят большие прибыли (онлайн-мошенничество), причиняют серьезный вред жертвам (сексуальная эксплуатация детей в Интернете) или негативно влияют на критически важную инфраструктуру и информационные системы в ЕС. С момента своего создания центр EC3 внёс значительный вклад в борьбу с киберпреступностью: его представители участвовали во множестве крупномасштабных операций и регулярно оказывали оперативную поддержку на местах, в результате чего были арестованы сотни преступников. Подробнее о EC3 рассказывается здесь: https://www.europol.europa.eu/about-europol/european-cybercrime-centre-ec3
 

О ЮНИКРИ

Межрегиональный Научно-исследовательский институт Организации Объединённых Наций по вопросам преступности и правосудия (ЮНИКРИ) был создан в 1968 году. Институт обладает широким кругом полномочий и занимается исследованиями, обучением, деятельностью на местах, а также сбором, обменом и распространением информации, разработкой и реализацией новых политик в сфере предупреждения преступлений, правосудия и угроз безопасности. При этом институт уделяет должное внимание интеграции этих политик в глобальную стратегию социально-экономических изменений и развития, а также защите прав человека. В 2017 году ЮНИКРИ открыл свой Центр искусственного интеллекта и робототехники в Гааге, Нидерланды, чтобы добиться более глубокого понимания этих вопросов и связанных с ними технологий для применения в сферах предупреждения преступности, уголовного правосудия, законодательства и безопасности. Центр стремится делиться знаниями и информацией о потенциально полезных применениях этих технологий и способствовать борьбе с последствиями их злонамеренного использования. www.unicri.it .
 

О компании Trend Micro

Trend Micro, мировой лидер в области решений для кибербезопасности, помогает сделать безопасным обмен цифровой информацией во всем мире. Обладая более чем тридцатилетним опытом инноваций в сфере кибербезопасности и исследований глобальных угроз, Trend Micro обеспечивает стабильность и безопасность инфраструктуры компаний, правительственных структур и пользователей с применением комплексных решений для защиты «облачных» нагрузок, конечных устройств, электронной почты, промышленного интернета вещей (IIoT) и сетевой инфраструктуры. Стратегия безопасности XGen™ компании подразумевает использование техник обнаружения угроз из различных поколений, оптимизированных под ключевые рабочие среды клиентов, и тесную взаимосвязь всех решений для анализа угроз, что позволяет обеспечить оперативную и качественную защиту ИТ-инфраструктуры. Более 6700 сотрудников из 65 стран и самая передовая система обнаружения и исследования угроз Trend Micro помогают организациям обеспечивать безопасность своих данных. Для получения более подробной информации посетите наш сайт: trendmicro.com.