ИИ становится инструментом для разработки вирусов - эксперты
Искусственный интеллект (ИИ) становится инструментом для разработки новых вирусов, подчеркнули эксперты в комментарии агентству "Интерфакс-Украина".
В августе разработчик антивирусного программного обеспечения ESET обнаружил созданный на базе ИИ первый вирус-вымогатель под названием PromptLock. Он может собирать данные пользователя, шифровать их или уничтожать, однако пока является скорее прототипом, чем завершенной разработкой.
Руководитель Центра операций безопасности MODUS X Дмитрий Ковалевский в комментарии агентству отметил, что вирусы, которые используют генеративный ИИ и Lua-скрипты, являются "цифровыми хамелеонами". Они быстро меняют форму и избегают обнаружения. Это затрудняет реагирование на атаки традиционными методами.
"Мы имеем дело с новым поколением угроз. Хотя сейчас он (вирус - ИФ-У) находится только на ранних стадиях, подход уже является крайне опасным и открывает новые возможности для злоумышленников", - сказал он.
В Национальной команде реагирования на киберинциденты, кибератаки, киберугрозы CERT-UA отметили, что ранее уже было зафиксировано вредоносное программное обеспечение (ВПО), которое использовало ИИ в атаках против Украины.
"Вредоносные программы, которые используют ИИ можно отслеживать, осуществляя мониторинг сетевой активности. Например HTTPS-запросы к известным LLM-платформам. Например, в атаке, исследованной CERT-UA, использовался сервис huggingface[.]co", - отметили эксперты.
В CERT-UA пояснили, что в описанном компанией ESET случае использовалась self-hosted-модель, и обнаружить ее можно по HTTP-запросам.
"Если доменное имя или IP-адрес сервера на котором она развернута не известны, то обнаружить такие подключения можно по HTTP-запросам (обычно POST), которые часто осуществляются на соответствующий TCP-порт, на котором по умолчанию разворачивается LLM (но его легко изменить). Или же по структуре самого запроса, но для этого необходимо иметь Proxy-сервер, на котором можно просмотреть тело запроса", - поясняется в сообщении.
В то же время в команде отметили, что в публикации ESET речь идет о вирусе-шифровальщике. Атаки с использованием такого ШПС не очень популярны в Украине и обычно нацелены на коммерческие организации, которые имеют деньги, чтобы заплатить за расшифровку файлов.
Ковалевский советует организациям критической инфраструктуры уже сейчас усиливать киберзащиту: ограничивать запуск непроверенных приложений; контролировать использование ИИ-сервисов; внедрять EDR/XDR-решения для выявления аномального поведения скриптов; настраивать мониторинг сетевой активности и инфраструктурных сервисов.
По словам президента холдинга Internet Invest Group, члена наблюдательного совета Национального технического университета Украины "Киевский политехнический институт имени Игоря Сикорского" Александра Ольшанского, искусственный интеллект может исследовать любую систему достаточно эффективно. Так, если человек будет анализировать, большую систему неделю или две, то ИИ сделает это за 10 минут. Таким образом, искусственный интеллект может параллельно обследовать, например, 1000 систем, за то время, за которое человек этого сделать не сможет.
"Поэтому, если речь пойдет о серьезной атаке, то искусственный интеллект вполне может использоваться для такого массового обследования систем и выявления их уязвимостей", - отметил Ольшанский в комментарии агентству.
Однако, он добавил, что ИИ, в свою очередь, можно также задействовать и с точки зрения защиты - для быстрого выявления уязвимостей.