Американская компания в сфере искусственного интеллекта Anthropic заявила, что связанная с Россией хакерская группа использовала ее модель Claude для проведения кибератак против представителей украинского правительства, военного и дипломатического секторов, говорится в отчете компании об анализе угроз.
По данным Anthropic, хакерская группа проводила фишинговые атаки, перехват Wi-Fi в отелях и операции по захвату учетных записей WhatsApp в отношении украинских чиновников, военных и дипломатов, используя искусственный интеллект практически на каждом этапе операций.
"Использование ИИ выходило за рамки простых вопросов и ответов чат-бота и вместо этого предполагало использование мультиагентных систем", – отмечается в отчете компании.
По оценке компании, тактика этой группы соответствовала действиям связанной с Россией группировки Midnight Blizzard, которую правительство США ранее связывало с российской Службой внешней разведки. Посольство России в Вашингтоне не сразу ответило на запрос Reuters о комментарии.
Anthropic также заявила, что группа использовала ИИ для создания системы, которая автоматически определяла, когда её вредоносное программное обеспечение блокировалось средствами безопасности, и переписывала код до тех пор, пока он не избегал обнаружения.
В отчете Anthropic также задокументированы случаи использования её моделей для разработки вооружений и биологических исследований.
Компания сообщила о пяти случаях использования её моделей учёными способом, который мог способствовать разработке биологического оружия. В одном из случаев исследователь из региона, который не поддерживается Anthropic, в течение нескольких недель использовал Claude для планирования экспериментов по адаптации птичьего гриппа к млекопитающим. После выявления злоупотребления компания заблокировала связанные с этим исследованием учетные записи.
К регионам, которые не поддерживаются Anthropic, относятся, в частности, Россия, Китай и Северная Корея. Компания не назвала учреждения, страны, в которых они расположены, или конкретные биологические агенты и методы исследований, о которых идет речь.
