OpenAI, Anthropic и Google координируются для борьбы с копированием их моделей в Китае – СМИ

OpenAI, Anthropic и Google (принадлежит Alphabet Inc.) начали сотрудничество для противодействия несанкционированному использованию своих моделей, сообщает агентство Bloomberg со ссылкой на информированные источники.

Речь идет о практике так называемой "враждебной дистилляции", при которой конкурирующие разработчики, преимущественно китайские, выкачивают данные из их ИИ-моделей для обучения собственных в нарушение пользовательского соглашения.

По данным источников, OpenAI, Anthropic и Google обмениваются информацией через некоммерческую организацию Frontier Model Forum, созданную ими в партнерстве с Microsoft Corp. в 2023 году, для выявления подобных практик и защиты своих технологий.

"Дистилляция" – это метод, при котором более развитая ИИ-модель используется для тренировки новой модели, что позволяет воспроизводить возможности исходной системы с существенно более низкими затратами, чем при разработке с нуля. Некоторые формы "дистилляции" признаются и даже поощряются ИИ-сообществом, например, когда компании создают более компактные и эффективные версии собственных моделей, или позволяют сторонним разработчикам использовать их для не создающих прямой конкуренции технологий. Проблема возникает, когда этот процесс используется для воспроизведения проприетарных технологий без разрешения.

Большинство китайских ИИ-моделей являются открытыми, то есть ключевые компоненты системы доступны для свободного скачивания и запуска на собственной инфраструктуре пользователей, что делает их более дешевыми в использовании. Это создает давление на американские ИИ-компании, которые рассчитывают окупить сотни миллиардов долларов инвестиций в дата-центры и инфраструктуру за счет платного доступа к своим продуктам, отмечает Bloomberg.

По оценкам американских чиновников, ИИ-лаборатории Кремниевой долины ежегодно теряют миллиарды долларов прибыли из-за несанкционированной "дистилляции".

OpenAI подтвердила агентству, что участвует в обмене информации в рамках Frontier Model Forum. В феврале она обвинила китайскую Deep Seek в попытке "бесплатно воспользоваться наработками OpenAI и других ведущих американских ИИ-компаний".