Искусственный интеллект (ИИ) может реально улучшить жизнь человечества, но в условиях нынешнего отсутствия контроля он развивается с опасной скоростью в интересах всего нескольких стран и компаний, что усугубляет неравенство в мире и грозит заменить правду эффективной ложью, заявил Генеральный секретарь ООН Антониу Гутерриш на первом Глобальном диалоге по вопросам управления ИИ, который на этой неделе начал работу в Женеве (Швейцария) с участием 193 стран.
"Искусственный интеллект уже трансформирует наш мир. Вопрос заключается в том, будем ли мы формировать эту трансформацию вместе или позволим ей формировать нас… Мы можем оказаться последним поколением, способным установить условия сосуществования человечества и машин", – заявил он во вступительном слове.
По мнению Генсека ООН, технология, которая может изменить экономику, преобразовать мир труда, повлиять на выборы и изменить баланс безопасности, развивается быстрее, чем кто-либо, включая людей, которые ее создают, думает, и этот эксперимент проводится над нашими собственными обществами – без плана и без согласия.
Гуттериш сообщил, что для Глобального диалога независимая международная научная группа из 40 ведущих экспертов из каждого региона и различных дисциплин представила свой первый отчет, в котором содержатся три основных предупреждения.
Первое касается скорости: если интернету понадобилось 15 лет, чтобы охватить миллиард человек, то ИИ достиг этого за два года, и эти системы больше не являются инструментами, ожидающими инструкций, – они сами пишут код, действуют онлайн и делают выбор при все меньшем человеческом контроле.
Второе предупреждение касается власти: вычислительная мощность, данные и таланты, стоящие за самыми современными системами, сосредоточены в нескольких компаниях и в нескольких странах. "Большинство стран, включая многие развивающиеся страны, не имели права голоса при принятии решений, которые будут определять их будущее. Чем дольше мы ждем, тем сильнее становится эта концентрация. Когда дисбаланс власти жестко внедряется в технологии, неравенство становится частью кода", – пояснил эту угрозу Гуттериш.
Третье предупреждение, по его словам, касается правды: ложь, используемая машинами, теперь может убеждать так же эффективно, как и правда, что подрывает целостность информационной экосистемы и доверие, а общество, которое не может прийти к согласию относительно того, что является реальным, не может защитить себя.
Генсек ООН также обратил внимание на то, что все больше людей поддаются искушению доверять машине и надеяться на лучшее, полагаясь на "кодирование настроений" (vibe-coding).
В то же время он подчеркнул, что потенциал улучшения жизни за счет ИИ также реален: новые возможности лечения и обучения даже в отдаленных местах, повышение эффективности агробизнеса и т. д. – и все это происходит значительно быстрее, чем когда-то внедрялись антибиотики или электричество.
"Если ИИ правильно использовать и широко распространять, он может сжать десятилетия развития до нескольких лет и стать великим выравнивателем XXI века. Но ни одно будущее не строится само по себе. И поэтому выбор перед нами не между верой в ИИ и страхом перед ним, а между целенаправленным управлением и дрейфом по умолчанию", – считает Гуттериш.
Он напомнил, что впервые затронул эту тему, когда она еще была малопопулярной, еще в своем первом обращении на открытии Генеральной Ассамблеи в 2017 году, и благодаря настойчивой работе ООН в 2024 году она получила мандат посредством принятого Пакта будущего и Глобального цифрового договора.
Генсек ООН назвал четыре приоритета на будущее, которые, в том числе, будут обсуждаться на этой неделе в Женеве на саммите "Искусственный интеллект во благо".
Первым он выделил безопасность: когда страны согласовывают свои действия относительно того, как тестировать системы, оценивать риски и распределять ответственность. "Нам нужны общие методы оценки и проверки рисков. И совместная решимость в том, что системы с глобальным охватом должны соответствовать стандартам, достойным глобального доверия", – отметил Гутерриш, обратив особое внимание на защиту детей, которые уже страдают от ИИ.
Он предложил три правила для любой ИИ-системы, к которой может получить доступ ребенок: тестирование на безопасность и независимый надзор; нулевая терпимость к сексуальному насилию; возможность в тот момент, когда ребенок проявляет признаки страданий, остановиться и подключить ребенка к реальной человеческой поддержке.
Вторым приоритетом Генсек ООН назвал соблюдение прав человека. "Искусственный интеллект никогда не должен лишать достоинства или закреплять дискриминацию. И при принятии каждого важного решения – в сфере правосудия, здравоохранения, полиции – машины могут предоставлять информацию, но люди должны принимать решения – и нести за них ответственность", – пояснил он.
Третий приоритет, по мнению Гуттериша, способность, чтобы развивающиеся страны получили доступ к потенциалу ИИ в условиях, когда частные инвестиции в его инфраструктуру в прошлом году приблизились уже к $0,5 трлн. Генсек ООН предлагает преодолеть разрыв в сфере ИИ с помощью Глобальной сети обмена и сотрудничества по вопросам наращивания потенциала в области ИИ, поддерживаемой ООН. По его словам, уже более 20 государств-членов откликнулись на приглашение и номинировали свои центры в эту сеть.
"И в ближайшее время я представлю Генеральной Ассамблее свои рекомендации относительно Глобального фонда ИИ для развития навыков, данных и доступной вычислительной мощности повсеместно", – добавил глава организации.
Четвертым приоритетом он назвал Инициативу экологической прозрачности ИИ, чтобы каждая крупная компания, занимающаяся ИИ, измеряла и публично раскрывала полное воздействие своих систем – углеродное, водное и земельное – и взяла на себя обязательство обеспечить каждый центр обработки данных (ЦОД) возобновляемой энергией к 2030 году.
