ООН предупреждает: Прогресс ИИ опережает возможности регулирования

В своем предварительном докладе эксперты, привлеченные Организацией Объединенных Наций (ООН), выражают обеспокоенность тем, что стремительное развитие искусственного интеллекта (ИИ) может лишить государства возможности эффективно его контролировать. В связи с этим ООН призывает своих членов к активному международному сотрудничеству в этой сфере.

Всего через неделю после того, как Генеральный секретарь ООН Антониу Гутерриш призвал индустрию ИИ «говорить правду» о ее воздействии на окружающую среду, организация вновь поднимает важную тему. В предварительном отчете, опубликованном 1 июля, Независимая международная научная группа ООН по искусственному интеллекту предупреждает, что «возможности ИИ развиваются быстрее, чем наука и правительства способны их понять и регулировать».

Антониу Гутерриш подчеркнул, что чем дальше искусственный интеллект продвигается без общих правил, тем меньше правительства и народы смогут влиять на его развитие. Документ описывает этот вызов как более значительный, чем появление генеративных моделей типа ChatGPT, способных изменить экономический и цифровой ландшафт. Отдельное внимание уделяется появлению «агентов» ИИ, которые могут относительно автономно работать в интернете, писать код, запускать программные действия и выполнять другие задачи. Отчет отмечает отсутствие «научных гарантий» долгосрочного контроля над такими системами.

Разнообразный состав научной группы

Среди авторов доклада — известные ученые из сферы ИИ, признанные за свои проекты по «выравниванию» (например, Йошуа Бенджио, лауреат премии Тьюринга 2018 года, Жоэль Барраль, директор по исследованиям в Google DeepMind) или за вклад в защиту информации (Мария Ресса, сооснователь Rappler и лауреат Нобелевской премии мира 2021 года). В состав группы также вошли эксперты из Нигерии (Рита Орджи), Бразилии (Тереза Лудемир), Индии (Балараман Равиндран), Пакистана (Билал Матин) и Египта (Меннеталла Эль-Ассади), что обеспечивает значительно большее разнообразие, чем в большинстве публикаций по проблемам ИИ. На международном уровне исследования в этой области преимущественно ведутся в США, а также в меньшей степени в Европе и Китае.

Авторы доклада отмечают значительные преимущества искусственного интеллекта, который определяется как «системы, способные воспринимать, обучаться и действовать», а также «делать выводы на основе входных данных для генерации выходных данных», таких как «прогнозы, контент, рекомендации, действия или решения, с различной степенью автономности и адаптивности». Среди таких преимуществ — «полезные применения в науке, здравоохранении, сельском хозяйстве, обеспечении доступности, интеллектуальной работе и информационных технологиях, включая развитие самого ИИ». В качестве примера приводится модель AlphaFold от Google DeepMind, способная предсказывать структуру белков по их аминокислотной последовательности.

В докладе уточняется, что основное внимание уделяется «фундаментальным моделям» — универсальным системам, способным выполнять широкий круг задач. Тем не менее, подчеркивается существование специализированных систем, которые «приносят измеримую пользу, когда задача четко определена, данные доступны, а учреждения готовы их внедрять».

Неравномерное развитие и очевидные опасности

Однако доклад акцентирует внимание на неравномерности развития этих технологий: три четверти вычислительной мощности самых производительных суперкомпьютеров для ИИ находится в США, 15% — в Китае, а остальной мир делит оставшуюся долю. Аналогично, эти две страны сосредоточили у себя большинство наиболее передовых моделей. Многие развивающиеся страны, напротив, не имеют необходимой инфраструктуры для участия в создании или аудировании таких моделей. Ученые предупреждают: ускоренное внедрение ИИ может усугубить существующие глобальные неравенства и зависимости.

Что касается использования, авторы доклада подчеркивают проблемы, связанные с распространением педопорнографических материалов и сексуальных дипфейков, полностью генерируемых ИИ. Они отмечают легкость, с которой генеративный ИИ позволяет создавать правдоподобные подделки, и предупреждают о влиянии этого на общественные дебаты, а также о роли ИИ в содействии различным видам кибератак. Наконец, они указывают на то, как «податливость» массовых моделей может укреплять убеждения интернет-пользователей, даже если эти убеждения опасны.

Удивительно, но в документе ни разу не упоминается растущее сопротивление искусственному интеллекту (особенно генеративному), которое иногда проявляется на местном уровне в виде противодействия его инфраструктуре. Такое сопротивление заметно даже в США, ведущей стране в этой отрасли.

Также в докладе не упоминаются работники, занимающиеся обработкой данных, которые, хотя часто остаются невидимыми, играют ключевую роль в создании систем ИИ. Некоторые страны, такие как Венесуэла, Кения или Мадагаскар, лишенные инфраструктуры для «адаптации» моделей «к своим реалиям», являются одновременно центрами сосредоточения специалистов по разметке данных, чей труд необходим для функционирования упомянутых моделей.

Тем не менее, Антониу Гутерриш рассматривает публикацию этого предварительного отчета как первый шаг в коллективной работе, призывая государства-члены создать международную основу для сотрудничества в области ИИ. Однако даже эта задача обещает быть сложной: доклад поясняет, что «большинству стран, включая многие развитые экономики, не хватает технической экспертизы, которая позволила бы им оценивать самые эффективные 'пограничные' модели или участвовать в их управлении значимым образом».