Ученые объясняют, как открытый ИИ может изменить мир после 2030 года

Журнал Nature Communications опубликовал работу международной группы исследователей, которая изучает быстрое развитие искусственного интеллекта с открытым исходным кодом, отсутствие сопоставимых механизмов регулирования и то, к чему это может привести.

Открытые модели ИИ теперь используются не только в науке и бизнесе, но и в проблемах глобального масштаба — от энергетики и климата до продовольственной безопасности. Однако наряду с пользой возрастают и риски. Исследователи предупреждают о трех ключевых угрозах: росте энергопотребления вычислительных систем, расширении технологического разрыва между странами и росте дезинформации, включая дипфейки.

Минг Чен, ведущий автор работы и профессор Нанкинского педагогического университета, подчеркивает:

"Стратегии внедрения ИИ с открытым исходным кодом должны развиваться. Поэтому мы предлагаем четыре действия по управлению, направленные на использование возможностей и снижение неопределенности, связанной с ИИ с открытым исходным кодом".

По сути, речь идет о попытке найти баланс между ускорением инноваций и контролем их последствий.

Почему открытый исходный код затрудняет контроль над ИИ

Сторонники открытых моделей считают их инструментом демократизации технологий. Праджал Прадхан, соавтор исследования и доцент Гронингенского университета, отмечает:

«Его открытость позволяет исследователям, правительствам и сообществам по всему миру адаптировать решения искусственного интеллекта к местным потребностям, что делает его многообещающим ускорителем достижения Целей устойчивого развития (ЦУР), но не без хорошего управления».

Однако именно эта доступность усиливает проблему контроля: чем проще доступ к моделям, тем сложнее отслеживать их применение и последствия.

Четыре направления регулирования

Исследователи предлагают четыре ключевых шага.

Первый — учет полного жизненного цикла ИИ.

Авторы настаивают на том, что необходимо оценивать не только производительность модели, но и все ее «следы» — от производства чипов до энергопотребления дата-центров. Даже полезные системы, такие как те, которые сокращают потребление энергии в городах, должны оцениваться на основе того, сколько ресурсов они сами потребляют. Во-вторых, измеряется фактический вклад в достижение целей устойчивого развития.

Сегодня многие заявления о преимуществах ИИ остаются декларативными. Исследователи предлагают разработать инструменты и наборы данных, которые смогут проверить, действительно ли технологии помогают сократить бедность, бороться с изменением климата или уменьшить неравенство. В-третьих, усиление подотчетности и прозрачности.

Рост дипфейков и синтетического контента требует новых правил. Речь идет о маркировке материалов, созданных ИИ, и распределении ответственности между разработчиками, правительством и пользователями. В-четвертых, расширение международного сотрудничества.

Неравный доступ к вычислительным ресурсам и данным увеличивает разрыв между странами. Авторы предлагают разработать открытые платформы и стандарты FAIR, чтобы сделать данные доступными, совместимыми и пригодными для повторного использования. Долгосрочный контекст

Клаус Хубачек, соавтор исследования и профессор Гронингенского университета, делает общий вывод:

«Принятые сегодня управленческие решения определят, станет ли искусственный интеллект с открытым исходным кодом движущей силой устойчивого и справедливого развития или источником нового неравенства и экологического давления».

В исследовании фактически отражена ключевая дилемма предстоящих лет: открытость ускоряет прогресс, но без системного контроля она может усугубить уже существующие глобальные дисбалансы.