Совместная эволюция искусственного интеллекта и человека: возможности и риски

Недавняя научная работа прокладывает путь новому направлению исследований, которое объединяет искусственный интеллект и науку о сложных системах, чтобы понять, как постоянное взаимодействие между людьми и алгоритмами может оказывать глубокое влияние на социальную динамику.

Научная работа, опубликованная международной группой ученых, занимающихся ИИ и сложными системами, под названием «Коэволюция человека и ИИ», исследует, как процессы в мире, где алгоритмы и системы рекомендаций все чаще направляют ежедневные решения, влияют на поведение человека. Исследователи обнаружили, что эти процессы создают «петлю обратной связи», в которой индивидуальный выбор и автоматизированные предложения усиливают друг друга, и которые, как утверждают исследователи, порождают сложные непредсказуемые эффекты. Эти эффекты невозможно объяснить традиционными моделями взаимодействия человека и машины. В статье предлагается новая структура для изучения коэволюции ИИ и общества с целью сознательного и ответственного формирования их общего будущего.

«Искусственный интеллект уже проник во многие сферы нашей жизни, и этот процесс неудержимо продолжается. Возникает экосистема человек-ИИ, которая подразумевает взаимную эволюцию и адаптацию», — сказал Янош Кертеш, профессор кафедры сетевых и информационных наук Центрально-Европейского университета. «Этот процесс поднимает ряд глубоких вопросов: от обеспечения социальной выгоды до избежания неравенства, связанного с доступностью или потенциальной предвзятостью ИИ, и даже морально-философских дилемм, например, в какой степени ИИ должен нести ответственность за решения, принимаемые беспилотными автомобилями за доли секунды. Очевидно, что необходим междисциплинарный подход с участием компьютерных ученых, исследователей сетей и социологов», — добавил он.

Исследовательская группа подчеркивает важность новой, междисциплинарной перспективы для решения проблем коэволюции. Они представляют конкретные примеры экосистем человек-ИИ — не только социальные сети и цифровые рынки, но и другие крупные онлайн-платформы, такие как картографические и навигационные сервисы, а также чат-боты на основе генеративного ИИ. Авторы также подчеркивают необходимость новых нормативных и политических инструментов для мониторинга и управления циклом обратной связи, который управляет нашими цифровыми взаимодействиями.

«Обратная связь между людьми и ИИ создает беспрецедентные формы взаимодействия, а сложность экосистем человек-ИИ постоянно расширяется», — сказал Дино Педрески, профессор компьютерных наук в Пизанском университете.

Сложные системы состоят из множества взаимодействующих единиц и, как известно, производят неожиданное, так называемое эмерджентное поведение, которое не может быть объяснено из особенностей составляющих. Цикл обратной связи основан на таких взаимодействиях между множеством людей и единиц ИИ и, следовательно, может производить неожиданные эффекты.

«Если мы хотим понять реальное влияние ИИ на наше общество, — сказал Лука Паппалардо, исследователь из CNR и профессор Высшей нормальной школы в Пизе, — нам необходимо переосмыслить наше понимание сложных систем в свете этой непрерывной обратной связи между людьми и алгоритмами».

По мнению авторов, необходимы новые нормативные и политические инструменты для смягчения неравенства и обеспечения развития экосистемы для общественного блага. Эмануэле Феррагина, профессор социологии в Sciences Po в Париже, подчеркнула срочность устранения правовых и политических барьеров. «Чтобы полностью понять совместную эволюцию человека и ИИ, нам нужна большая прозрачность от основных онлайн-платформ», — сказала она. «Такие инициативы, как Закон ЕС о цифровых услугах, могут иметь значение, но также важно обеспечить справедливое распределение «инструментов рекомендаций» на более конкурентном рынке».

Источник