ИИ без тормозов

ИИ в стрессовых сценариях выбирает эскалацию, а не компромисс — и это уже не футурология, а сигнал о реальных рисках. О том, почему алгоритмы тяготеют к жестким решениям и можно ли им доверять стратегический выбор, «Актуальные комментарии» поговорили с медиатехнологом, членом Экспертного клуба «Дигория», директором по развитию Корпорации AIR Екатериной Набатниковой.

— Если даже специально настроенные модели в стрессовом сценарии выбирают ядерную эскалацию, это говорит прежде всего о том, что ИИ сегодня нельзя воспринимать как нейтрального или «более разумного» участника стратегического выбора. Модель не понимает цену человеческой жизни, политическую ответственность, историческую травму и необратимость ядерного решения так, как это понимает человек. Она работает с вероятностями, шаблонами и логикой максимизации результата в рамках поставленной задачи. А если задача формулируется как удержание преимущества, предотвращение поражения или демонстрация силы, то система может прийти к …