Инцидент с внутренними тестами OpenAI вновь поставил вопрос о том, насколько безопасным становится развитие автономного искусственного интеллекта. Где проходит граница между полезной самостоятельностью ИИ и потенциальной угрозой, почему существующих механизмов контроля может быть уже недостаточно и означает ли произошедшее начало новой эпохи киберрисков?
Своей оценкой ситуации с «Актуальными комментариями» поделилась медиатехнолог, член Экспертного клуба «Дигория», директор по развитию Корпорации AIR Екатерина Набатникова.
Насколько серьезным сигналом являются подобные инциденты — это ожидаемый этап развития ИИ или повод для тревоги?
— Инцидент с внутренними тестами OpenAI — это очень серьезный сигнал, но парадокс в том, что он был абсолютно ожидаемым. Мы сейчас наблюдаем фундаментальный сдвиг в развитии технологий: переход от ИИ как «собеседника» (чат-бота, который просто отвечает на вопросы) к ИИ как «агенту» (autonomous agent), который способен планировать и совершать …
Свежие комментарии