Быстрое развитие искусственного интеллекта (ИИ) имеет далеко идущие последствия во многих областях, включая его потенциальное применение при разработке усовершенствованного биологического оружия. Эксперты RAND опубликовали
доклад, в котором рассматриваются проблемы выявления и снижения рисков, связанных с неправильным использованием ИИ — в частности, больших языковых моделей — в контексте биологических атак.
Существующие языковые модели не генерируют тексты с четкими инструкциями по созданию биологического оружия, отмечается в докладе. Однако они могут предлагать руководство, которое поможет в планировании и проведении биологической атаки, и предоставить некоторые потенциально вредные рекомендации. Такие выводы эксперты RAND сделали, протестировав ряд языковых моделей.
Для тестирования языковых моделей центр RAND привлек красные команды — экспертов, имитирующих действия злоумышленников. Такие эксперты изучают модели ИИ в различных сценариях высокого риска. Кроме того, в своем …
Свежие комментарии