Начало 2023 года ознаменовало «бум» генеративных нейронных сетей — большие языковые и text2image модели проявили себя как эффективные инструменты для решения широкого ряда задач. За ростом массового внимания к Искусственному Интеллекту (ИИ) последовал новый тренд — AI Alignment, или проблема согласованности ИИ с целями и ценностями общества.
Ученые не только обратили внимание на угрозу безработицы и социального неравенства, но и на потенциал языковых моделей для генерирования дезинформации и даже создания биологического оружия. Работа над предотвращением потенциально деструктивного влияния нейронных сетей стала не менее важным процессом, чем совершенствование функционала моделей. В контексте осуществления контроля, одним из самых влиятельных акторов остается власть. Именно на роли государства и надгосударственных структур фокусируются многочисленные доклады «фабрик мысли», посвященные проблеме AI Alignment. История Еще в апреле 2021 года, комиссия Европейского Союза (ЕС) …
Свежие комментарии