Искусственный интеллект предлагают проверять на соответствие духовно-нравственным ценностям, но здесь возникает принципиальный вопрос: что именно и как можно измерить? У нейросети нет собственной морали, однако её ответы и поведение в спорных ситуациях вполне поддаются тестированию. Но где провести границу между технической проверкой и субъективной оценкой ценностей — и кто должен выносить итоговый вердикт?
Что именно можно проверить в большой языковой модели на соответствие «духовно-нравственным ценностям» — содержание ответов, поведение модели в спорных ситуациях или сам принцип формирования ответов?
— Проверка искусственного интеллекта на соответствие духовно-нравственным ценностям на первый взгляд звучит как попытка измерить то, что измерить невозможно. Но фактически речь идёт не о «нравственности» машины. У нейросети нет собственной морали, убеждений или мировоззрения. Проверять можно только её поведение: какие ответы она выдаёт, как действует в спорных ситуациях и …
Свежие комментарии