ЕС повелел помечать тексты, написанные ИИ. Со 2 августа заработала статья 50 AI Act (я о нем писал). Anthropic объяснила, как исполняет требование. Claude по секретному ключу незаметно смещает выбор слов между равнозначными вариантами. Глазом не видно, смысл не меняется, но владелец ключа считает статистику и говорит: текст прошёл через модель.
Решение изящное технически и абсолютно бессмысленное практически — буквально установление «подлинности» по соотношению синонимов в тексте. Смотрим, как это ложится на жизнь. Врач написал статью, попросил поправить опечатки и согласования. Помечен весь текст. Переводчик перевел подлинную переписку, чтобы приложить к записке. Помечена переписка. Кто-то сильно умный и неленивый перетасовал главы, вырезал половину, добавил кусками из другой нейросети. Метка на месте (не одна — а целый слоеный пирог), она сидит в самих словах и читается по любому уцелевшему абзацу. Человек, который действительно фабрикует переписку, тратит пять минут. …
Свежие комментарии