В мае 2024 года OpenAI презентовала новую версию ChatGPT-4o, в то время как сама базовая модель ChatGPT-4 была выпущена весной 2023 года, а предшествующая ChatGPT-3 — в 2020 году. Если разрыв между третьей и четвертой версиями алгоритма составил всего три года, то ожидать ChatGPT-5 придется гораздо дольше.
При этом вопрос прогресса ИИ-моделей не только и не столько технический, сколько политический.
Технологический потолок достигнут
Если опустить промежуточные улучшения основных моделей, такие как ChatGPT-3.5 и ChatGPT-4o, то принципиальный переход к новой версии алгоритма предполагает кратное увеличение в количестве параметров, используемых для обучения машины. В случае с ChatGPT, переход от третьей к четвертой версии алгоритма сопровождался ростом с 175 миллиардов параметров до, по оценке Medium, более 1,7 триллиона параметров.
Для подобного увеличения размерности модели необходимы еще большие затраты на вычислительные мощности, требования к которым растут в геометрической прогрессии. Обучение ИИ традиционно проводится на передовых графических процессорах (GPU), таких как A100 и H100. Однако, их производство настолько ограничено из-за стоимости комплектующих и экологических требований, что для обеспечения конкурентоспособности национальной ИИ-индустрии государства вынуждены централизованно
закупать соответствующее оборудование для своих компаний.
При этом в ближайшее время не ожидается технологического прорыва, который бы позволил удешевить издержки для тренировки искусственного интеллекта. Стоимость разработки новых микрочипов растет такими же темпами, какими растут и вычислительные требования для передовых алгоритмов. Согласно закону Мура, для постоянного увеличения вычислительных мощностей число транзисторов на чипах должно увеличиваться в два раза каждые два года. Однако, современные микрочипы уже приблизились к допустимому лимиту своего физического размера. Таким образом, согласно агентству IBS, разработка 7-нанометрового чипа обошлась в почти $300 млн, а 5-наномерового — в более чем $540 млн, и вряд ли кто-то планирует инвестировать в дальнейшее уменьшение размерности микрочипов.
Вместе с этим, принципиально новых технологий в области расчетов также не предвидится. Хотя эксперименты с суперпроводниками, которые теоретически позволяют значительно отодвинуть вычислительные ограничения, активно финансируются такими лидерами в области, как США, Япония, Южная Корея, Тайвань и Китай, достичь значительных практических результатов пока не удалось.
В итоге возникла ситуация, когда эффективная технология для дальнейшего развития ИИ только находится в разработке, в то время как имеющиеся технологические ресурсы — крайне ограничены. Обострение борьбы за данные ресурсы стало еще одним фактором, который влияет на политизацию искусственного интеллекта и актуализацию вопроса технологического суверенитета.
Кто ответственен за прогресс?
Поскольку разработка и производство оборудования для тренировки ИИ стали камнем преткновения современного развития машинных алгоритмов, то ключевыми игроками в данной области являются не государства, и даже не компании-разработчики искусственного интеллекта, наподобие OpenAI и Meta*, а дизайнеры и производители чипов и GPU. Среди всех таких компаний, наиболее явно отмечается лидерство одного игрока — Nvidia.
Nvidia является основным поставщиком передового оборудования для обучения ИИ таким компаниям, как OpenAI, Microsoft, Google, Amazon и другим разработчикам. По оценке Mizuho Securities, американская компания занимает 70%-95% рынка микрочипов для искусственного интеллекта, в то время как её основные конкуренты — AMD и Intel — значительно уступают Nvidia как в доходах от ИИ-сектора, так и в ряде технологических аспектов, особенно в области ПО.
Конечно, монополия Nvidia не остается неоспоримой. В разработку новых чипов для ИИ втянулись датская ASML и американские Google и Microsoft Azure. Последние две компании также имеют развитую инфраструктуру в области облачных вычислений, которые стали приоритетным направлением на фоне дефицита оборудования.
Тем не менее, и Nvidia, и ее конкуренты зависят от одного крупнейшего производителя чипов — Тайваньской компании по производству полупроводников (TSMC). TSMC выпускает 70-80% всех мировых микрочипов, и потому является еще одной важной компанией в цепочке производства оборудования для обучения ИИ.
Проблема не только в микрочипах
Дефицит вычислительных мощностей стал не единственным препятствием для разработки новых ИИ-моделей. Последние публикации на тему проблем развития искусственного интеллекта все чаще обращают внимание на дефицит данных. Новые модели требуют все большего объема информации, но большинство актуальных источников данных уже исчерпано по состоянию на 2023 год. При этом веб-ресурсы, используемые для тренировки ИИ, перестали предоставлять разрешение на использование своей информации для обучения нейронных сетей. Таким образом, по сообщению Observer, ChatGPT потерял около 26% своих высококачественных источников данных.
Из-за данного тренда организации, обладающие большими объемами данных, становятся новыми ключевыми игроками, влияющими на траекторию развития ИИ. К ним относятся владельцы популярных социальных платформ (YouTube, X), крупные издатели (The Financial Times, The Associated Press) и агрегаторы данных (Factual, Infogroup), которые продают тренировочные датасеты разработчикам ИИ в обмен на их продукцию.
Еще одним ограничивающим фактором стала электроэнергия. За 3,5 месяца тренировки ChatGPT процесс обучения модели потребовал 50 ГВт-ч электричества, что составляет 10-ю часть от общей выработки энергии в США. Поскольку увеличение вычислений для улучшения алгоритмов также кратно увеличит потребление энергии, выделение соответствующих мощностей потребует значительных инфраструктурных и финансовых ресурсов.
Политизация вычислений
Хотя прямая роль государства в способствовании развития ИИ крайне ограничена, и государственные проекты не сравниваются по финансированию с частными инвестициями, в условиях управления ограниченными ресурсами национальным правительствам отводится важная роль.
В этом плане демонстративными стали американские ограничения для компаний, в том числе для Nvidia, на экспорт чипов и GPU в Китай. Таким образом, американское правительство не только ограничило потенциал китайской ИИ-индустрии, но и обеспечило поток оборудования для собственных компаний-разработчиков в духе классического меркантилизма. Хотя на текущий момент американское правительство действует в рамках laissez-faire экономики, данный случай показывает, что в крайней ситуации США может оказать давление на ключевых игроков в индустрии, которыми преимущественно являются американские компании, для контроля доступа к технологическим ресурсам.
Однако, часть глобальной цепочки производства в ИИ-индустрии Соединенных Штатов находится под угрозой. Поскольку TSMC является основным производителем ИИ-чипов, а напряжение между Китаем и Тайванем усилилось за последние несколько лет, обеспечение Америкой безопасности острова актуализировано как никогда. При этом американо-тайваньские отношения вышли за рамки традиционной зависимости американской промышленности от тайваньских микрочипов, перейдя в контекст глобальной гонки за лидерство в области ИИ.
Такое положение дел, однако, не означает, что соперники США, в первую очередь Китай и Россия, не имеют веса в глобальном распределении ресурсов для разработки ИИ. Хотя разрабатывающие и производящие мощности ИИ-индустрии находятся в сфере влияния Соединенных Штатов, значительная часть месторождений редкоземельных материалов, необходимых для производства высокотехнологичных микрочипов, сосредоточено у геополитических оппонентов Америки. Таким образом, согласно данным геологической службы США, в Китае в 2022 году добывалось до 80% всего мирового объема добычи редкоземельных металлов. В свою очередь, Россия обладает стратегическими запасами палладия и платины. При этом, в обоих случаях ключевую роль в добыче металлов играют государственные или тесно связанные с государством компании, за счет чего соответствующие страны имеют большую возможность для контроля за распределением данных ресурсов. Другими государствами, богатыми на необходимые для ИИ-индустрии материалами, являются ЮАР, Австралия, Индия и ряд латиноамериканских стран.
Аналогично, государство регулирует распределение ресурсов и в других областях. Поскольку правительственные и муниципальные структуры являются основными владельцами энергосетей и энергогенерирующих предприятий, государство может подойти к вопросу развития ИИ так же, как ранее оно это сделало в случае с крипто-майнингом. Однако, в то время как добыча криптовалют вызывала негативное отношение со стороны правительства и приводила к введению ограничений на майнинг, обучение ИИ, напротив, может регулироваться путем предоставления льгот.
Более неоднозначно обстоит вопрос с источниками данных. Поскольку большинство информации носит характер интеллектуальной собственности, демократические государства сталкиваются с дилеммой между защитой прав на данные и обеспечением их доступности для развития ИИ. Тем не менее, поскольку правительство собирает информацию о гражданах через социальные платформы, операторов связей, поставщиков мобильных устройств и собственные структуры, эти данные могут быть переданы компаниям-разработчикам, как это происходит в Китае.
Концентрирование разработки ИИ
В контексте ограниченных ресурсов, распределение технологического суверенитета между несколькими крупными игроками привело не к децентрализации сферы разработки ИИ, а к ее все большей эксклюзивности. В таких условиях патронаж государства, способный обеспечить доступ к необходимым ресурсам, стал основным условием для включения частных компаний в глобальную гонку разработки ИИ. Из-за этого вряд ли стоит ожидать, что на фоне текущего «ИИ-бума» появится больше стартапов, подобных OpenAI, которые смогут кардинально изменить данную область. Поэтому, несмотря на рост в публичном использовании машинных алгоритмов, передовые разработки в области изолируются в руках немногих, преимущественно западных, корпораций и государств, создавая барьеры для новых участников рынка, будь это развивающиеся страны или независимые стартапы.
Ярослав Барыкин, политолог
* Корпорация Meta признана в РФ экстремистской.
Свежие комментарии