«Непрозрачное повторение» и другие термины из области искусственного интеллекта, которые вам, вероятно, стоит знать

ИИ перестраивает мир и одновременно придумывает совершенно новый язык, чтобы описать, как он это делает. Посетите в эти дни любое совещание по продукту, презентацию или дискуссионную панель, и вы услышите, как люди оперируют такими терминами, как LLM, RAG, RLHF — а с прошлой недели и такими, как «непрозрачная рекуррентность», метод рассуждений в новой модели OpenAI под названием Astra, который привел в замешательство исследователей в области безопасности ИИ . Терминология меняется настолько быстро, что даже очень умные люди в мире технологий начинают чувствовать себя немного неуверенно.

Этот глоссарий — наша попытка исправить эту ситуацию: понятные определения терминов ИИ, с которыми вы, скорее всего, столкнётесь, независимо от того, занимаетесь ли вы разработкой таких систем, инвестируете в них или просто пытаетесь быть в курсе событий, читая TechCrunch или слушая соответствующие подкасты. Мы регулярно обновляем его по мере развития отрасли, поэтому считайте его «живым» документом, во многом подобным тем системам ИИ, которые в нём описываются.

Общий искусственный интеллект, или ОИИ (AGI), — это расплывчатый термин. Но, как правило, он обозначает ИИ, который превосходит среднестатистического человека по способностям в решении многих, если не большинства, задач. Генеральный директор OpenAI Сэм Альтман однажды описал AGI как «эквивалент среднестатистического человека, которого можно было бы нанять в качестве коллеги». Между тем, в уставе OpenAI AGI определяется как «высокоавтономные системы, которые превосходят людей в выполнении большинства экономически ценных видов работы». Понимание этой концепции в Google DeepMind несколько отличается от этих двух определений; в лаборатории AGI рассматривается как «ИИ, который по крайней мере не уступает человеку в выполнении большинства когнитивных задач». Запутались? Не беспокойтесь — так же чувствуют себя и эксперты, стоящие на переднем крае исследований в области ИИ.

Под «ИИ-агентом» понимается инструмент, использующий технологии ИИ для выполнения ряда задач от вашего имени — выходящих за рамки возможностей более простых ИИ-чат-ботов, — таких как оформление расходов, бронирование билетов или столика в ресторане, или даже написание и сопровождение кода. Однако, как мы уже объясняли ранее, в этой быстро развивающейся сфере много переменных, поэтому термин «ИИ-агент» может означать разные вещи для разных людей. Кроме того, инфраструктура, необходимая для реализации его предполагаемых возможностей, все еще находится в стадии развития. Но основная концепция подразумевает автономную систему, которая может задействовать несколько систем искусственного интеллекта для выполнения многоэтапных задач.

Представьте себе конечные точки API как «кнопки» на задней панели программного обеспечения, которые другие программы могут нажимать, чтобы заставить его выполнять определенные действия. Разработчики используют эти интерфейсы для создания интеграций — например, чтобы одно приложение могло извлекать данные из другого или чтобы агент ИИ мог напрямую управлять сторонними сервисами без необходимости ручного управления каждым интерфейсом со стороны человека. Большинство устройств «умного дома» и подключенных платформ имеют такие скрытые «кнопки», даже если обычные пользователи никогда их не видят и не взаимодействуют с ними. По мере того как агенты ИИ становятся всё более способными, они всё чаще могут самостоятельно находить и использовать эти конечные точки, открывая мощные — и порой неожиданные — возможности для автоматизации.

На простой вопрос человеческий мозг может ответить, даже не задумываясь — например, на вопрос «какое животное выше: жираф или кошка?». Но во многих случаях для нахождения правильного ответа часто требуются ручка и бумага, поскольку в расчёте присутствуют промежуточные шаги. Например, если у фермера есть куры и коровы, и у них вместе 40 голов и 120 ног, вам, возможно, придётся записать простое уравнение, чтобы найти ответ (20 кур и 20 коров).

В контексте искусственного интеллекта рассуждения по цепочке мысли для крупных языковых моделей означают разбиение задачи на более мелкие промежуточные шаги с целью повышения качества конечного результата. Получение ответа обычно занимает больше времени, но вероятность того, что ответ будет правильным, выше, особенно в контексте логики или программирования. Модели рассуждений разрабатываются на основе традиционных крупных языковых моделей и оптимизируются для мышления по цепочке мыслей благодаря методу обучения с подкреплением.

(См.: Крупная языковая модель)

Это более конкретное понятие, чем «ИИ-агент», под которым понимается программа, способная самостоятельно, шаг за шагом, предпринимать действия для достижения цели. Агент по программированию — это специализированная версия, применяемая в разработке программного обеспечения. Вместо того чтобы просто предлагать код, который человек должен проверить и вставить, агент по программированию может самостоятельно писать, тестировать и отлаживать код, выполняя ту итеративную работу методом проб и ошибок, которая обычно занимает целый рабочий день разработчика. Эти агенты могут работать со всей кодовой базой, обнаруживая ошибки, запуская тесты и внедряя исправления при минимальном контроле со стороны человека. Представьте себе, что вы наняли очень быстрого стажера, который никогда не спит и никогда не теряет концентрацию — хотя, как и в случае с любым стажером, человек всё равно должен проверять проделанную работу.

Хотя термин «вычислительная мощность» и имеет несколько значений, обычно он относится к жизненно важной вычислительной мощности, которая позволяет работать моделям ИИ. Именно этот вид обработки данных является движущей силой индустрии ИИ, давая ей возможность обучать и внедрять свои мощные модели. Этот термин часто используется в качестве сокращения для обозначения видов аппаратного обеспечения, обеспечивающего вычислительную мощность, — таких как графические процессоры (GPU), центральные процессоры (CPU), процессоры TPU и других видов инфраструктуры, составляющих основу современной индустрии ИИ.

Подвид самосовершенствующегося машинного обучения, в котором алгоритмы ИИ построены на основе многослойной структуры искусственной нейронной сети (ИНС). Это позволяет им выявлять более сложные взаимосвязи по сравнению с более простыми системами на основе машинного обучения, такими как линейные модели или деревья решений. Структура алгоритмов глубокого обучения вдохновлена взаимосвязанными путями нейронов в человеческом мозге.

Модели ИИ на основе глубокого обучения способны самостоятельно выявлять важные характеристики в данных, не требуя от инженеров-специалистов определения этих признаков. Эта структура также поддерживает алгоритмы, способные учиться на ошибках и, посредством процесса повторения и корректировки, улучшать свои собственные результаты. Однако для получения хороших результатов системы глубокого обучения требуют большого количества данных (миллионы и более). Кроме того, их обучение, как правило, занимает больше времени по сравнению с более простыми алгоритмами машинного обучения, поэтому затраты на разработку, как правило, выше.

Диффузия — это технология, лежащая в основе многих моделей ИИ, генерирующих искусство, музыку и текст. Вдохновленные физикой, диффузионные системы постепенно «разрушают» структуру данных — например, фотографий, песен и т. д. — путем добавления шума, пока от них ничего не останется. В физике диффузия является спонтанным и необратимым процессом — сахар, растворившийся в кофе, невозможно вернуть в форму кубика. Однако системы диффузии в ИИ стремятся освоить своего рода процесс «обратной диффузии», чтобы восстановить разрушенные данные, приобретая способность извлекать данные из шума.

Дистилляция — это метод, используемый для извлечения знаний из крупной модели искусственного интеллекта с помощью архитектуры «учитель-ученик». Разработчики отправляют запросы модели-учителя и фиксируют полученные результаты. Иногда ответы сравниваются с набором данных, чтобы оценить их точность. Затем эти результаты используются для обучения модели-ученика, которую обучают имитировать поведение модели-учителя.

Дистилляция может использоваться для создания более компактной и эффективной модели на основе более крупной модели с минимальными потерями при дистилляции. Вероятно, именно таким образом OpenAI разработала GPT-4 Turbo — более быструю версию GPT-4.

Хотя все компании, занимающиеся ИИ, используют дистилляцию внутри компании, некоторые из них, возможно, также применяли её для того, чтобы догнать передовые модели. Дистилляция данных от конкурента, как правило, нарушает условия предоставления услуг ИИ-API и чат-помощников.

Это относится к дальнейшему обучению модели ИИ с целью оптимизации производительности для более конкретной задачи или области, чем та, на которой ранее сосредоточено было её обучение — как правило, путём подачи новых, специализированных (т. е. ориентированных на задачу) данных. 

Многие стартапы в сфере ИИ берут за отправную точку крупные языковые модели для создания коммерческого продукта, но стремятся повысить их полезность для целевого сектора или задачи, дополняя ранние циклы обучения тонкой настройкой на основе собственных знаний и опыта в конкретной области.

(См.: Крупная языковая модель [LLM])

GAN, или генеративная состязательная сеть (Generative Adversarial Network), представляет собой тип архитектуры машинного обучения, лежащую в основе некоторых важных разработок в области генеративного ИИ, когда речь идет о создании реалистичных данных — включая (но не ограничиваясь) инструменты для создания дипфейков. GAN используют пару нейронных сетей, одна из которых на основе обучающих данных генерирует выходные данные, которые передаются другой модели для оценки.

Эти две модели, по сути, запрограммированы так, чтобы пытаться превзойти друг друга. Генератор пытается заставить дискриминатор принять свой выходной сигнал, в то время как дискриминатор стремится выявить искусственно сгенерированные данные. Такое структурированное соревнование позволяет оптимизировать результаты работы ИИ, делая их более реалистичными, без необходимости дополнительного вмешательства человека. Однако GAN лучше всего подходят для узконаправленных задач (таких как создание реалистичных фотографий или видео), а не для ИИ общего назначения.

«Галлюцинация» — это термин, предпочитаемый в индустрии ИИ для обозначения моделей ИИ, которые «выдумывают» — буквально генерируют неверную информацию. Очевидно, что это огромная проблема для качества ИИ. 

Галлюцинации приводят к тому, что результаты GenAI могут вводить в заблуждение и даже создавать реальные риски — с потенциально опасными последствиями (например, запрос о здоровье, в ответ на который даётся вредный медицинский совет).

Считается, что проблема выдумывания информации ИИ возникает вследствие пробелов в обучающих данных. Галлюцинации способствуют переходу к все более специализированным и/или вертикальным моделям ИИ — то есть к ИИ, ориентированным на конкретные области, требующим более узкой экспертизы — как способу снизить вероятность пробелов в знаниях и уменьшить риски дезинформации.

Инференция — это процесс запуска модели ИИ. Это запуск модели для того, чтобы она делала прогнозы или выводы на основе ранее увиденных данных. Чтобы было ясно: инференция невозможна без обучения; модель должна выучить закономерности в наборе данных, прежде чем она сможет эффективно экстраполировать эти обучающие данные.

Вычисления могут выполняться на множестве типов аппаратного обеспечения — от процессоров смартфонов до мощных графических процессоров и специально разработанных ускорителей ИИ. Однако не все из них одинаково хорошо справляются с запуском моделей. Например, для выполнения прогнозов на очень больших моделях на ноутбуке потребуется гораздо больше времени, чем на облачном сервере с высокопроизводительными чипами ИИ.

Крупные языковые модели (LLM)

Крупные языковые модели, или LLM, — это модели искусственного интеллекта, используемые популярными ИИ-помощниками, такими как ChatGPT, Claude, Gemini от Google, AI Llama от Meta, Microsoft Copilot или Le Chat от Mistral. Когда вы общаетесь с ИИ-помощником, вы взаимодействуете с крупной языковой моделью, которая обрабатывает ваш запрос напрямую или с помощью различных доступных инструментов, таких как веб-браузеры или интерпретаторы кода.

LLM — это глубокие нейронные сети, состоящие из миллиардов числовых параметров (или весов, см. ниже), которые обучаются взаимосвязям между словами и фразами и создают представление языка — своего рода многомерную карту слов.

Эти модели создаются на основе кодирования паттернов, которые они обнаруживают в миллиардах книг, статей и стенограмм. Когда вы задаете запрос LLM, модель генерирует наиболее вероятный паттерн, соответствующий запросу.

Кэш памяти — это важный процесс, который ускоряет вывод (то есть процесс, с помощью которого ИИ генерирует ответ на запрос пользователя). По сути, кэширование — это метод оптимизации, призванный повысить эффективность вывода. ИИ, очевидно, основан на высокопроизводительных математических вычислениях, и каждый раз, когда эти вычисления выполняются, они потребляют больше энергии. Кэширование предназначено для сокращения количества вычислений, которые модели может потребоваться выполнить, путем сохранения определённых вычислений для будущих запросов и операций пользователей. Существуют различные виды кэширования памяти, хотя одним из наиболее известных является кэширование KV (ключ-значение). Кэширование KV работает в моделях на основе трансформеров и повышает эффективность, ускоряя получение результатов за счёт сокращения времени (и алгоритмических затрат), необходимого для генерации ответов на вопросы пользователей.   

Протокол контекста модели (MCP)

Протокол контекста модели, или MCP, — это открытый стандарт, позволяющий моделям ИИ подключаться к внешним инструментам и данным — вашим файлам, базам данных или приложениям, таким как Slack и Google Drive, — без необходимости разработки индивидуального коннектора для каждого отдельного соединения. Представьте себе это как порт USB-C для ИИ. Компания Anthropic представила MCP в 2024 году, а позже передала его Linux Foundation; с тех пор он был принят OpenAI, Google и Microsoft, что сделало его одним из самых быстро распространяющихся стандартов в новейшей истории ИИ.

«Mixture of Experts» — это архитектура модели, которая разбивает нейронную сеть на множество небольших специализированных подсетей, или «экспертов», и активирует лишь несколько из них для решения той или иной задачи. Вместо того чтобы направлять каждый запрос через всю модель — как если бы вы созывали весь офис для ответа на каждый вопрос — модель MoE имеет встроенный «маршрутизатор», который подбирает именно тех специалистов, которые нужны для выполнения задачи. Это позволяет создавать огромные модели, которые остаются относительно быстрыми и экономичными в эксплуатации, поскольку в любой момент времени работает лишь небольшая часть сети. Модель Mixtral от Mistral AI является хорошо известным примером; широко распространено мнение, что более новые модели GPT от OpenAI также используют ту или иную версию этого подхода, хотя компания никогда официально этого не подтверждала.

(См.: Нейронная сеть, глубокое обучение)

Нейронная сеть — это многослойная алгоритмическая структура, лежащая в основе глубокого обучения и, в более широком смысле, всего бурного развития генеративных инструментов искусственного интеллекта, начавшегося после появления крупных языковых моделей. 

Хотя идея использовать плотно взаимосвязанные пути человеческого мозга в качестве основы для разработки алгоритмов обработки данных возникла ещё в 1940-х годах, именно гораздо более позднее появление графических процессоров (GPU) — благодаря индустрии видеоигр — позволило в полной мере раскрыть потенциал этой теории. Эти чипы оказались идеально подходящими для обучения алгоритмов с гораздо большим количеством слоев, чем это было возможно в предыдущие эпохи, — что позволило системам ИИ на основе нейронных сетей достичь гораздо более высокой производительности во многих областях, включая распознавание речи, автономную навигацию и разработку лекарственных препаратов.

(См.: Крупная языковая модель [LLM])

Гипотетический сценарий наихудшего развития событий, при котором модель рассуждает исключительно на основе своих внутренних числовых представлений, а не на понятном человеку языке, что превращает её мышление в настоящий «чёрный ящик». На сегодняшний день ни одна из выпущенных моделей так не работает — компания OpenAI заявила, что её модель Astra (выпущенная в сентябре 2026 года и известная ранним использованием метода рассуждений «непрозрачной рекурсии») сохраняет читаемость цепочки мыслительных операций и отвергает сравнения с «нейроязыком». Однако исследователи в области безопасности указывают на использование Astra метода непрозрачной рекурсии — его определение приведено ниже — как на первый реальный шаг в этом направлении, и именно поэтому популярность этого термина резко возросла после появления сообщений о запуске Astra.

Непрозрачная рекурсия — это когда модель ИИ многократно пропускает один и тот же запрос через свои внутренние слои, вместо того чтобы вести рассуждения шаг за шагом на понятном языке. Это более эффективно — меньшие по размеру модели могут работать с результатами, превосходящими их возможности, при меньших вычислительных затратах, — но оставляет гораздо меньше читаемых следов, чем обычная цепочка рассуждений (то есть тот «текстовый комментарий», который вы видите после обращения за помощью к чат-боту). Это беспокоит исследователей в области безопасности, поскольку эти журналы являются ключевым инструментом для выявления нежелательного поведения — а данная техника может значительно затруднить такой контроль.

Под «открытым исходным кодом» понимается программное обеспечение — или, все чаще, модели ИИ — исходный код которых публично доступен для любого пользователя с целью использования, проверки или модификации. В мире ИИ ярким примером является семейство моделей Llama от Meta; в сфере операционных систем известным историческим аналогом является Linux. Подходы с открытым исходным кодом позволяют исследователям, разработчикам и компаниям по всему миру опираться на результаты работы друг друга, ускоряя прогресс и обеспечивая возможность проведения независимых аудитов безопасности, которые закрытые системы не могут легко обеспечить. «Закрытый исходный код» означает, что код является закрытым — вы можете использовать продукт, но не можете увидеть, как он работает, как в случае с моделями GPT от OpenAI — это различие стало одной из ключевых тем дискуссий в индустрии ИИ.

Параллелизация означает выполнение множества задач одновременно, а не поочередно — например, когда 10 сотрудников одновременно работают над разными частями проекта, а не один сотрудник выполняет все последовательно. В области искусственного интеллекта параллелизация имеет основополагающее значение как для обучения, так и для инференса: современные графические процессоры (GPU) специально разработаны для параллельного выполнения тысяч вычислений, что является одной из главных причин, по которой они стали аппаратной основой отрасли. По мере того как системы искусственного интеллекта становятся все более сложными, а модели — все более объемными, способность распределять работу между множеством чипов и множеством машин стала одним из важнейших факторов, определяющих, насколько быстро и экономично можно создавать и внедрять модели. Исследование более эффективных стратегий параллелизации в настоящее время представляет собой самостоятельную область научных исследований.

«RAMageddon» — это забавный новый термин, обозначающий не столь забавную тенденцию, захлестнувшую технологическую отрасль: постоянно растущий дефицит оперативной памяти (RAM), которая лежит в основе практически всех технологических продуктов, которыми мы пользуемся в повседневной жизни. По мере расцвета индустрии искусственного интеллекта крупнейшие технологические компании и лаборатории ИИ — все стремящиеся создать самый мощный и эффективный ИИ — закупают столько оперативной памяти для своих центров обработки данных, что для остальных нас почти ничего не остается. А это «узкое место» в поставках означает, что то, что остаётся, становится всё дороже и дороже.

Это касается таких отраслей, как игровая индустрия (где крупные компании были вынуждены повысить цены на игровые консоли из-за сложностей с поиском микросхем памяти для своих устройств), бытовая электроника (где дефицит памяти может привести к самому значительному падению объемов поставок смартфонов за более чем десятилетие) и корпоративные вычисления в целом (поскольку эти компании не могут получить достаточное количество оперативной памяти для своих собственных центров обработки данных). Ожидается, что рост цен прекратится только после того, как закончится этот страшный дефицит, но, к сожалению, пока что практически нет признаков того, что это произойдет в ближайшее время.  

Это более «техническое» название того же самого метода, что и «непрозрачная рекурсия» (многократное прохождение запроса через слои модели вместо последовательного вывода в языке). Средства массовой информации используют эти два термина практически как синонимы, поэтому мы включаем их сюда, хотя «глубина рекуррентности» является инженерным термином, а «непрозрачная рекуррентность» — это формулировка, подчеркивающая проблему безопасности.

(См. «Непрозрачная рекуррентность», «Цепочка мыслей».)

Рекурсивное самосовершенствование

Подобно ОИИ, рекурсивное самосовершенствование является пороговым показателем того, насколько умным может стать ИИ и насколько мало он будет полагаться на людей. В сценарии рекурсивного самосовершенствования (RSI) модели ИИ начинают совершенствоваться без вмешательства человека, что приводит к огромному ускорению развития их возможностей и автономности. По некоторым версиям, это станет катастрофическим моментом, сродни сингулярности — моментом, когда модели ИИ станут невосприимчивыми к внешнему вмешательству. Но RSI также описывает базовую способность — может ли модель ИИ разработать своего собственного преемника? — что значительно облегчает инженерам попытки его создания. Ряд недавних стартапов в сфере ИИ взялись за создание рекурсивно самосовершенствующихся моделей, но большинство из них отвергают апокалиптические последствия, представляя RSI просто как следующую границу исследований.

Обучение с подкреплением — это метод обучения искусственного интеллекта, при котором система учится, пробуя различные варианты и получая вознаграждение за правильные ответы — подобно тому, как вы дрессируете своего любимого питомца с помощью лакомств, только в данном случае «питомцем» в данном случае представляет собой нейронную сеть, а «лакомство» — математический сигнал, указывающий на успех. В отличие от обучения с учителем, при котором модель обучается на фиксированном наборе данных с помеченными примерами, обучение с подкреплением позволяет модели исследовать окружающую среду, предпринимать действия и непрерывно корректировать свое поведение на основе получаемой обратной связи. Этот подход оказался особенно эффективным для обучения ИИ игре в игры, управлению роботами и, в последнее время, для совершенствования способности к рассуждению крупных языковых моделей. Такие методы, как обучение с подкреплением на основе обратной связи от человека (RLHF), в настоящее время занимают центральное место в подходах ведущих лабораторий ИИ к доработке своих моделей с целью сделать их более полезными, точными и безопасными.

Когда речь заходит о взаимодействии человека и машины, возникают некоторые очевидные трудности — люди общаются с помощью человеческого языка, в то время как программы ИИ выполняют задачи посредством сложных алгоритмических процессов, основанных на данных. Токены устраняют этот разрыв: они являются основными строительными блоками взаимодействия человека и ИИ, представляя собой дискретные сегменты данных, обработанные или сгенерированные LLM. Они создаются в ходе процесса, называемого токенизацией, который разбивает исходный текст на небольшие единицы, понятные языковой модели, аналогично тому, как компилятор преобразует человеческий язык в двоичный код, понятный компьютеру. В корпоративной среде токены также определяют стоимость — большинство компаний, занимающихся ИИ, взимают плату за использование LLM на основе количества токенов, то есть чем больше их использует компания, тем больше она платит.

Итак, токены — это небольшие фрагменты текста (чаще всего части слов, а не целые слова), на которые языковые модели ИИ разбивают текст перед его обработкой; для понимания рабочих нагрузок ИИ они примерно аналогичны «словам». Пропускная способность указывает на объем данных, который может быть обработан за определенный период времени, поэтому пропускная способность по токенам, по сути, является мерой того, какой объем работы ИИ система может обработать за один раз. Высокая пропускная способность по токенам является ключевой целью для команд, занимающихся инфраструктурой ИИ, поскольку она определяет, сколько пользователей модель может обслуживать одновременно и как быстро каждый из них получает ответ. Исследователь в области ИИ Андрей Карпати (Andrej Karpathy) описывал чувство беспокойства, которое он испытывал, когда его подписки на ИИ простаивали — это напоминало ему то чувство, которое он испытывал, будучи аспирантом, когда дорогостоящее компьютерное оборудование не использовалось в полной мере, — и именно это чувство объясняет, почему максимизация пропускной способности по токенам стала чем-то вроде навязчивой идеи в этой области.

Разработка систем искусственного интеллекта на основе машинного обучения включает в себя процесс, известный как обучение. Проще говоря, это означает подачу данных, чтобы модель могла учиться на основе закономерностей и генерировать полезные результаты. По сути, это процесс, при котором система реагирует на характеристики данных, что позволяет ей адаптировать результаты к поставленной цели — будь то распознавание изображений кошек или создание хайку по запросу.

Обучение может быть дорогостоящим, поскольку требует большого объема входных данных, а потребности в таких объемах имеют тенденцию к росту — именно поэтому гибридные подходы, такие как точная настройка ИИ на основе правил с использованием целевых данных, могут помочь управлять затратами, не начиная с нуля.

Метод, при котором ранее обученная модель искусственного интеллекта используется в качестве отправной точки для разработки новой модели, предназначенной для другой, но, как правило, связанной с ней задачи — что позволяет повторно применить знания, полученные в ходе предыдущих циклов обучения. 

Переносное обучение может повысить эффективность за счёт сокращения времени разработки модели. Оно также может быть полезно, когда данных для задачи, для которой разрабатывается модель, недостаточно. Однако важно отметить, что у этого подхода есть ограничения. Модели, которые полагаются на переносное обучение для обретения обобщённых способностей, скорее всего, потребуют обучения на дополнительных данных, чтобы хорошо работать в своей целевой области

Потеря валидации — это показатель, отражающий эффективность обучения модели ИИ в процессе обучения; чем ниже этот показатель, тем лучше. Исследователи внимательно отслеживают его как своего рода отчет в режиме реального времени, используя его для принятия решений о том, когда прекратить обучение, когда скорректировать гиперпараметры или следует ли исследовать потенциальную проблему. Одной из ключевых проблем, на которую она помогает обратить внимание, является переобучение — состояние, при котором модель заучивает обучающие данные, а не по-настоящему усваивает закономерности, которые можно обобщить на новые ситуации. Представьте себе разницу между учеником, который действительно понимает материал, и тем, кто просто выучил прошлогодний экзамен наизусть — потеря валидации помогает выявить, к какому из этих типов становится ваша модель.

Веса являются основой обучения ИИ, поскольку они определяют, какая важность (или вес) придается различным признакам (или входным переменным) в данных, используемых для обучения системы, — тем самым формируя выходные данные модели ИИ. 

Другими словами, веса — это числовые параметры, которые определяют, что является наиболее значимым в наборе данных для данной задачи обучения. Они выполняют свою функцию путем умножения входных данных. Обучение модели обычно начинается со случайно назначенных весов, но по мере развития процесса веса корректируются, поскольку модель стремится получить результат, более точно соответствующий целевому значению.

Например, модель ИИ для прогнозирования цен на жилье, обученная на исторических данных о недвижимости в целевом регионе, может включать веса для таких признаков, как количество спален и ванных комнат, тип застройки (отдельно стоящий или сдвоенный дом), наличие парковки, гаража и так далее. 

В конечном итоге веса, которые модель присваивает каждому из этих входных параметров, отражают степень их влияния на стоимость объекта недвижимости на основе данного набора данных.

Эта статья регулярно обновляется новой информацией.

Когда вы совершаете покупку по ссылкам в наших статьях, мы можем получать небольшую комиссию. Это не влияет на нашу редакционную независимость.