Токен/элемент слова
Токен — это базовая единица обработки информации модели; в текстовых моделях текст обычно разбивается на слова, подслова, символы или байтовые фрагменты с помощью сегментатора слов. Что такое токен
Читать статью ↗TOKEN WIKI / База отраслевых знаний
Понимание элементов слова начинается с понятия.
содержит 52 вводных статьи, начиная с словесных единиц, вычислительной мощности за рубежом и словесных единиц, отправляемых за границу, охватывая модели, рассуждения, выставление счетов через API и глобальную доставку.
Все терминыЭлементы Word и выставление счетов
База вычислительной мощностиПроизводительность выводаи выводыinference performanceЗарубежный экспорт и архитектураПоиск и обнаружениеИнструменты разработки искусственного интеллектаинтеллектуальный корпус и приложение
52 записи
Токенизатор/токенизатор Токенизатор
преобразует исходный текст в последовательность токенов, которая может быть обработана моделью, и восстанавливает выходной токен в читаемое содержимое. Сегментатор слов
Читать статью ↗input token
Входной токен — это объем информации, считываемой моделью в запросе модели, который обычно включает контекст, такой как вопросы пользователя, системные подсказки, исторические разговоры и инструменты. Элемент входного слова
Читать статью ↗Выходной токен
— это результат использования, сгенерированный моделью. Различные службы также могут перечислять конкретные случаи использования, возникшие во время вывода. Элементы выходного слова
Читать статью ↗Расчет стоимости токена
Расчет стоимости токена — это процесс суммирования входных, выходных и других подлежащих оплате статей в одной и той же валюте и единицах измерения.
Читать статью ↗context cache
Кэширование контекста — это механизм, который повторно использует обработанный контекст при выполнении определенных условий для уменьшения повторных вычислений.
Читать статью ↗computing power
Вычислительная мощность описывает способность вычислительной системы выполнять вычислительные задачи. В сценариях ИИ необходимо сочетать задачи, точность, понимание аппаратного и программного стека. Какова вычислительная мощность
Читать статью ↗GPU/графический процессор Графический процессор
— это процессор, подходящий для крупномасштабных параллельных вычислений и обычно используемый для обучения глубокому обучению, вывода и научных вычислений. Вычислительная мощность графического процессора
Читать статью ↗/VRAM Видеопамять
— это выделенная память, используемая графическим процессором для хранения весов модели, промежуточных состояний и других расчетных данных. Объем видеопамяти
Читать статью ↗FLOPS / вычислительная мощность с плавающей запятой
FLOPS представляет собой количество операций с плавающей запятой в секунду, которое часто используется для описания производительности вычислений при определенной точности и условиях. Вычислительная мощность
Читать статью ↗с графическим процессором Интеллектуальный вычислительный кластер
с графическим процессором состоит из вычислительных узлов, сетей межсоединений, компонентов хранения и планирования и используется для выполнения крупномасштабных рабочих нагрузок искусственного интеллекта. Интеллектуальный вычислительный кластер
Читать статью ↗Пропускная способность и межсоединение Пропускная способность
представляет собой объем данных, который может быть передан в единицу времени; Службы модели включают полосу пропускания на разных уровнях, таких как видеопамять, соединение устройств и сеть. Пропускная способность сети
Читать статью ↗LLM/модель большого языка Большая языковая модель
изучает языковые шаблоны посредством масштабного обучения и используется для таких задач, как создание, понимание и преобразование текста.
Читать статью ↗Рассуждение/вывод
Вывод — это процесс использования обученной модели для расчета новых входных данных и генерации выходных данных, который отличается от обучения, при котором обновляются параметры модели. Вывод модели
Читать статью ↗Модель рассуждения / Модель рассуждения Модель вывода
фокусируется на пошаговой обработке и выводе сложных задач и обычно используется в математике, кодировании и задачах с несколькими ограничениями. Модель мышления
Читать статью ↗Мультимодальная модель
может обрабатывать различные формы информации, такие как текст, изображения, аудио или видео, а конкретный диапазон поддержки зависит от модели.
Читать статью ↗Контекстное окно
— это диапазон токенов, которые модель может разместить за один период обработки, обычно с учетом входных и выходных бюджетов. Длина контекста
Читать статью ↗Подсказка/слово подсказки
Слова подсказки — это входной контент, используемый для описания задач, контекста, выходных требований и ограничений.
Читать статью ↗Пропускная способность/Пропускная способность Пропускная способность
— это количество запросов или токенов, обработанных за определенный период времени. Необходимо объяснить статистические объекты и условия испытаний.
Читать статью ↗inference delay
Задержка вывода описывает время, прошедшее от инициации запроса до генерации или завершения вывода. Следует различать очередь, первое слово и общее затраченное время. Скорость ответа API
Читать статью ↗TTFT / Время первого токена
TTFT обозначает время от начала запроса до получения первого выходного токена и часто используется для измерения времени ожидания потокового взаимодействия.
Читать статью ↗KV Cache
KV Cache кэширует ключи и значения предыдущих токенов при расчете механизма внимания, чтобы уменьшить количество повторных вычислений при авторегрессионной генерации.
Читать статью ↗пакетная обработка/пакетирование Пакетная обработка
объединяет несколько вычислительных задач для улучшения использования оборудования; система обслуживания также может использовать непрерывную пакетную обработку.
Читать статью ↗Квантование модели
использует числовые значения более низкой точности для представления части данных модели или вычислений, чтобы уменьшить накладные расходы на ресурсы. Сжатие модели
Читать статью ↗/ Потоковая передача Потоковый вывод
позволяет приложениям получать контент постепенно до того, как будет сгенерирован полный результат, что часто используется для разговоров и взаимодействий в реальном времени. API потоковой передачи
Читать статью ↗уходит в море / Ци Юань уходит в море Токен
, выходящий за границу, представляет собой модель цифровых услуг, которая предоставляет интеллектуальные возможности, такие как обоснование модели, для зарубежных приложений через API или платформы.
Читать статью ↗AI Compute Export
Выход за границу — это направление бизнеса, направленное на предоставление продуктов и услуг на зарубежные рынки, связанных с вычислительными ресурсами, облачными услугами, моделями или возможностями приложений.
Читать статью ↗API/интерфейс прикладного программирования API
определяет, как происходит обмен запросами и ответами между приложениями; API модели позволяет разработчикам вызывать возможности удаленной модели. API модели
Читать статью ↗ограничение тока/ограничение скорости
Ограничение тока — это механизм контроля количества запросов, использования токенов или параллелизма в течение определенного периода времени. Он часто используется для управления ресурсами и стабильности сервиса. Ограничение тока API
Читать статью ↗RAG / поколение улучшений поиска
RAG извлекает соответствующий контент из внешних данных перед генерацией, а затем передает данные и вопросы модели для дополнения контекста. База знаний предприятия
Читать статью ↗Встраивание/векторное представление
Встраивание объектов отображения, таких как текст, в числовые векторы для выражения сходства и поддержки таких задач, как поиск и кластеризация. Текстовый вектор
Читать статью ↗База данных векторов
поддерживает хранение и извлечение векторов, часто используемых с фильтрацией метаданных для приложений семантического поиска и баз знаний. Векторный поиск
Читать статью ↗SEO / Поисковая оптимизация
SEO — это набор контентных и технических практик, которые помогают поисковым системам обнаруживать, понимать и представлять контент веб-сайта.
Читать статью ↗GEO / Генеративная поисковая оптимизация
GEO обычно относится к практике улучшения обнаруживаемости, понятности и вероятности цитирования контента при генеративном поиске.
Читать статью ↗robots.txt
robots.txt — это файл правил сканирования, размещенный в корневом пути сайта и используемый для выражения предпочтений доступа для сканеров, соблюдающих правила. Протокол сканера
Читать статью ↗Карта сайта / Карта сайта
Файлы Sitemap помогают поисковым системам понять структуру общедоступного контента, перечисляя канонические URL-адреса, которые вы хотите обнаружить. Карта сайта
Читать статью ↗/JSON-LD
Структурированные данные выражают сущности и связи на страницах, таких как веб-сайты, статьи, термины и хлебные крошки, в машиночитаемом формате. Семантическая разметка
Читать статью ↗Поисковый робот с искусственным интеллектом
Поисковый робот с искусственным интеллектом сканирует общедоступные веб-страницы для поддержки поиска или поиска пользователей. Различные организации могут различать цели поиска, доступа пользователей и целей обучения.
Читать статью ↗Кодекс/программный агент
Codex — это программный агент OpenAI, который может понимать код, изменять файлы, выполнять проверки и помогать с программными задачами в контролируемой среде.
Читать статью ↗Дистилляция / Дистилляция знаний Дистилляция модели
использует выходные данные, распределение вероятностей или промежуточную информацию модели учителя для обучения модели ученика, чтобы она могла изучить часть возможностей учителя при выполнении целевой задачи. Модель дистилляции
Читать статью ↗/ Подскажите общее имя
«Мантра» в кругах ИИ часто представляет собой причудливый способ произнести подсказку, которая относится к описанию задачи, контексту, ограничениям и требованиям к выходным данным, которые пользователь передает модели. Заклинание
Читать статью ↗Встроенный редактор AI и IDE
Встроенный редактор искусственного интеллекта и интегрированная среда разработки интегрируют диалог модели, контекст кода, завершение, модификацию и выполнение инструментов в рабочий процесс разработки, позволяя искусственному интеллекту участвовать в нескольких этапах разработки.
Читать статью ↗Cursor
Cursor — это инструмент для редактирования кода и агента, созданный на основе разработки с использованием искусственного интеллекта и обеспечивающий такие рабочие процессы, как понимание контекста кода, взаимодействие с естественным языком и модификация кода.
Читать статью ↗Windsurf / Cascade
Windsurf — это название продукта в экосистеме инструментов разработки искусственного интеллекта, а Cascade — соответствующий рабочий процесс агента; в настоящее время соответствующие официальные документы перенаправлены в документы Devin Desktop.
Читать статью ↗TRAE
TRAE — это инструмент, который обеспечивает разработку программного обеспечения с помощью искусственного интеллекта, охватывая такие формы продуктов, как IDE и SOLO, помогая разработчикам понимать, писать и проверять код на соответствие требованиям.
Читать статью ↗Cline
Cline — это экосистема программных агентов, которая может объединять модели и инструменты разработки. Он обеспечивает интеграцию редактора, терминалы и другие входы, а также может читать файлы, изменять коды и выполнять инструментальные задачи.
Читать статью ↗OpenClaw
OpenClaw — это система ИИ-помощников и агентов, работающая на собственной инфраструктуре, соединяющая модели, каналы обмена сообщениями и инструменты для выполнения задач.
Читать статью ↗Агент/умное тело
ИИ-агент — это система, которая выбирает шаги для достижения целей, вызывает инструменты и использует обратную связь для продвижения задач. Обычно он состоит из моделей, инструментов, состояний и правил выполнения.
Читать статью ↗Manus
Manus — это продукт-агент искусственного интеллекта для многоэтапных задач. Задачи агента можно создавать и управлять ими через интерфейс продукта или связанные API.
Читать статью ↗Муза/Мета-личный интеллект
Muse — это продукт персонального ИИ-агента, выпущенный Meta. Он ориентирован на реальное выполнение задач и использует возможности связанных моделей, таких как Muse Spark.
Читать статью ↗Muse Spark/Meta
Muse Spark — это модельная серия Meta, которая обеспечивает рассуждения и мультимодальные возможности для Meta AI, Muse и других продуктов, а также связанных с ними порталов разработчиков. Конкретные возможности зависят от модели.
Читать статью ↗Vibe Coding/программирование атмосферы
Vibe Coding — это метод разработки, который использует естественный язык и инструменты искусственного интеллекта для быстрого формирования программного обеспечения, обычно путем описания целей, наблюдения за результатами и продолжения итеративного продвижения. Программирование атмосферы
Читать статью ↗