SENSE Lab Понять, чтобы управлять К курсу

ИИ для руководителя · День 1

Как LLM
пишет ответ

Модель выбирает токен, дописывает его и повторяет тот же шаг. Так работает петля генерации. А с каждым новым вопросом она читает переписку с начала.

01 / Внутри одного ответа

Модель продолжает текст

Запрос и уже написанный ответ определяют, что может появиться дальше. Выбрать токен, дописать его и повторить — это петля генерации.

Миссия SENSE Lab0 / 55 токенов
  1. 1 Учесть контекст
  2. 2 Рассчитать варианты
  3. 3 Выбрать токен
  4. 4 Дописать и повторить
Контекст этого шага
КАССЕТА
Текст миссии уже передан модели

Мы структурируем знание и мышление на стыке образования, науки и индустрии, чтобы создавать инновации, которые служат обществу и становятся частью повседневной жизни.

ЗАПРОС

Покажи миссию SENSE Lab.

УЖЕ НАПИСАНО

Ответ пока пуст

На следующем шаге этот текст станет длиннее.

Языковая
модель

Усвоенные связи
+ текущий контекст

Что может быть дальше

Учебные вероятности · ␣ означает пробел.

Ожидаем расчёт
Ответ растёт здесь
Нажмите «Запустить» или пройдите цикл по шагам.
0
Модель получает кассету с миссией и ваш запрос. Посмотрим, как она составит ответ.

Токен — фрагмент текста. Им может быть слово, часть слова или знак препинания. Здесь 55 настоящих токенов одного токенизатора: даже «Мы» разбито на «М» и «ы».

Почему может выпасть другой вариант?

При случайном выборе больший вес даёт больше шансов, но не гарантию. Выберем следующий токен 100 раз с теми же учебными вероятностями и сравним результаты.

Этот опыт не меняет миссию. Основная анимация воспроизводит её точный текст по заданному сценарию.

Так появляется один ответ.
А что происходит, когда вы задаёте следующий вопрос?

02 / Иллюзия беседы

Разговор идёт вперёд.
Модель — снова с начала.

Один запуск — четыре вопроса. Смотрите, как растёт история, как в неё возвращаются ответы и что происходит, когда места уже не хватает.

4 вопроса · один запуск
  1. 1 Начало
  2. 2 Повтор
  3. 3 Рост
  4. 4 Предел
ЗА ЭКРАНОМ

Снова читаем переписку

С · системный промптК · кассетаВ · вопросО · ответ
↓ С самого началаОкно контекста
С
К
История на входе + место для нового ответа│ Предел окна

Нажмите на блок, чтобы остановиться и прочитать. Кнопка «Продолжить» — сверху.

Что находится в выделенном блоке

Кассета — заранее подготовленные сведения. Здесь это миссия SENSE Lab. Вместе с инструкциями и вашим вопросом она входит в контекст.

Новый ответ+0 токенов

Здесь появится ответ, токен за токеном.

Языковая
модель
Следующий токен…
Тот же цикл, что выше ↑
Четыре вопроса. Один повторяющийся механизм.

Запустите беседу. Вопросы сменятся сами; каждый новый ответ снова начнётся с начала доступной записи.

Мы видим иллюзию диалога.
Модель каждый раз читает всё с начала.

Главная мысль
первого дня