Когда мы говорим «ИИ» здесь — мы про большие языковые модели. Не база данных, не поисковик. Статистическая модель, которая выучила закономерности языка и знаний и предсказывает продолжение.
«Уважаемый ИИ, расскажи, что такое ИИ.» Да, так тоже можно — и это один из самых сильных приёмов в работе.
Две самые частые бытовые ситуации: «вышла новая модель, а я её не вижу» и «куда упёрлись мои лимиты».
Как правильно хранить контекст, чем он отличается от архива сообщений, и что такое скилы и субагенты.
Effort — уровень «усилия» модели. Сколько она думает и сколько токенов готова на это потратить.
Compact — сжатие истории разговора, когда контекст переполняется. Модель суммирует прошлое, чтобы освободить место и продолжить.