Cursor, Copilot, агенты, код с помощью ИИ

Был у меня pet-проект — небольшой сайт с заметками, которые я копил года три. Обычный текстовый поиск там работал, но работал плохо: ищешь "как настроить задержку между запросами" — находишь заметки г...

Я долго откладывал это. Запустить модель локально — не проблема, Ollama справляется за пять минут. Но когда понадобилось выставить её как нормальный API-эндпоинт с авторизацией и TLS, я обнаружил, что...

Пока я разбирался с одним обновлением, вышло три следующих. Наверное, это и есть главное ощущение от работы с AI-инструментами прямо сейчас — ты физически не успеваешь за темпом. Поэтому собрал в одно...

Всё началось с простой задачи — хранить эмбеддинги. Звучит несложно. Но я потратил недели три, прежде чем понял: выбор базы — это не технический вопрос. Это вопрос о том, чего именно ты хочешь от сист...

На прошлой неделе я полдня потратил на то, чтобы научить Claude работать с моей базой данных напрямую. Не через копипаст SQL-запросов в чат, а по-настоящему — чтобы он сам мог читать схему, выполнять ...

Месяц назад у меня сломался чат-бот техподдержки. Клиенты начали присылать скриншоты, на которых бот уверенно рекомендовал полностью удалить базу данных для "оптимизации". Я открыл код, прошёлся по те...

Месяц назад мне пришёл счёт от OpenAI на сумму, которую я не ожидал. Не катастрофа, но достаточно неприятно, чтобы сесть и разобраться — куда конкретно утекают токены. Оказалось, я делал несколько оче...

На прошлой неделе коллега спросил: "Зачем вообще файнтюнить модель, если можно нормальный промпт написать?" Я задумался. Потом посмотрел на свои эксперименты за последние полгода — где-то файнтюнил, г...

Несколько месяцев назад я решил, что хватит гонять чувствительные запросы через OpenAI. Не потому что параноик — просто часть задач касалась внутренних данных, и платить за каждый токен при этом как-т...

Месяца три назад я затеял небольшой проект — чат-бот, который отвечает на вопросы по внутренней документации. Задача классическая, решений море. Полез в интернет и сразу наткнулся на один и тот же спо...

На прошлой неделе коллега попросил помочь с одной задачей. Его команда запилила чат-бота на GPT-4 — вроде всё работает, пользователи довольны. Но буквально на третий день кто-то спросил бота про скидк...

Месяца три назад я решил наконец разобраться с этим нормально. До этого пользовался Copilot по работе, Cursor — для личных проектов, и как-то не задумывался, почему именно так сложилось. А потом колле...

Несколько месяцев назад мне понадобился чат-бот, который держит контекст разговора и не начинает галлюцинировать на третьем сообщении. Начал с OpenAI, застрял на странных ответах, и в итоге переехал н...

На прошлой неделе коллега написал в чат: «Ребята, мы на LlamaIndex переезжаем. Надо обновить документацию». Я спросил — почему? Он пожал плечами: «Ну все так делают». Классика. Давайте разберёмся, кто...

Несколько недель назад мне понадобилось сделать простого бота для обработки входящих вопросов — что-то вроде первой линии поддержки, которая отвечает на типовые запросы и не заставляет человека ждать....

В воскресенье вечером дописывал бота. Бот должен был брать данные из Notion, тянуть их в Telegram-канал, а потом ещё отвечать на вопросы менеджеров. Всё стандартное, казалось бы. Но каждый раз, когда ...

Когда я начал строить первый RAG-пайплайн, потратил, наверное, дня три на выбор векторной базы. Открывал документацию, читал бенчмарки, закрывал. Потом снова открывал. В итоге поставил Pinecone — пото...

На прошлой неделе я чуть не выпустил в прод чат-бота, который отлично проходил все unit-тесты и разваливался на реальных пользователях за первый час. Спрашивал дату рождения, а в ответ получал рецепт ...

Сижу как-то ночью, кормлю LLM-ку кусками документации и думаю: а ведь полгода назад я бы даже не поверил, что это будет моя рабочая рутина. Тогда я считал, что большие языковые модели — это такая штук...

Пару месяцев назад я перетащил пару своих поделок с API ChatGPT на свою инфраструктуру. Причина простая: один проект — внутренний справочник для редакции, дёргать OpenAI ради него дорого и бессмысленн...

За год работы с LLM я упирался в одну и ту же стену — модель выдумывает детали. Буквально. Спрашиваю: "Как настроить миграцию в нашем проекте?" — а она выдаёт правдоподобную чушь с уверенностью академ...

Месяц назад я решил, что хватит гонять все запросы через OpenAI. Не из принципа — просто накопилось: то лимиты, то задержки, то очередной раунд повышения цен. Взял старый сервер с видеокартой, которая...