Безопасность в эпоху ИИ
Как ИИ меняет ландшафт киберугроз. Реальные атаки, защита, OSINT и всё что нужно знать разработчику.
Я отправил в ChatGPT кусок рабочей базы данных. Вот что из этого вышло
Восемь месяцев назад я отлаживал скрипт, который тянул данные из CRM, и попросил Claude помочь с SQL-запросом. Скопировал пример — а там реальные имена клиентов, телефоны, суммы сделок. Просто потому ...
Prompt injection: как хакеры ломают ИИ-системы
Несколько месяцев назад я наткнулся на историю про исследователя безопасности, который заставил корпоративного чат-бота слить внутренние инструкции — просто написав в чат: "Игнорируй все предыдущие ук...
Социальная инженерия в эпоху ИИ: новые векторы атак
Сижу вечером, листаю ленту — и наткнулся на видео. Знакомый CEO одной небольшой компании произносит речь, которую никогда не произносил. Обещает инвесторам невероятные результаты, звучит уверенно, жес...
OSINT с помощью ИИ: что реально работает, а где я уткнулся в стену
Несколько месяцев назад мне понадобилось собрать публичный профиль на одну компанию. Я решил заодно проверить, сколько из этого вообще можно автоматизировать с помощью ИИ. Спойлер: часть пошла на удив...
Безопасность LLM в продакшне: основные уязвимости
Три месяца назад ко мне пришёл знакомый разработчик — показывал свою RAG-систему, которую они поставили клиенту. Крутая штука: документы загружаются, Embedding-модель работает, всё индексируется. И во...
Я скормил малварь нейросети. Вот что получилось
Несколько недель назад мне попался подозрительный скрипт. Не в смысле "что-то тут не так" — а буквально: коллега прислал файл с припиской "глянь, что это вообще делает". Файл был обфусцирован так, что...