Опубликовано: 14.07.2026 | Источник: SecurityLab (RSS)

ИИ-помощники в дипломе: от угрозы до инструмента безопасности

В марте 2026 года SecurityLab опубликовал кейс, где злоумышленник использовал встроенный в браузер AI-ассистент как «транспорт» для украденных паролей — после отключения антивируса. Суть не в том, что ИИ стал хакером сам по себе. А в том, что он стал каналом для эксплуатации уязвимостей в интерфейсах, доверии к API и недостатках архитектуры. В дипломе это — не просто «тема», а реальный вызов: как проектировать системы, где ИИ — не только помощник, но и потенциальный вектор атаки.

Для выпускников ИТ-направлений это особенно актуально: современные проекты всё чаще включают LLM-интеграции (например, в чатах поддержки, в системах аналитики или в CI/CD-ботах). Если в дипломе вы не учтёте принципы secure-by-design, ваша работа может быть признана непрактичной — даже если технически корректна. Статья показывает, почему безопасность на этапе проектирования важнее, чем позже — когда уже «не хватает времени».

Почему это важно для ВКР?

Согласно анализу статьи, основная проблема — отсутствие границ между «пользовательским контекстом» и «системным исполнением». Когда ИИ получает доступ к сессиям, токенам, локальным файлам — он становится частью attack surface. Это перекликается с ISO/IEC 25010:2011, где «безопасность» — один из ключевых аспектов качества ПО. В дипломе вы можете показать, как архитектурные решения (например, микросервисы с межсервисным шифрованием, ограничение прав через RBAC) снижают риск такого сценария.

Темы ВКР, связанные со статьёй

Тема	Актуальность (по статье)	Цель	Задачи	Структура
Модели безопасности для ИИ-интеграций	Уязвимость в браузерном AI-ассистенте — пример того, как «доверие» к ИИ создаёт ложную безопасность	Предложить архитектуру, где ИИ работает в изолированной среде, а не в контексте пользовательского сеанса	1. Анализ существующих подходов 2. Проектирование модуля «AI-sandbox» 3. Тестирование на утечку данных 4. Оценка производительности	Гл.1: Теория (ISO/IEC 25010, NIST SP 800-53) Гл.2: Архитектура (схема, UML, диаграмма потоков) Гл.3: Метрики (RTO/RPO, TCO, % утечки)
CI/CD-боты и безопасность кода	В статье упоминается, что AI-ассистенты могут «забыть» очистить данные после использования — аналогично ботам, которые не проверяют коммиты на уязвимости	Создать автоматизированный процесс проверки кода ИИ-команд, который блокирует отправку «подозрительных» запросов	1. Интеграция с GitHub Actions 2. Разработка правила «анализа контекста» 3. Проверка на наличие токенов в комментариях 4. Логирование и аудит	Гл.1: Обзор CI/CD и OpenTelemetry Гл.2: Проектирование pipeline с security gate Гл.3: Нагрузочное тестирование, RTO/RPO
Архитектура «zero-trust» для ИИ-интерфейсов	Статья демонстрирует, как отключение антивируса позволило ИИ «перехватить» сессию — то есть, система работала по принципу «доверяй, но проверяй»	Показать, как внедрить zero-trust в ИИ-инфраструктуру без потери производительности	1. Определение зон доступа 2. Реализация dynamic policy enforcement 3. Интеграция с Keycloak/OAuth2 4. Демонстрация на симуляторе	Гл.1: Концепция zero-trust (GOST 34.602-89) Гл.2: Архитектурная схема + UML Гл.3: Результаты тестирования (метрики безопасности)

Аналитическая глава: как выбрать стек, чтобы не повторить ошибку из статьи

В статье говорится, что злоумышленник использовал browser.runtime.sendMessage() — стандартный API Chrome — чтобы передавать данные из расширения в внешний сервер. Это не ошибка кода. Это ошибка архитектурного дизайна: нет разделения между «интерфейсом пользователя» и «вычислительной логикой».

В вашей аналитической главе можно сравнить три подхода:

Прямая интеграция (LLM в браузере → прямой вызов API): высокий риск утечки, но низкая задержка. Подходит для внутренних инструментов, где контролируется окружение.
API-шлюз (браузер → REST/GRPC → сервис ИИ): добавляет слой контроля, позволяет применять JWT, rate limiting, logging. Требует больше времени на развертывание.
Изолированная среда (браузер → sandboxed worker → service): самый безопасный, но требует работы с WebAssembly, Worker Threads, и сложной синхронизации.

Обоснуйте выбор через матрицу рисков (например, по шкале NIST SP 800-53), где по оси X — «уровень доверия», по Y — «объём обрабатываемых данных». Пример:

Например, для системы "Чат-ассистент для HR-процессов":
- Данные: ФИО, email, ID сотрудника (уровень чувствительности: высокий)
- Контекст: внутренняя сеть, ограниченный доступ
→ рекомендовано: API-шлюз + OAuth2 + мониторинг OpenTelemetry

Проектная часть: как реализовать безопасную ИИ-интеграцию

Ваша архитектура должна включать:

Слой «контроля контекста» — например, в Node.js-сервисе проверка, что запрос пришёл от авторизованного пользователя, а не от расширения в браузере.
Шифрование на уровне поля — используйте Google Tink или AES-GCM для паролей внутри сообщений ИИ.
Логирование с метками — каждое обращение к ИИ должно фиксироваться с user_id, session_id и timestamp. Для этого подойдёт OpenTelemetry.

Пример UML-диаграммы (можно вставить в диплом как рисунок 2.1):

┌─────────────┐     ┌───────────────────┐     ┌──────────────────────┐
│   Браузер    │────▶│  API-шлюз (REST)  │────▶│  Сервис ИИ (LLM)     │
└─────────────┘     └───────────────────┘     └──────────────────────┘
      ▲                   ▲                     ▲
      │                   │                     │
  [JWT]              [OAuth2]             [AES-шифрование]
      │                   │                     │
      └───────┬───────────┴───────────────┬───┘
              ▼                                   ▼
        [Проверка контекста]            [Мониторинг OpenTelemetry]

Тестирование и метрики: как измерить безопасность

В статье не указано, какие метрики были использованы для обнаружения инцидента. Но в дипломе вы можете предложить:

RTO (Recovery Time Objective) — сколько времени нужно, чтобы восстановить работу после «утечки» ИИ-ассистента;
RPO (Recovery Point Objective) — сколько данных может быть потеряно (например, за последние 5 минут);
Rate-limiting per session — сколько запросов может сделать один пользователь за 10 секунд;
Метрика «ускорения утечки» — время от начала атаки до обнаружения (в секундах).

Для нагрузочного тестирования используйте Gatling или BlazeMeter, чтобы протестировать, как система ведёт себя при 1000+ запросов в секунду от одного пользователя.

Чему вы научитесь, делая эту тему

Как обосновывать выбор технологий через матрицы рисков и стандарты (ISO/IEC 25010, ГОСТ 34.602-89)
Как проектировать архитектуру с нуля — не просто «добавить антивирус», а «разделить ответственность» между компонентами
Как писать технические документы с учётом требований к безопасности (например, ТЗ по ГОСТу, описание сценариев угроз)
Как формировать отчётность — не только «работает», но и «как быстро обнаружит атаку»

Типичные ошибки студентов

Ошибка 1: «Я добавил защиту через CORS, потому что в статье было про браузер». ❌ Безопасность не в CORS — в контроле контекста и авторизации. CORS — лишь фильтр на уровне HTTP, а не механизм защиты от утечек. Ошибка 2: «Все токены я хранил в localStorage». ❌ localStorage — не безопасно даже для обычных приложений. В дипломе это будет выглядеть как «недостаток архитектуры» — не «ошибка программирования». Ошибка 3: «Я не сделал логирование, потому что “это не критично”». ❌ Без логов — невозможно рассчитать RTO/RPO. В дипломе это приведёт к «недостаточной обоснованности».

FAQ: часто задаваемые вопросы

Сложно ли реализовать «AI-sandbox» в дипломе?

Нет — если вы используете готовые фреймворки: например, Sandboxed API для Chrome Extension, или VM Module в Node.js. Главное — не писать всё с нуля, а обосновать выбор через сравнение с другими вариантами.

Требуется ли писать код в дипломе? Какой объём?

Да — хотя бы 10–15% от общего объёма. Например, 2–3 функции в Python/Node.js, которые демонстрируют контроль контекста или шифрование. Важно — не просто «запустить LLM», а «защитить его от утечки».

Как оформить UML-диаграммы? Где взять тестовые данные?

Для UML используйте draw.io или PlantUML. Тестовые данные — генерируйте через Faker (Python) или faker.js. Не забудьте указать, что они не реальные — это обязательное условие для безопасности.

Где брать метрики для расчётов?

Для RTO/RPO — используйте NVD и CISA ICS для типовых сценариев. Для производительности — Prometheus + Grafana. В дипломе — не просто «мы посчитали», а «мы применили методологию NIST SP 800-53».

Чек-лист «Что проверить перед сдачей»

✅ Есть ли матрица рисков (по ISO/IEC 25010 / NIST SP 800-53)?
✅ Архитектурная схема содержит слой «контроля контекста» (не просто «API»)
✅ Все метрики (RTO/RPO, TCO, % утечки) — сформулированы и обоснованы
✅ ТЗ соответствует ГОСТ 34.602-89 (в частности, раздел «Безопасность»)
✅ Код — не более 15% от объёма, но с акцентом на безопасность (не на скорость)
✅ Диаграммы — в формате PNG/SVG, с подписями и ссылкой на источник

Материал подготовлен экспертами компании IT-Architect.ru. Мы помогаем студентам с 2010 года. Если вам нужна помощь в разработке темы или оформлении работы, наши специалисты готовы подсказать.

Последнее обновление: 2026-07-14

Если вы хотите, чтобы мы помогли с выбором темы, разработкой архитектуры или проверкой диплома — у нас есть бесплатная консультация на 120 минут. Напишите нам, и мы подскажем, как превратить этот кейс в идеальную ВКР.

Источник: Отключили антивирус и украли пароли. ИИ-помощники постепенно превращаются в хакеров (опубликовано 2026-03-13)