Опубликовано: 05.09.2026 | Источник: MIT Technology Review

Поддомен: **AI/ML** Роль: **Data/ML-инженер** Схема структуры: **B** Primary keyword: «Разработка интеллектуальных агентов в ВКР с учётом этических и регуляторных ограничений» LSI: «этика AGI в дипломе», «метрики качества ML-модели», «архитектура ИИ-сервиса», «прозрачность алгоритмов», «регулирование ИИ», «наблюдаемость ML-системы», «развертывание модели в Kubernetes». Вопросы студентов: «Как выбрать узкую тему по ИИ», «Где взять данные для обучения», «Что делать, если метрики модели недостаточно высокие», «Как оформить архитектуру по ГОСТ», «Как встроить этический контекст в техническую главу». Сущности: ГОСТ 34.601, ISO/IEC 25010, UML/C4, OWASP, Kubernetes, OpenTelemetry.

Этика AGI и ИИ-регулирование в дипломной работе: как превратить тренд в защищаемый ML-проект

В конце марта 2026 года Белый дом представил новую ИИ-политику, а в Сан-Франциско зоозащитники вместе с инженерами обсуждали, сможет ли AGI облегчить страдания животных. Для студента ИТ-специальности это не просто новостной повод, а маркер того, куда движется индустрия: искусственный интеллект перестал быть чисто технической задачей. От выпускника всё чаще ждут, что он продумает не только алгоритм, но и его этические ограничения, наблюдаемость и соответствие новым регламентам. В статье объясняю, как без воды встроить эту повестку в ВКР: от формулировки актуальности до метрик и диаграмм.

Почему статья даёт легитимный повод для актуальности

Частая ошибка студентов — открывать введение словами «в современном мире». Зато сильная актуальность часто рождается из конкретного события: «журналисты MIT Technology Review пишут, что сотрудники AI-лабораторий начнут массово финансировать зоозащиту, а регуляторы США отказываются от жёсткого контроля». Это даёт возможность показать, что вы видите связь между трендом и исследовательской задачей. Согласитесь, фраза из статьи “AI may develop the capacity to suffer” — это уже готовый вход в дискуссию о том, как проектировать безопасные агенты, а не просто «улучшать качество классификации».

Темы ВКР: от идеи до структуры

Предлагаю три прикладных направления. Выбирайте в зависимости от стека, которым уже владеете: NLP, CV или бэкенд для ML-сервисов.

Реализация: как «переплавить» новостной фон в технический проект

Предположим, вы выбрали вторую тему — модуль этических ограничений. Теперь коротко о том, что должно появиться в каждой главе.

Глава 1. Обоснование: от этики к требованиям

Начните не с философии, а с классификации рисков: что случится, если агент без ограничений выполнит действие? Здесь уместны стандарты ISO/IEC 25010 (функциональная пригодность, защищённость) и OWASP для веб-компонентов. Если ваша работа посвящена сервису с LLM, добавьте пункт про наблюдаемость: архитектурно это решается через OpenTelemetry. А вот ГОСТ 34.601 поможет оформить стадии проектирования автоматизированной системы.

Глава 2. Проектирование интеллектуального агента

Нарисуйте диаграмму вариантов использования, диаграмму классов и диаграмму последовательностей для сценария «запрос пользователя → проверка этичности → выполнение». В качестве альтернативы можно использовать C4: Context, Container, Component, Code. Такой подход сразу повышает «инженерность» диплома.

Пример кода для главы реализации:

class EthicalGuard:
    def __init__(self, policy: dict, risk_threshold: float = 0.7):
        self.policy = policy
        self.risk_threshold = risk_threshold

    def can_execute(self, action_name: str, risk_score: float, impact: str) -> bool:
        """
        Запрещает действия из хард-листа.
        Если влияние high и вероятность нежелательного исхода выше порога,
        действие тоже блокируется.
        """
        if action_name in self.policy.get("forbidden", []):
            return False

        if impact == "high" and risk_score > self.risk_threshold:
            return False

        verdict = "allowed" if self.policy.get("enabled", True) else "blocked"
        print(f"[Guard] {action_name}: risk={risk_score:.2f}, impact={impact} → {verdict}")
        return verdict == "allowed"

    def observe(self, action_name: str, risk_score: float):
        # Точка для OpenTelemetry: можно отправлять метрики в коллектор
        print(f"[Telemetry] action={action_name}, risk={risk_score:.3f}")

Этот фрагмент не просто «программа», а ответ на вопрос: как мы реализуем ограничения, продиктованные новостной повесткой?

Глава 3. Метрики и тестирование

Для агентов с LLM важно показать не только корректность ответов, но и производительность. Минимальный набор метрик:

• F1, Precision, Recall — если модуль принимает бинарные решения;
• p95 latency — на сколько выросло время ответа после добавления EthicalGuard;
• доля заблокированных деструктивных действий в тестовом наборе;
• пропускная способность при развёртывании в Kubernetes с горизонтальным масштабированием.

Также укажите, как контролировали перекос (bias) и что сделали с несбалансированным классом. В главе 3 должно быть минимум два эксперимента: «без защитного модуля» и «с модулем», чтобы выводы звучали честно.

Чему вы научитесь

• Превращать новостной тренд в обоснование актуальности без канцелярита.
• Строить архитектуру ИИ-сервиса по C4/UML и защищать её перед комиссией.
• Встраивать нормативные и этические ограничения в код.
• Считать качество модели через метрики, понятные не только разработчику, но и руководителю.
• Упаковывать результат в приложения: схемы, тексты политик, таблицы экспериментов.

Что чаще всего ломает защиту ВКР

FAQ

Можно ли взять за основу диплома анализ политики США в области ИИ, а не разработку?

Можно, но это больше подходит для реферата. В ИТ-ВКР обычно требуется практическая часть. Если хочется сделать аналитическую работу, добавьте небольшой прототип: например, скрипт, оценивающий соответствие модели пунктам политики. Так вы покажете, что умеете не только читать документы, но и проверять их выполнимость.

Где брать данные для экспериментов, если тема связана с животными?

Обратитесь к открытым датасетам: Animal Web, LILA BC, или к архивам лабораторий. Когда данных мало, используйте трансферное обучение и аугментацию. В крайнем случае соберите небольшой собственный датасет — 200–300 файлов достаточно для демонстрационной версии.

Что ответить, если комиссия спрашивает про ГОСТ?

Сошлитесь на ГОСТ 34.601 — этапы создания автоматизированной системы. У вас должны быть стадии «Разработка концепции», «Техническое задание», «Эскизный проект» и «Рабочая документация». В тексте работы полезно показать карту соответствия разделов этим этапам.

Как вписать умные слова типа OpenTelemetry, если я их не использовал?

Не вписывайте. Но честно добавьте в раздел перспектив развития: «предлагается улучшить наблюдаемость за счёт OpenTelemetry». Это покажет широту мышления, не преувеличивая опыт.

Чек-лист «Что проверить перед сдачей»

Источник: The Download: animal welfare gets AGI-pilled, and the White House unveils its AI policy (опубликовано 2026-03-23)