Простая схема безопасности

  1. Назначьте владельца результата, прямо в правилах и промпте.
  2. Ограничьте действия агента, пусть он ищет, черновик пишет, таблицу заполняет, но не действует самовольно.
  3. Важные шаги обязательно подтверждает человек, особенно если они связаны с деньгами, правами или репутацией.
  4. Сохраняйте журнал, чтобы было видно задание, действия, итог и подтверждение.
  5. Давайте только минимальные доступы и отдельные тестовые права.
  6. Если что-то пошло не так, остановите агента, зафиксируйте ошибку и поправьте правила.

Для обычного пользователя это главный принцип: агент предлагает, человек отвечает. Так спокойнее и безопаснее, особенно когда вы работаете с ChatGPT, Gemini, Claude или Perplexity.

Бесплатный курс и материалы «Нейросети с нуля»: https://neurocode-school.ru/guides/neiroset-s-nulya

Работает в: ChatGPT, GigaChat, Алиса, Шедеврум