Как сделать безопаснее
- Определите одну узкую задачу, не доверяйте агенту управление магазином целиком.
- Уберите ФИО, телефон, адрес и номер заказа, замените их на обезличенные метки.
- Передавайте только то, что нужно для ответа, обычно это вопрос покупателя и характеристики товара.
- Дайте агенту отдельную учётную запись с доступом только к нужным разделам.
- Отключите автоматическую отправку, публикацию, возвраты и изменение цены без подтверждения человека.
- Проверьте сценарии с пустыми полями, вредными инструкциями и попытками выгрузить всю базу.
Если коротко, хороший ИИ-агент помогает вам работать быстрее, но не получает лишнюю власть над магазином и данными клиентов. Для стартa лучше начинать с одного чата или одной категории товаров, а потом расширять доступ.
Бесплатный курс и материалы «Нейросети с нуля»: https://neurocode-school.ru/guides/neiroset-s-nulya
Работает в: ChatGPT, GigaChat, Алиса, Шедеврум