Важно вовремя заметить такие сигналы. Если чат-бот уверенно выдумывает факты, не признаёт неопределённость, получает конфиденциальные данные или подменяет решение человека, ему нужен не новый вопрос, а пауза и проверка.
5 признаков риска
- Уверенно выдумывает факты, законы, исследования, цифры и ссылки.
- Не признаёт неопределённость в свежих ценах, правилах и событиях.
- Получает паспортные данные, мединформацию, пароли и договоры.
- Решает вместо человека там, где цена ошибки очень высока.
- Даёт красивый текст без проверяемых выводов и следующих шагов.
Как проверить ответ
- Сформулируйте конкретную задачу и дату актуальности.
- Попросите отделить факты от предположений.
- Потребуйте первичные источники и расчёты.
- Откройте источники и проверьте, что они подтверждают вывод.
- Сверьте спорные места с официальным документом или специалистом.
- Не отправляйте ответ дальше, пока не проверены цифры, имена, даты и персональные данные.
Если сомневаетесь, используйте ИИ для черновика, а финальное решение принимайте после проверки у человека или специалиста.
Бесплатный курс и материалы «Нейросети с нуля»: https://neurocode-school.ru/guides/neiroset-s-nulya
слайд 1
слайд 2
слайд 3
слайд 4
слайд 5
слайд 6
Работает в: ChatGPT, GigaChat, Алиса, Шедеврум