О чём рассказывается в презентации:
Презентация посвящена проблеме галлюцинаций в LLM и их влиянию на образовательные приложения. Рассматриваются шесть типов ошибок, возникающих при генерации контента, а также риски для академической целостности. Важным аспектом является внедрение методов верификации и архитектур RAG для повышения точности информации, что критически необходимо в условиях массового использования ИИ в обучении.
Оглавление
Галлюцинации в LLM: оценка и коррекция для образовательных приложений
Галлюцинации являются фундаментальным свойством вероятностных моделей
Классификация сбоев: шесть типов галлюцинаций в образовательной среде
Риски для академической целостности и когнитивного развития
Разрыв между массовым использованием ИИ и навыками верификации
Ограничения LLM как независимых инструментов оценки знаний
Архитектурный подход: RAG как первичная защита от вымысла
Внедрение контуров проверки в реальном времени (Runtime Verification)
Педагогические протоколы верификации как инструмент обучения
Проектирование промптов для повышения объективности вывода
Переход к парадигме верифицируемого искусственного интеллекта
Итоговые тезисы
Спасибо за внимание
