Адаптація великих мовних моделей для створення чат-ботів з контекстною підтримкою

Abstract

Магістерська робота «Адаптація великих мовних моделей для створення чат-ботів з контекстною підтримкою» є комплексним дослідженням методів адаптації великих мовних моделей в умовах обмежених технологічних ресурсів, зосередженим на розробці практичних діалогових систем із множинними спеціалізованими агентами. У роботі здійснено широкий огляд літератури та теоретичних підходів до вивчення великих мовних моделей, який спрямований на визначення їхньої ролі у створенні інтелектуальних діалогових систем. Висвітлено та проаналізовано ключові аспекти, повʼязані з архітектурою трансформерів, механізмами навчання та методами оптимізації моделей, а також виявлено їхні функціональні особливості в контексті створення чат-ботів з контекстною підтримкою. Основним завданням дослідження було розроблення практичної багатоагентної системи на платформі Telegram з використанням low-code підходів, що вдалося реалізувати через проектування модульної архітектури з розподілом ролей між спеціалізованими агентами. В роботі також проведено порівняльний аналіз різних архітектурних підходів до побудови великих мовних моделей, визначено оптимальні методи управління контекстною інформацією та розроблено методику оцінювання якості діалогових систем. Отримані результати відкривають нові погляди на використання великих мовних моделей у розробці ресурсоефективних чат-ботів та розкривають їхні важливі функціональні аспекти. Робота є актуальним внеском у компʼютерну лінгвістику та штучний інтелект, особливо в контексті практичного застосування великих мовних моделей для бізнесу та освітніх закладів.