| Оригинал (Original) | |||||
|---|---|---|---|---|---|
| Автори: Стойкова, С. Г. Заглавие: Платформа за локално обучение на големи езикови модели Ключови думи: големи езикови модели, информационни системи за управление, Абстракт: Изследването представя разработена платформа, предназначена за локално обучение и инференция на популярни големи езикови модели (LLMs), в отговор на нарастващата нужда от решения, които запазват поверителността на използваните за обучение данни. Платформата позволява на изследователи и разработчици да осъществяват допълнително обучение на базовите модели върху локално съхранявани и обработвани данни посредством модулна софтуерна архитектура. Платформата поддържа широк спектър от модели и задачи, като предлага лесна интеграция с съществуващи ML процеси и инструменти. Резултатите от тестовете показват конкурентна производителност по отношение на латентност и изчислителни ресурси в сравнение с облачни алтернативи. Чрез децентрализация на разработката и инференцията на модели, платформата дава възможност на институциите да запазят суверенитета върху данните, да намалят оперативните разходи и да допринесат за устойчиви практики в областта на изкуствения интелект. Библиография Издание
Издателските права се държат от Съюз по автоматика и информатика „Джон Атанасов” Пълен текст на публикацията | Autors: Stoykova, S. G. Title: Platform for local fine-tuning of Large Language Models Keywords: large language models, management information systems, artificial intelligence, machine learning, local fine-tuning. Abstract: The study presents a platform designed for local training and inference of popular large language models (LLMs), addressing the growing need for solutions that preserve the privacy of training data. The platform enables researchers and developers to further fine-tune base models using locally stored and processed data through a modular software architecture. It supports a wide range of models and tasks, offering seamless integration with existing machine learning workflows and tools. Benchmark results demonstrate competitive performance in terms of latency, throughput, and resource utilization compared to cloud-based alternatives. By decentralizing model development and inference, the platform empowers institutions to maintain data sovereignty, reduce operational costs, and promote sustainable practices in the field of artificial intelligence. References Issue
Copyright Съюз по автоматика и информатика „Джон Атанасов” Full text of the publication |
Вид: публикация в международен форум, публикация в реферирано издание, индексирана в национален референтен списък
