| DC Field | Value | Language |
|---|
| dc.contributor.author | Демидова, Л. А. | - |
| dc.contributor.author | Морошкин, Н. А. | - |
| dc.coverage.spatial | Минск | en_US |
| dc.date.accessioned | 2024-03-21T12:47:50Z | - |
| dc.date.available | 2024-03-21T12:47:50Z | - |
| dc.date.issued | 2024 | - |
| dc.identifier.citation | Демидова, Л. А. С Обучение вопросно-ответной нейросетевой модели на базе архитектуры модели LLaVA 1.5 с энкодером Saiga Mistral 7b и алгоритма низкоранговой адаптации LoRA = Training a question and answering neural network model based on LLaVA 1.5 model architecture with Saiga Mistral 7b encoder and low-rank adaptation algorithm LoRA / Л. А. Демидова, Н. А. Морошкин // BIG DATA и анализ высокого уровня = BIG DATA and Advanced Analytics : сборник научных статей X Международной научно-практической конференции, Минск, 13 марта 2024 г. : в 2 ч. Ч. 2 / Белорусский государственный университет информатики и радиоэлектроники ; редкол.: В. А. Богуш [и др.]. – Минск, 2024. – С. 401–407. | en_US |
| dc.identifier.uri | https://libeldoc.bsuir.by/handle/123456789/54881 | - |
| dc.description.abstract | В данной работе реализован алгоритм обучения визуальной вопросно-ответной
нейросетевой модели на базе архитектуры нейросетевой модели LLaVA 1.5 с использованием текстового
энкодера Mistral 7b, позволяющего улучшить результаты работы модели в задаче визуального вопросно- ответного моделирования и алгоритма низкоранговой адаптации LoRA, позволяющего ускорить процесс
обучения модели. Показано, что задача вопросно-ответного моделирования может быть решена нейросетевыми
моделями с использованием больших языковых моделей, описана методика ускорения обучения таких
моделей. Проведена оценка эффективности разработанной модели и показаны общие аспекты обучения
вопросно-ответных моделей на наиболее популярных вопросно-ответных наборах данных. | en_US |
| dc.language.iso | ru | en_US |
| dc.publisher | БГУИР | en_US |
| dc.subject | материалы конференций | en_US |
| dc.subject | нейросетевые модели | en_US |
| dc.subject | вопросно-ответное моделирование | en_US |
| dc.subject | технология LoRA | en_US |
| dc.title | Обучение вопросно-ответной нейросетевой модели на базе архитектуры модели LLaVA 1.5 с энкодером Saiga Mistral 7b и алгоритма низкоранговой адаптации LoRA | en_US |
| dc.title.alternative | Training a question and answering neural network model based on LLaVA 1.5 model architecture with Saiga Mistral 7b encoder and low-rank adaptation algorithm LoRA | en_US |
| dc.type | Article | en_US |
| local.description.annotation | In this work, a training algorithm for a visual question-answer neural network model
is implemented based on the structure of the LLaVA 1.5 neural network model using the Mistral 7b text
encoder, which allows improving the model’s performance in the task of visual question-answer
modeling and the LoRA low-rank adaptation algorithm, which speeds up the model learning process . It is shown that the problem of question-answer modeling can be solved by neural network models
using large language models, and a technique for accelerating the training of such models is described. The effectiveness of the algorithmic model is assessed and general aspects of training question-answer
models on the most popular sets of question-answer data are shown. | en_US |
| Appears in Collections: | BIG DATA and Advanced Analytics = BIG DATA и анализ высокого уровня : сборник научных статей : в 2 ч. (2024)
|
