Исследователи Института интеллектуальных систем и искусственного интеллекта Назарбаев Университета представили новую языковую модель казахского языка ISSAI KAZ-LLM, разработанную на основе нейронной сети. Эта модель является основой для казахского аналога GPT и открывает новые возможности для использования искусственного интеллекта в стране.
KAZ-LLM может быть использована в различных сферах, включая перевод казахского языка, генерацию контента и обработку больших объемов текстов. Модель адаптирована к многоязычному и мультикультурному контексту Казахстана и поддерживает казахский, русский и английский языки, а также турецкий. Это позволяет устранить языковые барьеры и развивать генеративный искусственный интеллект для языков с ограниченными ресурсами.
Команда исследователей обработала более 150 миллиардов токенов, что обеспечило высокую надежность работы модели. Уровень ее обучения соответствует мировым стандартам, что позволяет ей конкурировать с ведущими разработками в области искусственного интеллекта.
Проект не только создает передовой инструмент для работы с языком, но и способствует развитию местных IT-талантов, укрепляя потенциал национального искусственного интеллекта. Участие казахстанских исследователей и сотрудничество с ведущими институтами позволили создать адаптированные инструменты и наборы данных для казахского языка.
Проект, финансируемый эндаумент-фондом Назарбаев Университета и НИШ, стартовал в апреле этого года. Данные для модели были собраны из открытых источников, включая казахские веб-сайты и новостные статьи, а также данные, предоставленные различными организациями.
Директор ISSAI, профессор Хусейн Атакан Варол, отметил, что создание этой модели подчеркивает стремление Казахстана к инновациям и развитию собственной технологической экосистемы. Команда разработала две версии KAZ-LLM с 8 и 70 миллиардами параметров, оптимизированные для работы на высокопроизводительных системах и устройствах с ограниченными ресурсами. Модели доступны для некоммерческого использования на платформе Hugging Face, что способствует международному сотрудничеству в области науки и исследований.
