Трансформаторы в действии: Как они революционизируют обработку естественного языка

1 октября 2024 г.  на факультете физики, математики и информационных технологий в рамках реализации плана мероприятий в формате «Наука+»  кафедрой информатики, информационной безопасности и цифровой экономики была организована лекция «Трансформеры: революция в обработке естественного языка». В ходе мероприятия доцент кафедры информатики, информационной безопасности и цифровой экономики Мантусов А. Б. познакомил слушателей с  архитектурой трансформеров, с основными отличиями трансформеров от других архитектур что позволило студентам понять, как работают механизмы внимания, узнать о применении трансформеров в различных задачах NLP, осветил вопросы применения трансформеров, дал разъяснения по понятию позиционное кодирование, ответил на вопросы, такие как «Почему трансформерам необходимо позиционное кодирование», описал различные способы кодирования позиции токенов. Участники встречи узнали, как  трансформеры улучшили качество машинного перевода, а также, о таких преимуществах трансформеров как как универсальность применения в различных задачах NLP, масштабируемость для обработки больших объемов данных, глубокое понимание семантики текста, способность к рассуждениям и решению задач, требующих контекстного понимания, как высокое качество генерации текста, способность к творческому перефразированию и созданию новых текстов.

Подобные мероприятия проводятся с целью популяризации науки, привлечения внимания к достижениям в области искусственного интеллекта и показать, как они меняют наш мир, продемонстрировать потенциал трансформеров,  рассказать как трансформеры открывают новые возможности в области NLP и искусственного интеллекта в целом и вдохновить на дальнейшее изучение, поощрить слушателей углублять свои знания в этой области и проводить собственные исследования.

Кафедра информатики, информационной безопасности и цифровой экономики.