Владимир Селеверстов

Интересуюсь NLP и Deep Learning

Как устроена нейросеть BERT от Google

BERT — нейросетевая модель-трансформер от Google, на которой сегодня строится большинство инструментов автоматической обработки языка. Модель появилась в начале 2018-го,…

09.06.2021

Как работает GPT-2 и в чем его особенности

Все слышали о GPT-3, которая умеет сочинять стихи и прозу, разгадывать анаграммы, переводить, отвечать на вопросы по прочитанному тексту и…

11.12.2020

Нейросети-трансформеры изнутри: как работает декодер

Мы уже рассказывали, как работают нейросети-трансформеры — самая популярная и успешная нейросетевая архитектура наших дней. Мы подробно разобрались, как нейросеть-трансформер…

27.11.2020

Как вычислить TF-IDF?

Интуитивно задачу TF-IDF решает каждый, кто делал запрос в Гугле: нужно догадаться, какие слова ярче всего характеризуют запрос и «спросить»…

18.11.2020

Как работают трансформеры — крутейшие нейросети наших дней

Трансформер — самая модная сегодня нейросетевая архитектура. Она появилась в 2017 и перевернула всю обработку языка машинами. Мы расскажем о…

12.11.2020

Внимание — все, что вам нужно: как работает attention в нейросетях

«Системный Блокъ» добрался до самых горячих технологий в мире современного глубокого обучения. Сегодня рассказываем о механизме внимания, на котором работают…

24.06.2020

Мама мыла LSTM: как устроены рекуррентные нейросети с долгой краткосрочной памятью

Крафтовый техно-лонгрид издания Системный Блокъ, в котором мы разбираем по винтикам одну из самых ходовых технологий в современной компьютерной лингвистике…

17.06.2020

Шпионаж и слежка 400 лет назад (и почему это важно знать сегодня)

По метаданным спецслужбы могут узнать о вас многое. Теперь это подтверждают еще и историки — при помощи сетевого анализа старинных…

07.02.2020

Как делать тематическое моделирование без боли и командной строки

«Системный Блокъ» уже рассказывал, как делать тематическое моделирование при помощи Mallet — классического инструмента выделения тем с опорой на алгоритм…

27.12.2019

Разбираем нейросети по частям: как работает градиентный спуск

Градиентный спуск — это способ поиска точек минимума или максимума в сложных функциях. Рассказываем, почему это так важно для обучения…

20.11.2019

Word2Vec: покажи мне свой контекст, и я скажу, кто ты

Разбираемся, как компьютеры понимают смысл наших текстов

23.08.2019

Как провести корпусное исследование? Помогите!

Рассказываем, что такое mystem и antconc, для чего они нужны, и как ими пользоваться

06.08.2019

Как понять, о чем текст, не читая его?

Что такое тематическое моделирование и как оно работает

05.07.2019

Может ли машина видеть так же, как человек?

Как Тесла с автопилотом распознает объекты на дороге на видео в реальном времени и как это удается смартфону, когда он…

21.06.2019

Как посмотреть на мир глазами нейросетей

Обученная нейросеть может точно предсказать цену дома по фотографии. Но как она это делает? Мы залезли «под капот» искусственному интеллекту…

04.06.2019

Как работают фильтры в Инстаграме: устройство свёрточных нейросетей

Разбираемся в том, как устроено компьютерное зрение, что такое ядро свертки — и при чем тут фильтры в Инстаграме

03.06.2019

Как работает статистический перевод по фразам?

Разбираемся, как научиться переводить, не зная ни одного языка

27.05.2019

Искусственный интеллект рисует карикатуры

Искусственный интеллект бросает вызов художникам-карикатуристам!

06.05.2019

Пушкин, терминатор и звездолет

Тестируем семантический поисковик по стихам великого русского поэта — и ловим кайф

18.02.2019

Как работает нейросеть

Объясняем нейронные сети — без сложных формул

29.11.2018

Хакнуть мозг: 10 нейротехнологий для апгрейда головы

О перспективных нейротехнологиях и новых возможностях, которые они открывают

05.11.2018