Третье поколение генеративных языковых моделей GPТ. Значительно больше GPT-2, умеет решать новые задачи без обучения
Год выпуска: 2021
Описание
Третье поколеник языковых моделей GPT (Generative Pre-training Transformer). Ключевые изменения – увеличение размера модели и размера обучающей выборки. За счёт этого модель ещё лучше решает задачи без дообучения, либо с дообучением на очень ограниченном количестве данных.
Примеры использования:
Основа для решения большиства задач автоматической обработки языка
Нововведения
Количество параметров: 175B
Компания Google представила много новых ИИ-продуктов, а модель GPT опровергла известную математическую гипотезу Пала Эрдёша — рассказываем, что произошло в мире ИИ за последнее время
Facebook* и Instagram* будут сканировать фото и видео, чтобы находить детей, которые скрыли свой возраст
Можно ли заниматься NLP, если при словах «производная» и «матрица» хочется закрыть ноутбук? Да — если изучать математику не абстрактно, а через реальные задачи. Объясняем, какие разделы действительно нужны джуну,…