OpenAI против китайского ИИ, новая open-source модель от Google и Mistral Small
OpenAI выступила за ужесточение доступа к чипам, экспортируемым из США, Google и Mistral обновили свои открытые модели — что произошло в мире ИИ за последнее время.
нейросети
Огромная GPT, новая модель от Anthropic и OCR от Mistral
Более человечная GPT-4.5, новая флагманская модель от Anthropic и OCR от Mistral — что произошло в мире ИИ за последнее время.
Подборка к 8 Марта: неравенство, женщины в DH и гендерная социолингвистика
В честь Международного женского дня мы собрали для вас подборку полезных и познавательных публикаций, в которых мы напоминаем о сферах, где все еще сохраняется неравенство, изучаем, чем занимаются DH-исследовательницы, и ищем различия между мужской и женской речью.
Какие языковые модели (LLM) хорошо пересказывают истории
Иногда сложно понять, что же хотел сказать автор своим сочинением, а пересказать текст кажется нереальной задачей — из-за необычной структуры повествования или при использовании разных рассказчиков. Как справляются с подобными задачами LLM? Ученые Колумбийского университета спросили у самих писателей.
Как можно улучшить ответы языковых моделей? Гайд по промтам
Можно ли повысить качество ответов языковых моделей с помощью более продуманных промтов? Как сделать так, чтобы ответы LLM следовали определенному формату? Как заставить модели объяснять свои ответы? Рассказываем о методах формулирования эффективных запросов к LLM в нашем материале.
Тест: угадайте, Путин или нейросеть
Мы попросили нейросети сгенерировать новогодние обращения Владимира Путина, стилизуя их под разные года и события. Пройдите тест и проверьте, сможете ли вы отличить настоящее обращение президента России от созданного нейросетью.
Как изучать наскальные изображения оленей Чукотки с помощью нейросетей
Петроглифы — небольшие древние наскальные изображения — часто сложно датировать и атрибутировать. При этом для некоторых рисунков может быть очень много однотипных образцов — например, таковы петроглифы с изображениями оленей в долине чукотской реки Пегтымель. Выпускница магистратуры Digital Humanities НИУ ВШЭ рассказывает, как можно классифицировать петроглифы по типам при помощи нейросети.
Новые модели от OpenAI, Mistral делает ИИ доступнее и запаздывающий Apple Intelligence
OpenAI представила модель, способную «рассуждать», француский стартап Mistral снизил цены на свои модели, Apple отстаёт в гонке за ИИ машинного обучения в смартфонах — что произошло за последнее время в мире ИИ.
Новые модели от OpenAI, Mistral и Meta*: дайджест новостей ИИ
OpenAI выпустила компактную дешёвую версию GPT-4, Meta* обновила семейство моделей LLama 3, релиз четырёх новых LLM от Mistral. Рассказываем, что произошло в мире ИИ за последние две недели.
Новая модель для дизайна белков, скорый выход самой большой LLama и FlashAttention 3
Llama 3 с 405 миллиардами параметров выйдет в конце июля. Компания EvolutionaryScale представила большую модель для дизайна белков. В главный блок всех языковых моделей на трансформерной архитектуре — блок внимания (attention) — добавили новые оптимизации. Рассказываем, что произошло в мире ИИ за последние две недели.
Филологи и программирование: подборка интервью «Системного Блока»
Лингвистика и программирование. Филология и программирование. Нужны ли они друг другу? Нужно ли гуманитариям вообще уметь программировать или же все учёные чётко делятся на физиков и лириков? «Системный Блокъ» считает, что их знания можно взболтать, но не смешивать. Читаем интервью «Системного Блока» о том, насколько важно современным гуманитариям знание Python и нейросетей.
Что такое RAG?
Что значит «языковая модель галлюцинирует»? Как сделать её ответы более точными и фактологически верными? Умеет ли нейросеть гуглить? Может ли нейросеть выдумывать несуществующие факты? Отвечаем в нашем материале о RAG (Retrieval Augmented Generation) — методе, позволяющем «подключать» языковые модели к внешним источникам информации.
Угадайте, что попросили сгенерировать нейросеть
Специально для вас мы попросили нейросети сгенерировать изображения. Пройдите тест и проверьте, сможете ли вы понять, результатом какого запроса является картинка перед вами.
Автономный ИИ-инженер и новое о Sora: дайджест новостей в мире искусственного интеллекта
Создатели Sora рассказали, откуда брали видео для обучения, но кое о чем умолчали. Компания Cohere — один из главных конкурентов OpenAI/ChatGPT — выпустила модель с 35 млрд параметров. Вышла сопоставимая с трансформерами RNN-модель EagleX — неужели рекуррентные нейросети рано хоронить? Рассказываем, что произошло в мире ИИ за прошедшую неделю
Глазами нейросети: мир как набор стереотипов
Миром управляют белые мужчины. Они же в основном работают врачами, юристами и судьями — хотя среди них иногда встречаются и белые женщины. Преступления совершают темнокожие парни, а женщины с афроамериканскими корнями готовят бургеры в забегаловках. Ну а если в ресторан зашел русский, то он непременно возьмет стопку водки. Именно так видит наш мир нейросеть Stable Diffusion. Алгоритмы искусственного интеллекта не только генерируют изображения или тексты, но и воспроизводят общественные стереотипы. Рассказываем, как и почему они это делают.
Тест «Художник или нейросеть»: отличите настоящую картину от сгенерированной
Кибер-арт постоянно противопоставляют классической живописи, но между ними намного больше общего, чем нам кажется. Сможете ли вы отличить работу нейросети от картины художника? Пройдите тест и узнайте, насколько хорошо вы распознаете картины, созданные алгоритмом
Китайская живопись и нейросеть: как машина даёт оценку картинам
Нейросеть научилась давать оценку картинам китайских художников, как профессиональный искусствовед. Рассказываем простыми словами, как это работает и причём здесь пятьдесят оттенков серого
Как дообучить языковую модель писать в стиле Достоевского
Как обучить нейросеть на своих данных? Какие бывают параметры обучения/генерации, и на что они влияют? Как оптимизировать процесс обучения, если нет видеокарты? Отвечаем на все эти вопросы в нашем туториале по файн-тюнингу ruGPT3 на текстах Достоевского.
Бот ChatGPT против человека и других роботов
Новости о развитии искусственного интеллекта попадают на первые полосы различных медиа, а про ChatGPT слышно из каждого утюга. При этом, различным моделям ИИ приходится конкурировать по степени «разумности» не только с человеком, но и между собой. Разбираемся с конкуренцией между моделями ИИ, между ИИ и человеком, преимуществами и недостатками бота ChatGPT и его аналогов, а также моральной ответственностью и человеческим снобизмом.
Что умеет GPT-4 — новая и самая совершенная языковая модель от OpenAI
Новая нейросеть семейства GPT не только точнее, надёжнее и безопаснее GPT-3 и ChatGPT. Еще она умеет работать с изображениями. Благодаря этому GPT-4 лучше понимает окружающий мир, а самое главное — способна объяснять мемы ¯\_(ツ)_/¯
Что такое transfer learning в обучении нейросетей
Как нейросеть, обученная под одну задачу, решает другую? Может ли она использовать свой «предыдущий опыт»? Почему это важно и почему корпорации спешат внедрить эту технологию? Рассказываем о популярном методе «переноса знаний» в машинном обучении на примерах языков, ягод и Достоевского.
Нейросети помогают историкам восстановить древние тексты
Модель Ithaca позволила повысить точность реставрационных работ почти в три раза: с 25% до 72%
Что такое нейросеть GPT-3 и зачем она нужна
Общение с чат-ботами и голосовыми помощниками стало частью повседневного опыта. Мы спрашиваем у нейросетей о погоде и пробках, просим переводить и сочинять тексты, проверяем их способности стихосложения и иногда даже делимся сокровенными секретами. СБъ уже не раз рассказывал о работе языковых моделей, которые делают боты более человечными. Предлагаем освежить знания и прочитать материал из глоссария про наиболее крупную и продвинутую языковую модель в мире – GPT-3
Нейросеть определяет богатые районы по снимкам из космоса
Алгоритм глубокого обучения по спутниковым снимкам проанализировал уровень жизни в отдельных географических регионах
Нейросети научили определять структуру белка
Исследователи из компании Google создали алгоритм, который распознает строение белка. Биологи решали эту задачу 50 лет
Нейросеть определяет дипфейки по губам
Группа исследователей из Беркли и Стэнфорда разработала инструмент, который находит нестыковки в аудио-визуальном потоке между положениями губ и произносимыми звуками
Как работают нейросети: подборка постов с пошаговыми разборами
Разбираем сложные технологии глубокого обучения, чтобы они становились понятны каждому
Редька-балерина и кресло-авокадо: нейросеть научилась рисовать изображения на заказ
DALL-E — нейросеть-трансформер с 12 миллиардами параметров, которую обучили генерировать изображения по произвольному текстовому описанию. Например, пишете ей «кресло в виде авокадо» — и получаете изображение, которое почти неотличимо от фотографии из салона дизайнерской мебели. Рассказываем, что еще умеет DALL-E
Определяем дату написания картины онлайн без регистрации и СМС
Научить нейросети понимать искусство пытаются уже много лет. И хотя про «понимание» говорить рано, некоторые задачи, ранее доступные лишь искусствоведу, они решают неплохо! Пример — датировка живописи. Рассказываем про систему, сделанную студентами МИСиС, которая может датировать картины — причем не только всем известные «Звездную ночь» или «Мона Лизу», но и полотна неизвестных художников. Кстати, эту модель может протестировать любой желающий!
Пазлы и искусственный интеллект: как улучшить нейросети при помощи игр
С помощью мобильных игр мы обычно расслабляемся и убиваем время. А вот новая игра от исследователей из Калифорнийского университета и фонда Шампалимо запущена для исследовательских целей — она изучает человека, чтобы улучшить искусственный интеллект. Разбираемся, к каким открытиям может привести игра-пазл
Возвращение четкого попугая: как нейросеть реставрирует старые советские мультфильмы
«Системный Блокъ» уже рассказывал, как «Союзмультфильм» вручную восстановил часть советских анимационных лент. Основная проблема старых мультфильмов — не физические повреждения и выцветание, а низкое разрешение видеозаписи.
Как работает GPT-2 и в чем его особенности
Все слышали о GPT-3, которая умеет сочинять стихи и прозу, разгадывать анаграммы, переводить, отвечать на вопросы по прочитанному тексту и даже писать философские рассуждения о жизни и смерти. Рассказываем, как работает ее бабушка, GPT-2, без которой такой прорыв в области обработки естественного языка был бы невозможен
Нейросеть читает вывески на улицах Лондона
Маленькие дети радуются, когда удается прочитать вывеску на улице. Нейросети тоже читают вывески, а некоторые еще и шрифт определяют. И если по почерку человека можно узнать его характер, то какую информацию о жителях городского района позволяет получить почерк улицы?
Нейросети-трансформеры изнутри: как работает декодер
Мы уже рассказывали, как работают нейросети-трансформеры — самая популярная и успешная нейросетевая архитектура наших дней. Мы подробно разобрались, как нейросеть-трансформер кодирует текст и как она уделяет «внимание» наиболее важным словам и связям. Теперь пришла пора поговорить о том, как нейросеть выдает итоговый результат, будь то машинный перевод, разметка или продолжение начатого текста. То есть, о декодировании
Как работают трансформеры — крутейшие нейросети наших дней
Трансформер — самая модная сегодня нейросетевая архитектура. Она появилась в 2017 и перевернула всю обработку языка машинами. Мы расскажем о структуре трансформера без кода — чтобы потом при взгляде на код вы могли понять, что он делает
Как нейросеть узнает растения и почему она ошибается
Автоматические определители живых организмов стоят на смартфонах миллионов любителей природы. Достаточно просто навести камеру на растение или животное, чтобы определить, что это. Разбираемся, как устроены такие приложения и что у них под капотом
Запутать нельзя угадать: как нейросети генерируют ложные приманки для тестов
Составлять тесты сложно: кроме правильного ответа надо придумать хотя бы три неправильных. Причем придумать их с умом: чтобы варианты не были слишком очевидно неверными — но и не оказались бы при этом подходящей альтернативой верному варианту. Хорошая новость в том, что скоро эту головоломную работу смогут выполнить за вас нейросети
Ожившие картины: Дали говорит с Моной Лизой
О чем разговаривает с посетителями голограмма Сальвадора Дали? Кто заставил шире улыбнуться Мону Лизу? Как компания Samsung оживляет лица? Разбираемся, как искусственный интеллект и нейросети вдыхают жизнь в портреты и фотографии знаменитых людей
Экспресс-дизайн или восстание машин: станут ли нейросети умнее нас
Нейросети делают работу за переводчиков, дизайнеров, журналистов и прочих людей умственного труда. Это заставляет задуматься: насколько интеллектуален искусственный интеллект и когда бездушные машины отнимут все наши рабочие места? Спойлер: нескоро
Внимание — все, что вам нужно: как работает attention в нейросетях
«Системный Блокъ» добрался до самых горячих технологий в мире современного глубокого обучения. Сегодня рассказываем о механизме внимания, на котором работают в 2020 году все действительно крутые нейросети. Почему внимание стало killer-фичей диплернинга, что под капотом у attention mechanism, как нейросеть понимает, какие признаки текста или картинки важнее других
Нейросеть помогла ученым разгадать античные тексты
Алгоритм умеет восстанавливать надписи, сделанные несколько тысяч лет назад — и, как утверждают создатели, делает это быстрее, чем профессиональные исследователи эпиграфисты
Очумелые ручки: ученые из MIT придумали умную перчатку
Исследователи из Массачусетского университета разрабатывают сенсорную перчатку, с помощью которой можно идентифицировать и обрабатывать тактильную информацию. А ее себестоимость составляет всего 10 долларов
Word2Vec: покажи мне свой контекст, и я скажу, кто ты
Разбираемся, как компьютеры понимают смысл наших текстов
Нейросеть расшифровала древние надписи
Исследователи из MIT и Google Brain объединились для создания алгоритма, который имеет шанс повторить подвиг Майкла Вентриса — он в 1950-е годы расшифровал одну из древних форм критского письма. Пока что нейросеть научилась читать угаритский, копируя типичные действия ученых-дешифровщиков
8 главных прорывов в нейросетевом NLP
Как компьютерная лингвистика подсела на нейронные сети и диплернинг, какие подходы сегодня в тренде и почему они так хороши
Как посмотреть на мир глазами нейросетей
Обученная нейросеть может точно предсказать цену дома по фотографии. Но как она это делает? Мы залезли «под капот» искусственному интеллекту — и разобрались в деталях
Как работают фильтры в Инстаграме: устройство свёрточных нейросетей
Разбираемся в том, как устроено компьютерное зрение, что такое ядро свертки — и при чем тут фильтры в Инстаграме
Минута помощи: как меняется медицина Китая
Медицина Поднебесной всегда отличалась оригинальностью, но сегодня иглоукалывание уступает позиции нейросетям
«Универсальные отпечатки» для взлома смартфонов
Нейросеть научилась обманывать биометрические сенсоры. Синтезированные с помощью машинного обучения отпечатки пальцев работают как универсальный ключ
«Черный ящик» нейросетей приоткрылся
Система искусственного интеллекта из MIT научилась объяснять свои решения через цепочки рассуждений. Теперь люди смогут понимать, почему нейросеть приняла столб за пешехода
Спасение утопающих ученых
Исследователи не справляются с растущим потоком научных статей: если читать все нужное, работать будет некогда. Как обычно, на помощь спешат роботы
Нейросеть и ведьма Винни: алгоритмы добрались до детских книжек
Искусственный интеллект научился разбираться в художниках
Как нейросеть пишет песни
Языковую модель на основе рекуррентной нейросети научили подбирать тексты под мелодию с учетом пауз и длительности нот. Разбираемся, как это сделано
Хакнуть мозг: 10 нейротехнологий для апгрейда головы
О перспективных нейротехнологиях и новых возможностях, которые они открывают
Нейросети и смерть автора
Стихи и тексты песен, написанные искусственными нейросетями, стали медийным мейнстримом. Но зачем они нужны? Может ли нейропоэзия помочь иследователю в анализе словесного искусства? Отвечает кандидат филологических наук Борис Орехов
Нейровоскрешение великого битника
Писатель-призрак и писатель-робот создали «посмертную» книгу Джека Керуака
Нейросеть научилась диагностировать депрессию
Скоро у тебя в смартфоне появится автоматический диагност, который первым заметит, что ты чот приуныл