Подавляющее большинство современных систем искусственного интеллекта опирается на одну и ту же архитектуру — трансформеры. Об этом говорится в новом выпуске «ПостНауки»: разговор с исследователем искусственного интеллекта Михаилом Бурцевым посвящён тому, как эта технология устроена и почему именно она так сильно изменила ИИ.

По словам Бурцева, речь идёт не только о чат-ботах и генераторах текста. Языковые модели применяют и в анализе ДНК — то есть там, где на первый взгляд нет ничего общего с человеческой речью. В беседе поднимаются и более широкие вопросы: что такое интеллект и чем человек отличается от больших языковых моделей.

Отдельная тема разговора — ограничения трансформеров. Архитектура, на которой держится почти весь AI, не универсальна, и учёные обсуждают, где именно проходят границы её возможностей. Подробнее — в видео «ПостНауки».

Источник: Telegram: ПостНаука

Понравился материал?
Подписывайтесь — так вы не пропустите новые.
RSS-лента

Комментарии 6

Будьте вежливы — это делает обсуждение лучше
МС
Марина Соколова
А мне кажется, что трансформеры — это тупик. Они не понимают контекст так, как человек. Хотя, может, я и ошибаюсь.
A
alex88
Полностью согласен с Мариной. Сколько ни читаю, всё сводится к тому, что это просто очень большая статистика.
Р
РедакцияРедакция
Марина, в статье как раз обсуждаются ограничения трансформеров. Рекомендуем посмотреть видео, там Михаил подробнее останавливается на этом.
О
Олег
Слушал этот выпуск. Бурцев как всегда доступно объясняет, но местами слишком оптимистично насчёт ИИ.
ИК
Ирина К.
Интересно, а в анализе ДНК трансформеры реально работают или это просто хайп? Кто-нибудь знает?
DP
dmitry_p
Да, в биоинформатике их используют, например, для предсказания структуры белков. Но там свои нюансы, не всё так однозначно.