Почему большие языковые модели не стоит считать самостоятельными субъектами

По словам исследователя AI Михаила Бурцева, большие языковые модели (LLM) не являются самостоятельными субъектами, хотя их ответы порой выглядят осмысленными и целенаправленными. Об этом он рассказал в материале «ПостНауки».

Механизм работы модели проще, чем кажется: она предсказывает следующее слово. Собственных намерений у неё нет, а то, что мы принимаем за целенаправленное поведение, задаётся обучением и контекстом. Люди настраивают модель так, чтобы одни ответы появлялись чаще, другие — реже, а сами ответы были полезны для решения задач.

Если модель начинает выдавать что-то вредное, её можно переобучить, ограничить или просто отключить. Подробнее о том, что умеют и чего не умеют современные LLM, Бурцев объясняет в лонгриде «ПостНауки».