Соучредитель Ethereum Виталик Бутерин выступил с критикой тренда на создание «чрезмерно агентных» ИИ-моделей, которые работают с минимальным вмешательством человека. Он отметил, что усиление человеческого контроля повышает не только качество результатов, но и безопасность.

Поводом для комментария стал пост экс-директора по ИИ в Tesla Андрея Карпатого, который обратил внимание, что современные языковые модели становятся слишком самостоятельными из-за ориентации на длительные задачи. По его словам, это снижает удобство при итеративной разработке и быстрых тестах кода.

Бутерин согласился, подчеркнув, что открытые модели с функциями редактирования предпочтительнее генерации с нуля. Он также предложил концепцию интерфейса «мозг — компьютер», способного в реальном времени учитывать реакцию пользователя и подстраивать работу ИИ.

Реакция сообщества разделилась: одни поддержали идею большего контроля, другие считают, что поведение моделей можно настроить промптом без изменения базовой автономности.

Источник