В этом месяце было опубликовано новое исследование AAAI (Ассоциация по продвижению искусственного интеллекта) с участием сотен исследователей в области ИИ, и главный вывод может вас удивить: текущие подходы к ИИ, как кажется, вряд ли приведут нас к созданию искусственного общего интеллекта.
Слово «ИИ» стало модным в последние годы, но сама область исследований существует уже несколько десятилетий. Хорошо известная работа Алана Тьюринга «Вычислительные машины и разум» и тест Тьюринга, обсуждаемые и по сей день, были опубликованы в 1950 году.
Современный ИИ, о котором мы говорим, вырос на основе этих многолетних исследований, однако он также начинает от них отклоняться. Вместо того чтобы оставаться исключительно научным направлением, мы сейчас наблюдаем явление, которое можно назвать «коммерческим ИИ».
Разработка коммерческого ИИ ведется крупными технологическими компаниями, такими как Microsoft, Google, Meta, Apple и Amazon. Их основная цель — создавать продукты на базе ИИ. И хотя в этом нет ничего плохого, ситуация, похоже, может быть несколько иной.
Во-первых, так как большинство людей никогда не интересовались исследованиями в области ИИ до недавнего времени, все, что средний человек знает об ИИ, поступает от этих компаний, а не от научного сообщества. Исследование касается этого в главе «Восприятие ИИ vs. Реальность», где 79% ученых считают, что текущее восприятие возможностей ИИ не совпадает с реальностью исследований и разработок в этой области.
Иными словами, то, что общественность думает об ИИ, не соответствует мнению ученых о его настоящих возможностях. Причина проста и печальна: когда представитель крупной технологической компании говорит о ИИ, это не научное мнение — это реклама конкретного продукта. Они стремятся создать шумиху вокруг технологий своих новинок и убедить всех присоединиться к этому тренду.
Когда, например, Сэм Альтман или Марк Цукерберг утверждают, что работы программистов заменит ИИ, это делается с целью убедить их освоить навыки в области ИИ и побудить компании вкладывать средства в дорогие корпоративные программы. Однако, пока они не начнут заменять своих же инженеров (и не получат от этого выгоду), я, например, не могу воспринимать их мнения всерьез.
Тем не менее, влияние коммерческого ИИ не ограничивается только общественным восприятием. Участники исследования считают, что «ажиотаж вокруг ИИ», созданный крупными компаниями, негативно влияет на усилия по проведению исследований. Например, 74% согласны с тем, что направление исследований в области ИИ формируется именно под влиянием этого ажиотажа — вероятно, потому что проекты, соответствующие коммерческим целям, легче финансировать. 12% также полагают, что теоретическим исследованиям ИИ это вредит.
Так насколько же это серьезная проблема? Даже если крупные компании действительно влияют на направляемую науку, кажется, что огромные суммы, которые они вкладывают в эту область, должны позитивно сказывать на общем прогрессе. Однако разнообразие важно в мире исследований — нам необходимо исследовать разные пути, чтобы увеличить шансы на нахождение оптимального решения.
На данный момент крупные компании сосредоточены только на одной категории — больших языковых моделях. Эти модели являются основой большинства новых продуктов на базе ИИ, и такие фигуры, как Сэм Альтман, уверены, что дальнейшее масштабирование этих моделей (т.е. добавление большего объема данных, времени на обучение и вычислительных мощностей) в конце концов приведет к созданию искусственного общего интеллекта.
Эта вера, известная как гипотеза масштабирования, утверждает, что чем больше возможностей мы предоставим ИИ, тем больше будут расти его когнитивные способности, и тем меньше будет число ошибок. Некоторые интерпретации также предполагают, что новые когнитивные способности могут проявиться неожиданно. То есть, хотя большие языковые модели сейчас не очень хороши в планировании и решении проблем, эти навыки могут появиться со временем.
there is no wall
Тем не менее, в последние месяцы гипотеза масштабирования подвергается значительной критике. Некоторые исследователи уверены, что масштабирование LLM никогда не приведет к AGI и что вся дополнительная мощность, которую мы предоставляем новым моделям, больше не приносит ощутимых результатов. Вместо этого мы столкнулись с «ограничением масштабирования», когда огромные объемы вычислительной мощности и данных лишь незначительно улучшают новые модели. Большинство ученых, участвовавших в исследовании AAAI, согласны с этой точкой зрения:
76% респондентов считают, что «масштабирование текущих подходов к ИИ» для достижения AGI «маловероятно» или «очень маловероятно» и это ставит под сомнение достаточность текущих парадигм машинного обучения для достижения общего интеллекта.
Современные большие языковые модели действительно могут выдавать весьма релевантные и полезные ответы, когда все идет гладко, но они основываются на математических принципах. Множество ученых считают, что нам необходимо разработать новые алгоритмы, учитывающие рассуждение, логику и знания о реальном мире, если мы хотим приблизиться к созданию AGI. Вот одна запоминающаяся цитата о LLM и AGI из статьи 2022 года, написанной Джейкобом Браунингом и Яном Лекуном:
Система, обученная только на языке, никогда не приблизится к человеческому разуму, даже если ее обучать до тепловой смерти Вселенной.
Тем не менее, сейчас невозможно точно определить, кто из них прав — по крайней мере, пока. Во-первых, определение AGI не является фиксированным, и не все придерживаются одного мнения. Некоторые считают, что AGI должен давать ответы, схожие с человеческими, с помощью человеческих методов — то есть наблюдая за окружающим миром и решая проблемы аналогичным образом. Другие полагают, что AGI должен в первую очередь стремиться к правильным ответам, не заботясь о том, как они были получены.
В конечном счете, не столь важно, к какому подходу AGI вы склоняетесь или поддерживаете ли вы гипотезу масштабирования — нам жизненно необходимо разнообразить наши исследования. Если мы сосредоточимся исключительно на масштабировании LLM и это не даст результатов, нам придется начинать все с нуля, упустив возможность открыть новые, более эффективные методы. Многие ученые, участвующие в этом исследовании, опасаются, что коммерческий ИИ и связанная с ним шумиха замедлят реальные достижения — но все, что мы можем делать, это надеяться, что их опасения будут услышаны, и обе ветви исследований в области ИИ смогут сосуществовать и развиваться. А вы также можете надеяться, что пузырь ИИ лопнет, и все продукты на основе ИИ исчезнут, если это вам ближе.
Если вам понравилась эта статья, подпишитесь, чтобы не пропустить еще много полезных статей!
Вы также можете читать наши материалы в:
- Telegram: https://t.me/gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru
